הדוקטור שבצ'אט: למה לא כדאי לשתף את ה-AI בכל מה שכואב לכם

חברת אבטחת המידע והסייבר ESET מזהירה כי שימוש בצ'אטבוטים לקבלת מידע רפואי עלול להוביל להסתמכות על תשובות שגויות ולחשיפת מידע רפואי רגיש

השימוש בצ'אטבוטים מבוססי AI עבור שאילת שאלות וקבלת מידע טיפולי או רפואי הופך לנפוץ יותר ויותר. המשתמשים פונים לכלים אלה כדי לאבחן ולהבין תסמינים, לפרש תוצאות בדיקות, לקבל הסבר על מונחים רפואיים או להתכונן לשיחה עם רופאים ואנשי רפואה. במקביל, גם ענקיות טכנולוגיה נכנסות לתחום עם שירותים ייעודיים לבריאות צרכנית, המזמינים את המשתמשים לשאול שאלות על מסמכים רפואיים, תסמינים ואפשרויות טיפול.

בחברת אבטחת המידע והסייבר ESET מזהירים כי לצד הנוחות והזמינות, שימוש בצ'אטבוטים לצורך ייעוץ רפואי מעלה שני סיכונים מרכזיים: קבלת מידע שגוי או מטעה, וחשיפה של מידע רפואי אישי ורגיש. מערכות ה-AI עשויות לספק תשובות שנשמעות בטוחות ומשכנעות, גם כאשר הן אינן מדויקות, חסרות הקשר רפואי חשוב או אינן מתאימות למקרה הספציפי של המשתמש. בתחום הבריאות, הסתמכות על תשובה כזו עלולה להוביל לדחיית פנייה לרופא או להתעלמות מתסמינים שמחייבים טיפול.

לדברי גיל שטרן, מנהל השיווק בקומסקיור, המפיצה הרשמית של ESET בישראל, "בינה מלאכותית יכולה לסייע בהבנת מושגים רפואיים, בהכנת שאלות לרופא או בקבלת מידע כללי, אבל היא לא תחליף לגורם רפואי מוסמך. הבעיה היא שהצ'אטבוטים עונים לעיתים בביטחון רב גם כאשר התשובה אינה מדויקת או אינה מתאימה למקרה הספציפי, ולפעמים רק מבלבלת את המשתמש במקום להציג תשובה ברורה או מציעה למשתמש לפנות לגורם רפואי אנושי. במקביל, משתמשים צריכים להבין שמידע רפואי הוא אחד מסוגי המידע הרגישים ביותר שיש להם. לפני שמזינים אותו לכלי AI, חשוב לבדוק מי שומר את המידע, האם הוא משמש לאימון המודל, האם הוא עובר לצדדים שלישיים ומהן הגדרות הפרטיות של השירות".

על פי מחקר של אוניברסיטת אוקספורד שפורסם ב-Nature Medicine נמצא כי משתמשים לא תמיד יודעים איזה מידע עליהם לשתף עם מודלי AI, וכי המודלים עשויים לספק תשובות שונות מאוד גם כאשר השאלות משתנות רק במעט, שכן התשובה נשענת על סמך הפרומפט שהמשתמש מכניס. עוד נמצא כי במקרים מסוימים המודלים משלבים עצות מועילות עם עצות בעייתיות, באופן שמקשה על המשתמשים להבחין בין השתיים.

לצד הסיכון הרפואי, ב-ESET מדגישים את סיכון הפרטיות. משתמשים עלולים להזין ל-AI מידע רפואי חסוי, אישי ורגיש במיוחד, כמו תסמינים, תוצאות בדיקות, מסמכים רפואיים, פרטי ביטוח או פרטים מזהים. בניגוד לפרטי כרטיס אשראי שניתן לבטל או להחליף, מידע רפואי מלווה את האדם לאורך חייו, ואם הוא נשמר, מועבר לצדדים שלישיים או נחשף בדליפת מידע, הנזק עלול להיות ממושך וקשה לתיקון.

כדי לצמצם את הסיכון, שטרן ממליץ ש"לא להעלות לצ'אט עם ה-AI מסמכים רפואיים, תוצאות בדיקות או מידע מזהה לפני שמבינים כיצד המערכת מטפלת במידע. מומלץ להימנע מהזנת שם מלא, כתובת, מספר תעודת זהות, פרטי ביטוח או מספר מטופל, ולשתף רק את המידע המינימלי הדרוש, ועדיף לנסח שאלות בצורה כללית ולא פרטנית אישית. בנוסף, כדאי לבדוק האם ניתן לכבות שימוש בהיסטוריית השיחות או באימון המודל, ולהעדיף שירותים שמסבירים בצורה ברורה כיצד הם מגנים על פרטיות המשתמשים".

ב-ESET מוסיפים כי אין להתייחס לתשובות של צ'אטבוטים כאל אבחנה רפואית, גם אם הן מנוסחות בביטחון או כוללות קישורים למקורות. ניתן להשתמש בכלי AI כדי להבין מונחים רפואיים, לנסח שאלות לרופא או לקבל רקע כללי, אך החלטות רפואיות צריכות להתבסס על גורם מקצועי מוסמך או על מקור רפואי רשמי. במקרה של תסמינים חריגים או דחופים, אין להסתמך על מענה אוטומטי ויש לפנות לטיפול רפואי מתאים.

אודות  ESET

ESETהיא חברת אבטחת מידע בינלאומית הפועלת מאז שנת 1992 ומתמחה בפיתוח פתרונות הגנה מתקדמים עבור עסקים, ארגונים ומשתמשים פרטיים. מוצרי החברה: מוצרי הגנה רב שכבתית, מערכות למניעת חדירה, הגנת מכשירים ניידים ויישומים ייעודיים לאבטחת תשלומים דיגיטליים. מטה החברה ממוקם בברטיסלאבה שבסלובקיה, והיא פעילה בלמעלה מ-200 מדינות ואזורים ברחבי העולם. החברה נחשבת לאחת הוותיקות והמובילות בתחום אבטחת הסייבר, ומציעה מגוון רחב של פתרונות לזיהוי איומים בזמן אמת והגנה רב שכבתית. מוצרי ESET מופצים בארץ בבלעדיות על ידי חברת קומסקיור.