IT News פורטל המחשוב העסקי וההייטק של ישראל
אפליקציות "הפשטה" מבוססות AI מסוגלות לקחת תמונה רגילה של אדם לבוש ולהפוך אותה בתוך זמן קצר לתמונה אינטימית מזויפת שנראית אמיתית. בחברת אבטחת המידע והסייבר ESET מזהירים כי הכלים האלה כבר משמשים להטרדה, השפלה, סחיטה ופגיעה בפרטיות, כאשר בני נוער וצעירים נמצאים בין הקבוצות החשופות במיוחד לתופעה.
תמונה אחת שהועלה לרשתות החברתיות מספיקה כיום כדי לייצר ממנה תמונה אינטימית מזויפת. הכלים האלה, שמכונים באנגלית Nudify, כלומר אפליקציות "הפשטה" דיגיטליות, משתמשים בבינה מלאכותית ובטכנולוגיות דיפ-פייק נעזרים בצילום של אדם לבוש, ויוצרים ממנו גרסה סינתטית שבה הוא נראה עירום, לעיתים ברמת אמינות שמקשה להבין מיד שמדובר בזיוף.
"אנחנו רגילים לחשוב על דיפ-פייק בעיקר בהקשר של סרטונים מזויפים או התחזות לאנשים מוכרים, אבל כאן מדובר באיום הרבה יותר אישי ומיידי", אומר אלכס שטיינברג, מנהל מוצרי ESET בחברת קומסקיור, המפיצה הבלעדית של ESET בישראל. "העובדה שהתמונה נוצרה באמצעות AI ולא צולמה במציאות לא הופכת את הפגיעה לפחות חמורה. מבחינת הקורבן, מספיק שהתמונה תגיע לחברים, למשפחה, לבית הספר או למקום העבודה כדי לגרום לנזק משמעותי".
הבעיה אינה מסתכמת ביצירת התמונה עצמה. תמונות כאלה עלולות לשמש להטרדה, בריונות ברשת, השפלה או ניסיונות סחיטה, וברגע שהן מתחילות לעבור בין משתמשים, קבוצות ופלטפורמות שונות, קשה מאוד לעצור את ההפצה שלהן לחלוטין.
תעשייה של מיליוני משתמשים
היקף הפעילות סביב הכלים האלה כבר רחוק מלהיות שולי. מחקר של Institute for Strategic Dialogue ושל AI Security Institute זיהה 181 אתרים שמציעים שירותי "הפשטה" מבוססי AI, שאליהם הגיעו יחד כ-40 מיליון מבקרים ייחודיים בחודש. מיליוני משתמשים נוספים הגיעו לשירותים האלה דרך פלטפורמות כמו YouTube, X, Reddit ו-Facebook.
החשש גובר במיוחד כאשר מדובר בבני נוער, שכן לפי הנתונים של ESET, כמעט מחצית מבני הנוער בארה"ב דיווחו כי נחשפו לתוכן מיני שנוצר באמצעות AI, וכרבע מבין אלה שנחשפו לתוכן כזה סיפרו כי הוא הציג אותם עצמם או אדם שהם מכירים.
לדברי שטיינברג, אחד הדברים שהופכים את התופעה למסוכנת במיוחד הוא שלא תמיד נדרשת פריצה לחשבון או גישה לחומר פרטי. "במקרים רבים מספיק לקחת תמונה רגילה שכבר נמצאת ברשת. ככל שאנחנו מפרסמים יותר תמונות באופן פתוח, כך אנחנו מספקים יותר חומר שאפשר לערוך, לעבד ולהשתמש בו מחוץ להקשר המקורי".
איך מצמצמים את הסיכון?
ב-ESET מדגישים כי אין צורך להפסיק לפרסם תמונות או להיעלם מהרשת, אבל כן חשוב לבדוק מי יכול לצפות בהן. מומלץ לעבור על הגדרות הפרטיות ברשתות החברתיות, לצמצם את החשיפה של תמונות אישיות, להשתמש בסיסמאות ייחודיות ובאימות דו-שלבי, ולהיזהר לפני שמעלים תמונות לאפליקציות חדשות או לשירותי AI שאינם מוכרים. גם העובדה שאפליקציה זמינה בחנות הרשמית של מערכת ההפעלה אינה מבטיחה בהכרח שהיא בטוחה.
כאשר מדובר בילדים ובני נוער, חשוב לדבר איתם גם על התופעה ולהסביר שגם תמונה תמימה יכולה לשמש ליצירת זיוף. בנוסף, חשוב שהם ידעו מה לעשות אם מישהו שולח להם תמונה כזו, מאיים להפיץ אותה או דורש מהם משהו בתמורה.
"אם ילד או ילדה מספרים שנוצרה או הופצה תמונה מזויפת שלהם, הדבר החשוב ביותר הוא להגיב מהר ולא להתעלם", אומר שטיינברג. "ככל שפועלים מוקדם יותר, אפשר לשמור ראיות, לדווח לפלטפורמות ולנסות לצמצם את ההפצה".
ומה עושים אם התמונה כבר הופצה?
אם תמונה אינטימית מזויפת כבר הופצה או משמשת לאיום וסחיטה, ההמלצה היא לא להיגרר לשיחה עם מי שעומד מאחורי האירוע, אלא לשמור הודעות, שמות משתמש, כתובות אינטרנט, צילומי מסך ותאריכים. לאחר מכן מומלץ לפנות לפלטפורמה שבה הופיע התוכן ולבקש את הסרתו.
קיימים גם שירותים כמו StopNCII.org, שמסייעים לזהות ולהסיר עותקים של תמונות אינטימיות ללא הסכמה, ובמקרה של קטינים קיים גם שירות Take It Down של NCMEC. במקביל, ניתן לפנות לגוגל ולבקש להסיר את התמונה או את העמוד מתוצאות החיפוש. כמו כן, מומלץ מאוד לפנות למשטרה ולדווח על העבירה וההטרדה, ולהיעזר באגף הסייבר שלה.
"הטכנולוגיה הפכה את היכולת לייצר זיופים כאלה לפשוטה ונגישה הרבה יותר", מסכם שטיינברג. "לכן היום לא מספיק לשאול מי יכול לראות את התמונה שהעלינו, אלא גם מה מישהו אחר יכול לעשות איתה אחרי שהיא כבר נמצאת ברשת".
אודות ESET
חברת אבטחת המידע והסייבר ESET מספקת פתרונות הגנה מתקדמים לארגונים, לתשתיות קריטיות ולמשתמשים פרטיים ברחבי העולם, ומסייעת להם לחזק את החוסן הדיגיטלי ולפעול בביטחון בעולם שהופך למבוסס יותר ויותר על בינה מלאכותית. עם יותר מ-35 שנות ניסיון בתחום הסייבר, למעלה מ-25 שנות חדשנות בתחום הבינה המלאכותית ו-11 מרכזי מחקר ופיתוח ברחבי העולם, ESET מפתחת טכנולוגיות קנייניות להתמודדות עם איומי סייבר מתפתחים ולהגנה על הסביבה הדיגיטלית ועל אקו-סיסטם ה-AI. החברה פועלת על בסיס מחקר מדעי, גישה פרואקטיבית לאבטחה ושילוב בין טכנולוגיה מתקדמת, בינה מלאכותית ומומחיות אנושית. מטה החברה נמצא באיחוד האירופי, היא נמצאת בבעלות פרטית, ומגנה כיום על מיליוני משתמשים ועל יותר מ-500 אלף ארגונים ב-178 מדינות. מתוך מחויבות לשימוש אחראי ב-AI ולאמון הלקוחות, ESET פועלת לאפשר לארגונים ולמשתמשים ליהנות מהיתרונות שהקדמה הטכנולוגית מציעה, תוך שמירה על רמת הגנה גבוהה בסביבה דיגיטלית המשתנה ללא הרף.
