כולנו מטרה: אוטומציה של phishing ובינה מלאכותית גנרית

מאת: אופיר קפלושניק, מנהל תחום הנדסת פתרונות ב-F5 לאזורי ישראל, ספרד ויוון

לפני זמן לא רב, יכולנו לזהות הודעות דוא"ל החשודות כהודעות phishing לפי האיות הגרוע, השגיאות הדקדוקיות והתחביר הלא-אנגלי שלהן. יכולנו לזהות תרמיות בשימוש נרחב כמו הונאת הנסיך הניגרי. רובנו לא התמודדנו עם phishing מכיוון שחקר הרקע שלנו ויצירת מסרים מותאמים אישית היו יקרים עבור פושעים. עם AI גנרטיבי, יצירת מסרים מותאמים אישית, הופכת לקלה וזולה וכאנשי אבטחה, אנחנו צריכים להתכונן להשלכות.

יש סימנים לכך שהאיום הזה קרוב ביניהם: דיווחים על כלי תקיפה חדשים למכירה ברשת האפלה, כולל WormGPT ו-FraudGPT, מצביעים על כך שפושעים החלו להתאים בינה מלאכותית גנרטיבית למטרות מרושעות, כולל phishing. בעוד שהשימוש בטכנולוגיה זו עדיין לא הגיע לאוטומציה מקצה לקצה, בקנה מידה גדול, הדינמיקה הכלכלית של פשעי סייבר הופכת את הפיתוח לכמעט בלתי נמנע.

בכלכלת פשעי הסייבר, יש התמחות שמניעה חדשנות. הפורום הכלכלי העולמי (WEF) מעריך שפשיעת סייבר היא כעת הכלכלה השלישית בגודלה בעולם, אחרי ארצות הברית וסין, עם עלויות הצפויות להגיע ל-8 טריליון דולר ב-2023 ו-10.5 טריליון דולר ב-2025. כלכלת פשעי הסייבר כוללת ספקים עם התמחויות: ישנם ספקים שמוכרים פרטים גנובים, גישה לחשבונות פרוצים, וכאלו המציעים פרוקסי של כתובות IP לעשרות מיליוני כתובות IP residential.

בינה מלאכותית גנרטיבית מאפשרת אוטומציה מקצה לקצה של הונאת phishing, מוזילה את העלות ומרחיבה את השימוש בה. האם העבודה הזו יכולה להיות אוטומטית? בְּהֶחלֵט. התוקפים הופכים את חיפוש התוכן במדיה חברתית לאוטומטי, משיגים אישורים ומשתלטים על חשבונות כדי לאסוף מידע. וכך, באמצעות אוטומציה, התוקפים יכולים לבנות גרף ידע על חיי מטרה.

בעזרת גרף הידע הזה, התוקפים יכולים להזין מידע אישי לשירות דמוי ChatGPT – שפועל ללא אמצעי הגנה אתיים כדי ליצור הודעות phishing יעילות. התוקף יכול ליצור רצפים שלמים של הודעות המשתרעים על פני מספר ערוצים, ממייל ועד מדיה חברתית, עם הודעות שמקורן במספר חשבונות מזויפים, שלכל אחד מהם דמות מעוצבת שנוצרה על סמך נטיות שירכשו את אמון המטרה.

יתרה מכך, ישנם ספקי phishing כשירות, המציעים ערכות כלים כוללות מתבניות דוא"ל ועד לאתרי פרוקסי phishing בזמן אמת. בעוד ספקי ה-Phishing מתחרים כדי לזכות בעסקי הפשיעה, הזוכים יהיו ארגונים המספקים שירות Phishing מקצה לקצה בעלות הנמוכה ביותר – דינמיקה שעשויה להניע קדימה את האוטומציה של phishing.

בהתחשב בעליה הצפויה במתקפות Phishing, להלן הצעות לארגונים כיצד להיערך:

• הדרכה למודעות: חשוב להדריך עובדים, באופן קבוע, לגבי הסכנות של phishing : זיהוי מיילים חשודים ואילו צעדים לנקוט אם הם נתקלים בניסיון phishing אפשרי. ההכשרה תצטרך להעמיק כדי להכשיר אנשים לחפש בקשות ממקור לא מהימן ומאומת, בביצוע קמפיינים מדומים של phishing לבדיקת יכולת העובדים לזהות מיילים חשודים, בשימוש בהודעות phishing כתובות היטב, מקצועיות, ממוקדות לעובדים ספציפיים, ממקורות שנראים לגיטימיים.
• התגונות מפני פרוקסי phishing בזמן אמת: תוקפים משתמשים לעתים קרובות בphishing- כדי לעקוף אימות רב-גורמי (MFA) באמצעות פרוקסי phishing בזמן אמת. הפושעים משתמשים בphishing כדי לשטות במשתמשים כך שיכניסו את האישורים והסיסמה החד-פעמית שלהם לאתר שהם שולטים בו, וממנו הם שולחים אח"כ לאפליקציה האמיתית כדי לקבל גישה.
• הגנה נחושה מפני השתלטות על חשבון: פושעים משיגים שליטה במספר עצום של חשבונות באמצעות מילוי אישורים ע"י בוטים. בנוסף להונאה פיננסית, פושעים אוספים נתונים אישיים נוספים ממקורות שונים כדי להשתמש בהם בהתקפות phishing. הגנה יעילה מפני בוטים דורשת איסוף אותות עשיר ולמידת מכונה.
• שימוש בבינה מלאכותית כדי להילחם בבינה מלאכותית: כאשר פושעים מנצלים בינה מלאכותית גנרטיבית לביצוע הונאה, ארגונים צריכים למנף בינה מלאכותית כזו להגנתם. נדרש כלי הגנה המנטר עסקאות בזמן אמת מכל פעילויות המשתמש כדי לזהות פעילות זדונית ולספק שיעורי זיהוי הונאה מדויקים. אם אתם יכולים לזהות הונאה בתוך יישומים, הנזק של phishing יפחת. בדיקת תעבורה עם AI דורשת פענוח תעבורה יעיל, דבר שניתן לבצע עם Orchestration TLS.

מה הלאה?

בינה מלאכותית גנרטיבית מציבה בבירור קבוצה חדשה של אתגרי אבטחה. עם תחילתה של מתקפת phishing עלינו לבטל הרבה מהיוריסטיקות האמון שלנו. בעוד שבעבר אולי ניתן אמון בהתבסס על מראית עין של מקצועיות, כעת אנו זקוקים לפרוטוקולים קפדניים יותר לקביעת אמיתות התקשורת. אנחנו צריכים להיות חשדניים יותר בעידן החדש הזה של מסעות פרסום שגויים, Deep Fake ומתקפות  .phishing