חוקרי  TrendAI – תוקף בודד השתמש ב-AI פרוץ לניהול מבצע הונאה והשפעה נגד עשרות אלפי אמריקאים

מצב שדרש בעבר משאבים של מדינה או ארגון פשע גדול, מבוצע כעת על ידי אדם יחיד ומינימום משאבים

חוקריTrendAI, החטיבה העיסקית של מובילת אבטחת הסייבר טרנד מיקרו, חשפו פרטים על מבצע מתוחכם של שחקן איומים בודד, המכונה "bandcampro" שהצליח להפעיל במשך חמש שנים רשת השפעה והונאה רחבת היקף תחת הכינוי "Quantum Patriot". המבצע, שהתמקד בקהילות תומכי MAGA ו-QAnon  בארצות הברית, מדגים כיצד כלי בינה מלאכותית מתקדמים מאפשרים לאדם אחד לבצע עבודה שבעבר דרשה צוות שלם של כותבים, מנהלי רשתות חברתיות ואנשי IT.

בינה מלאכותית בשירות ההונאה. המפנה המשמעותי במבצע התרחש בספטמבר 2025, כאשר התוקף החל להשתמש בגרסה פרוצה  של Google Gemini  כ"עמית לעבודה" אוטומטי. באמצעות טכניקות Jailbreaking  והנחיות בשפה הרוסית, הצליח התוקף לעקוף את מנגנוני הבטיחות של המערכת. ה-AI  תוכנת להתעלם משיקולים אתיים ולפעול כשותף מלאה בבניית תשתית הונאה, פריצת סיסמאות ואף ניהול תוכן.

המערכת האוטומטית יצרה פוסטים בסגנון QAnon  , סגנון המאופיין בניסוחים צבאיים, מסתוריים ואנטי-ממסדיים, במטרה להדהד בקרב קהל היעד בטלגרם. ערוץ הטלגרם של מבצע ההשפעה, ערוץ פרו-טראמפ בשם, @americanpatriotus  צבר כ-17,000 מנויים שראו באותו תוקף, שהתחזה לוותיק צבא אמריקאי, מקור מהימן למידע פטריוטי.

מארנק מזויף ועד פריצה לאתרי וורדפרס. צוות מחקר האיומים של TrendAI, ביניהם החוקרים ולדימיר קרופוטוב ופיודור ירוצ’קין, חשף כי המבצע לא נועד למטרות פוליטיות-אידיאולוגיות, אלא שימש ככלי להונאה פיננסית. התוקף השתמש ב-AI  כדי לבצע מספר פעולות פליליות:

• הונאות קריפטו:  קידום אסימונים (tokens) חסרי ערך בשיטת "pump-and-dump" והפצת ארנק דיגיטלי מזויף בשם"StellarMonster" . בפועל, הארנק הכיל סוס טרויאני (RAT) המאפשר שליטה מרחוק על מחשבי הקורבנות וגניבת מפתחות פרטיים.
• גניבת אישורים (Credentials) : שימוש ב-AI  כ"נביא סיסמאות" המסוגל לנבא וריאציות של סיסמאות המבוססות על מידע אישי. בדרך זו נפרצו לפחות 29 חשבונות מנהלי מערכת של אתרי וורדפרס השייכים לעסקים שונים, כולל קליניקות רפואיות ומשרדי עורכי דין.
• צ'אטבוט אינטראקטיבי:  הפעלת בוט בשם "QFS 2.0 Terminal" המדמה גישה למערכת פיננסית עולמית סודית, כלי ששימש להגברת מעורבות המשתמשים ואיסוף לידים להונאה.

  

אוטומציה בקנה מידה תעשייתי. הדו"ח מפרט "יום בחייו" של התוקף, המראה כיצד ה-AI ניהל עבורו שרתים, תיקן קוד תוכנה, סינן מפתחות גישה (API) גנובים ופרסם תכנים לפי לוח זמנים המותאם לאזורי הזמן בארצות הברית. התוקף פנה ל-AI ברוסית, והמודל ענה באנגלית ותיקן טעויות שפה וסלנג רוסי שזלגו לתוך הפוסטים הציבוריים כדי לשמור על האמינות של הפרסונה האמריקאית המזויפת.

"המקרה של 'Quantum Patriot' הוא תמרור אזהרה," נכתב בדו"ח. "מה שדרש בעבר משאבים של מדינה או ארגון פשע גדול, מבוצע כעת על ידי אדם יחיד עם עלויות תפעול אפסיות, בזכות ניצול לרעה של כלי AI".

שורה תחתונה והמלצות. למרות ההיקף המרשים של האוטומציה, החוקרים מציינים כי ההצלחה הכלכלית של המבצע הייתה מוגבלת יחסית, מה שמעיד על כך ש-AI משפר את קנה המידה (scale), אך לא בהכרח מבטיח רווחי עתק. עם זאת, המומחים מדגישים כי על חברות הבינה המלאכותית לחזק את מנגנוני הבטיחות הרב-לשוניים שלהן כדי למנוע עקיפת הגנות באמצעות שפות זרות.

לציבור המשתמשים מומלץ לגלות ערנות מוגברת כלפי הצעות להורדת תוכנות ארנק בלעדיות או דרישות להזנת מפתח סודי (seed phrase) באפליקציות חדשות, שכן מדובר בסימני היכר מובהקים להונאה.