זהירות: מתקפות פישינג ב-Gmail

Experis Cyber עדכנה אודות אותרה שיטה מתוחכמת להחדרת הנחיות זדוניות באמצעות כלי סיכום המיילים של Gimini שחושף את משתמשי Gmail למתקפות פישינג.

לפי הדו"ח, אותו הוציאה החברה ללקוחותיה השבוע, חוקרים גילו דרך לנצל את כלי הסיכום של (Google) Gemini ב-Gmail כדי להציג סיכום למייל המתקבל בחשבון אשר נראה אמין, אך כולל אזהרות מזויפות והוראות זדוניות שמובילות למתקפות פישינג. התקיפה מבוססת על "prompt injection" - כלומר, פקודות סמויות המושתלות בתוך טקסט של מייל, מבלי לכלול קישורים או קבצים מצורפים. הפקודה המוסתרת מוסתרת בעזרת HTML ו-CSS כך שהטקסט לא יוצג למשתמש - גופן בגודל אפס וצבע לבן.

הדוא"ל הזדוני מצליח לעבור את מסנני האבטחה של Gmail מכיוון שהוא אינו מכיל קישורים או קבצים חשודים. ברגע שהמשתמש מבקש מ-Gemini לסכם את המיל שהתקבל בחשבון ב-Gmail שלו, הבינה המלאכותית מבצעת את הפקודות הסמויות, לדוגמה - הצגת אזהרה שהסיסמה של המשתמש דלפה. הדוגמה שהוצגה כוללת גם מספר טלפון של "תמיכה טכנית" מזויפת שאליו המשתמש מתבקש לפנות. המשתמש עלול לסמוך על הסיכום של Gemini כחלק ממערכת Google Workspace ולכן לחשוב שמדובר באזהרה אמיתית.

התקיפה פורסמה במסגרת תוכנית bug bounty של Mozilla בשם 0DIN ע"י החוקר Marco Figueroa. אחת ההמלצות להגנה היא לסנן טקסטים שמוסתרים באופן יזום בגוף ההודעה או לבדוק סיכומים של Gemini שמכילים אזהרות, מספרים או קישורים. משתמשים צריכים לדעת ש-Gemini אינו מקור אמין בכל הקשור להתראות אבטחה - מדובר בכלי עזר בלבד.

Google טוענת שהיא מקשיחה את ההגנות שלה מול תקיפות מהסוג הזה, בין היתר באמצעות תרגולים פנימיים ("red-teaming") שמאמנים את המודלים להתמודד עם תקיפות עוינות. דובר מטעם Google ציין שלא קיימים מקרים ידועים של תקיפה מהסוג שתיאר Figueroa, אך חלק מההגנות נמצאות כעת בשלבי הטמעה.

מומחי Experis Cyber ממליצים לעדכן את המדיניות הארגונית כך שתאסור על הסתמכות בלעדית על כלים מבוססי בינה מלאכותית לצורכי אבטחת מידע. כמו כן, מומלץ לעקוב אחר עדכונים של Google בנוגע למנגנוני ההגנה של Gemini ולהטמיע שיפורים בהתאם

רומן מלכוב, מנהל ה- SOCב-:Experis Cyber "השיטה שזוהתה מדגישה עד כמה חשוב להבין שבינה מלאכותית אינה רק כלי עזר - אלא גם פתח חדש לתקיפות מתוחכמות. אנחנו רואים כאן ניצול חכם של טכנולוגיה שנועדה לסייע, כדי לעקוף את מסנני האבטחה הקיימים ולהטעות משתמשים באמצעות סיכומים שנראים אמינים לחלוטין. האתגר האמיתי הוא לא רק טכנולוגי - הוא גם תודעתי: משתמשים נוטים להאמין למידע שמוצג על ידי כלים של חברות מוכרות כמו Google, ולכן רמת הסיכון עולה. ארגונים חייבים לעדכן את מדיניות האבטחה שלהם ולהבהיר - כל סיכום אוטומטי, גם אם מבוסס על כלי מתקדם כמו Gemini, אינו תחליף למנגנוני הגנה מסורתיים ולשיקול דעת אנושי".