תשתיות בינה מלאכותית נמצאות תחת מתקפה, והגיע הזמן לחשוב מחדש על אבטחתן

ענקית הסייבר הבינלאומית טרנד מיקרו (Trend Micro) פרסמה את דוח מצב אבטחת ה-AI למחצית הראשונה של 2025, ובו היא מציבה תמרור אזהרה חד וברור: האצת השימוש בטכנולוגיות בינה מלאכותית בארגונים ברחבי העולם מתרחשת לעיתים תוך כדי הזנחת מערכות ליבה ושכבות קריטיות של אבטחה, מה שמוביל לעלייה חדה במספר החולשות והמתקפות על מערכות מבוססות AI. הדוח מראה כיצד רכיבי ליבה לא מעודכנים, גם כאלו שנחשבים יציבים, עלולים לאפשר השתלטות מרחוק, הדלפת נתונים, והשפעה על התנהגות המודלים.

לדברי רייצ'ל ג'ין, סמנכ"לית פלטפורמת ארגוניות בטרנד מיקרו, "בינה מלאכותית עשויה לייצג את ההזדמנות של המאה עבור ארגונים גלובליים, אך מי שממהר מדי להיכנס לתחום, מבלי לנקוט באמצעי אבטחה מספקים, עלול בסופו של דבר לגרום ליותר נזק מתועלת. כפי שהמחקר שלנו חושף, תשתיות רבות מדי בתחום נבנות כיום מרכיבים שאינם מאובטחים או שאינם מוטלאים, מה שפותח דלת בפני תוקפים."

הסקר מצטט נתונים על פיהם 93% ממנהלי האבטחה הבכירים בארגונים מעריכים כי יידרשו להתמודד עם התקפות מבוססות AI על בסיס יומי כבר במהלך 2025, נתון שממחיש את עומק האיום הנשקף לארגונים כיום. בנוסף, מדוח הסייבר העולמי של פורום הכלכלה העולמי עולה כי 66% מהארגונים צופים כי ל-AI תהיה ההשפעה המשמעותית ביותר על תחום הסייבר השנה.

דוח המחצית הראשונה של טרנד מיקרו מבוסס על ניתוחי חולשות מהשטח, פרויקטי מחקר מתקדמים ותובנות שהופקו בין היתר מתחרות ההאקינגPwn2Own Berlin 2025 מבית ZDI של טרנד מיקרו שבה שולבה לראשונה קטגוריה ייעודית למתקפות על תשתיותAI. במסגרת הקטגוריה, נחשפו 28 חולשות Zero-Day חדשות, מהן שבע חולשות שנגעו ישירות למרכיבי ליבה של תשתיות AI, כולל חולשות קריטיות ב־ChromaDB Redis, NVIDIA Triton ו־NVIDIA Container Toolkit.

טרנד מיקרו מציינת בדוח כי כבר בחודש מאי 2025 נמצאו מעל 200 שרתי ChromaDB פתוחים לחלוטין לאינטרנט, ללא כל אימות או הגנה בסיסית, מה שאיפשר קריאה, כתיבה ומחיקה של נתונים מצד כל גורם זדוני. ממצאים דומים נצפו גם ב-Redis v8, שם נוצלה חולשה מסוג Use-After-Free ברכיב Lua וב־NVIDIA Triton שבה שרשרת של ארבע חולשות איפשרה הטענת נתונים מסוכנים לשרת inference תפעולי.

אחת מהמגמות המטרידות ביותר שעליהן מצביע הדוח היא העלייה במתקפות על מערכות מבוססות סוכני בינה מלאכותית (Agentic AI), סוכנים מתקדמים שמסוגלים לבצע reasoning עצמאי, לגשת למקורות מידע ולבצע פעולות בשטח. צוות מחקר האיומים של טרנד מיקרו פיתח במיוחד את Pandora - סוכן AI ניסיוני - המיועד לחקור דרכים חדשות שבהן תוקפים יכולים לנצל סוכני בינה מלאכותית. באמצעות פנדורה חשפו החוקרים תרחישי תקיפה מרובים, לרבות הזרקות הנחיה עקיפות. התוקף יכול להטמיע את ההוראות שלו בתוכן שהסוכן מעודד לטעון, מה שעלול להוביל לדליפות של צ'אטים מאוחסנים או קבצים שמשתמשים אחרים עשויים להעלות.

הדוח מציין עוד כיAI הפך גם לכלי בסיסי בידי תוקפים המאפשר להם להעצים את הפעילויות הנוכחיות שלהם ולחקור עולמות חדשים, תרתי משמע. הדוח מציין כי פושעי סייבר מסוגלים היום בעזרת AI ליצור פיתיונות אמינים יותר ולהרחיב את פעילותם לקורבנות באזורים שלא היו נגישים בעבר. על ידי שילוב השימוש ב-GenAI עם נתונים ביומטריים חשופים ומידע שדלף מטקטיקות כופר, הם יכולים גם ליצור זהויות דיגיטליות לצרכי הונאות מטבעות קריפטוגרפיים או פעילויות כופר וסחיטה.

המחקר מדגיש כי לאף טכנולוגיית בינה מלאכותית אחרת לא היה רדיוס פיצוץ גדול יותר מאשר דיפ פייק, כאשר 36% ממשתמשי טרנד מיקרו דיווחו כי נחשפו לתוכן דיפ פייק במסגרת ניסיונות הונאה מקוונת. פלטפורמות אלו זמינות בחלקן בחינם, ומספקות לתוקפים יכולות שעד לאחרונה נחשבו לאמצעים של מדינות בלבד. בידיים הלא נכונות, הם יכולים לשמש כנשק בהונאות צרכניות רחבות כמו גם בהתקפות ארגוניות ממוקדות מאוד.

הדוח מציין כי גורמי איום נוטים היום יותר ויותר לנטוש שירותי darknet מותאמים אישית לטובת פלטפורמות דיפ פייק מסחריות פופולריות, ובצדק. פלטפורמות אלו מציעות לפושעי סייבר חסרי רקע טכני מתקדם שורה של כלים נגישים, מדריכים מפורטים ויכולות מתקדמות כמו שיבוש סטרימינג בזמן אמת, שכפול קולות במספר שפות, והפשטת תמונות, לעיתים בעלות נמוכה, ואף ללא תשלום כלל.

טרנד מיקרו קוראת לתעשייה לחשב מסלול מחדש. העידן שבו AI נחשב לכלי בטוח כבר חלף. הבינה המלאכותית הפכה לכלי עוצמתי שמשמש מנוע צמיחה לארגונים ומאפשר חדשנות יוצאת דופן, אך באותה מידה, גם מאיץ את יכולות ההתקפה של גורמים זדוניים. כדי להבטיח עתיד בטוח בעידן זה, נדרש מעבר מגישת אבטחה תגובתית לגישה הוליסטית, הכוללת הטמעה רב-שכבתית, תהליכי למידה מתמשכים ושיתופי פעולה חוצי מגזרים. רק כך ניתן לבנות מערכות AI עמידות, גמישות ובטוחות באמת.

לקריאת הדוח המלא - Trend Micro State of AI Security Report 1H 2025 | Trend Micro (US)