החור השחור באבטחת מידע: הסיכון ב־AI

TrendAI™, החטיבה העסקית של מובילת אבטחת הסייבר טרנד מיקרו, פרסמה מחקר AI Skills as an Emerging Attack Surface in Critical Sectors המתריע מפני איום סייבר מתהווה: כישורי בינה מלאכותית (AI Skills). ארגונים בכל המגזרים מאמצים את טכנולוגיית AI כדי לייעל תהליכים, ואילו החוקרים מזהירים כי המיומנויות האלו, המכילות את ה־DNA הארגוני, סודות מסחריים ומנגנוני הגנה, נהפכות למטרה אטרקטיבית לתוקפים. ארגונים רבים כלל אינם מודעים לסיכון הגלום בהן.

מה הם AI Skills ולמה הם מסוכנים? לדברי החוקרים, קיריל גלפנד, אדריכל פתרונות אסטרטגיים ב־TrendAI ישראל, וולדימיר קרופוטוב ופיודור ירוצ'קין, חוקרים ראשיים בצוות מחקר האיומים של TrendAI, כישורי בינה מלאכותית הם טקסט בפורמט היברידי, המשלבים הוראות הניתנות לקריאה על ידי אדם לצד לוגיקה שמודלי השפה הגדולים יכולים לפרש ולבצע. מיומנויות אלו מקפלות בתוכן מומחיות אנושית, תהליכי עבודה, אילוצים תפעוליים ולוגיקת קבלת החלטות, מה שמאפשר לארגונים להשיג אוטומציה ושימור ידע בקנה מידה חסר תקדים.

הסיכון המרכזי נובע מכך שכלי אבטחה מסורתיים אינם מסוגלים לנתח טקסט לא־מובנה, ולכן מתקשים להבין או להגן על התוכן המופיע בתוך מיומנויות אלו. התוצאה היא משטח תקיפה לא קונוונציונלי, שבו התוקפים יכולים לנצל את הלוגיקה של המיומנות עצמה.

האיום כבר כאן

המחקר קובע, כי האיום אינו תיאורטי בלבד. החוקרים מצאו כי מאגרי GitHub ציבוריים כגון Awesome Claude Skills כבר מכילים מאות מיומנויות החושפות פרמטרים תפעוליים רגישים. בעקבות זאת התוקפים יכולים לנתח מיומנויות פומביות, להבין את הלוגיקה הארגונית ולתכנן מתקפות שעוקפות את ההגנות.

בין הממצאים:

• מסחר פיננסי: מיומנויות למסחר בקריפטו חשפו ספי סיכון ותצורות של מנתקי זרם (circuit breakers), מה שמאפשר לתוקפים לתכנן עסקאות שיעקפו את בקרות הסיכון האוטומטיות.
• בריאות: מיומנויות סימולציה חשפו לוגיקה של החלטות קליניות ופרוטוקולים רפואיים.
• תעשייה: נחשפו פרמטרים קנייניים של סימולציות במדעי החומרים.
• שיווק: נחשפו אסטרטגיות קמפיינים וטירגוט.
• אבטחת מידע: נחשפו שיטות זיהוי ופלייבוקים של תגובה לאירועים.

אחד הממצאים המדאיגים ביותר במחקר נוגע לסיכון הייחודי למרכזי אבטחה (SOC) המשלבים AI. תוקף המשיג גישה למיומנויות ה־SOC, יכול ללמוד את לוגיקת סינון ההתראות, להבין את כללי הקורלציה, לתפעל את המערכות כך שיתעלמו מהתקפותיו או ינמיכו את חומרתן ולהשבית תגובות אוטומטיות.

המחקר מסרטט מסלול הסלמה מסוכן: גישה ל־1-2 מיומנויות מעניקה לתוקף יתרון טקטי, אך השתלטות על סט מלא של מיומנויות מאפשרת ליצור תאום דיגיטלי (Digital Twin) של מערך ההגנה הארגוני וחיזוי מלא של התנהגות המגנים.

החוקרים מציעים מודל שרשרת הרג (Kill Chain) ייעודי בן שמונה שלבים למתקפות על AI Skills, מאיתור מיומנויות חשופות במאגרים ציבוריים, דרך ניצול שרשרת האספקה והזרקת קוד (Injection Attacks) ועד הוצאת מידע ושיבוש פעילות. בשל הערבוב בין הוראות לנתונים במיומנויות אלו, קיים סיכון גבוה במיוחד למתקפות הזרקה הדומות ל־SQL injection מסורתי אך מורכבות הרבה יותר לזיהוי.

כדי להתמודד עם האיום, חוקרי TrendAI ממליצים לארגונים לאמץ חמישה עקרונות אבטחה:

1. התייחסות למיומנויות כקניין רוחני רגיש: החלת בקרת גישה, ניהול גרסאות והערכת סיכונים לכל אורך מחזור החיים.

2. הפרדה בין הוראות לנתונים: שמירה על הפרדה ברורה בין לוגיקת המיומנות לבין נתוני משתמש.

3. הגבלת הרשאות (Least Privilege): צמצום הרשאות הביצוע של המיומנות למינימום ההכרחי למניעת תנועה לרוחב ברשת.

4. בדיקת תרחישי תקיפה: ביצוע "מבחני עמידות" במאמץ להבין כיצד משתמש זדוני עשוי לנצל את הלוגיקה של המיומנות לפני פריסתה.

5. ניטור רציף: הטמעת ארכיטקטורת זיהוי רב־שכבתית העוקבת אחר שינויים במאגרים, חריגות בביצוע ודפוסי הוצאת מידע.

הקשר ישראלי

המלחמה האחרונה האיצה את אימוץ ה־AI בארגונים ישראלים, ומחסור בכוח אדם עקב גיוס מילואים ממושך דחף ארגונים לאוטומציה מואצת. התוצאה: יותר מערכות AI נפרסות מהר יותר, עם פחות זמן לבדיקות אבטחה. AI Skills שמכילים לוגיקה עסקית רגישה נהפכו ליעד אטרקטיבי במיוחד. לארגוני ביטחון, אנרגיה ובריאות בישראל, זה לא תרחיש תיאורטי אלא המציאות של היום.

"ככל שארגונים מקודדים יותר ידע תפעולי לתוך מיומנויות AI, כך הערך שלהן לתוקפים עולה. מיומנויות AI מייצגות משטח תקיפה מתהווה המצריך תשומת לב אבטחתית ייעודית. הגיע הזמן להתייחס אליהן ברצינות," מסכמים החוקרים. הארגונים נקראים לבצע פעולות מיידיות: למפות את כל המיומנויות הקיימות, לסווגן לפי רגישות, לקבוע קווי בסיס (baselines) לדפוסי התנהגות נורמליים, לבודד מיומנויות בעלות הרשאות גבוהות ולנטר חריגות באופן רציף.

אילוסטרציה