מנהלים לוחצים לאשר AI למרות סיכון אבטחה

ארגונים ברחבי העולם ובישראל מקדמים פריסת בינה מלאכותית תוך התעלמות מסיכוני אבטחה וציות ברורים. כך עולה ממחקר חדש שפרסמה מובילת אבטחת ה־AI העולמית, TrendAI™, החטיבה העסקית של טרנד מיקרו. המחקר, שנעשה בקרב 3,700 מקבלי החלטות בתחום העסקי וה־IT ב־22 מדינות, בהן ישראל, חושף לחץ כבד לפריסת AI לצד חוסר ודאות נרחב בנושאים אבטחה, ציות ואחריות.

המחקר של טרנד מציע הצצה מרתקת לעולם שבו הטכנולוגיה רצה קדימה, והארגונים מנסים, לעיתים ללא הצלחה, להדביק את הקצב. המחקר גם מדגים כיצד לחץ לאישור הטמעת בינה מלאכותית גנרטיבית (Gen AI) בישראל גבוה בהרבה מהממוצע העולמי בשל מספר גורמים מרכזיים המלמדים על פער בין הדחף לחדשנות לבין המוכנות הארגונית. פער זה גם מרמז על סתירה פנימית: מקבלי ההחלטות חוששים מהאיומים, אך חשים מחויבים לאשר את הטכנולוגיה כדי לא להישאר מאחור.

קיים פער בראיית הסיכונים בין הדרג העסקי לדרג הטכנולוגי. ברמה הגלובלית 67% ממקבלי ההחלטות דיווחו על לחץ לאשר פרויקטים של AI למרות סיכוני אבטחה, ואילו בישראל הנתונים גבוהים בהרבה. 77% ממקבלי החלטות IT ושיא של 89% בקרב מקבלי החלטות עסקיים, דיווחו שחשו לחץ לאשר הטמעות AI שהיו כרוכות בסיכוני אבטחת סייבר פוטנציאליים. הנשאלים מציינים כי הלחץ "לנוע מהר" והצורך להישאר תחרותיים גובר על שיקולי האבטחה. מקבלי ההחלטות העסקיים חשים את הלחץ באופן החריף ביותר, והם גם אלו שמביעים את החשש הגבוה ביותר מפני שימוש לרעה ב־AI כגון זיוף קול (Voice cloning) של מנהלים בכירים.

מהמחקר עולה כי השילוב של תרבות של חדשנות מהירה, היעדר מדיניות פנים־ארגונית וחוסר ביטחון בידע הרגולטורי, יוצר "סערה מושלמת" שבה הלחץ בישראל לאשר מערכות Gen AI מסוכנות גבוה באופן חריג מהמקובל בעולם.

קיימים אי־ודאות משפטית ואכיפה רגולטורית. קיים פער עמוק בידע לגבי המסגרות המשפטיות המפקחות על הטכנולוגיה. רק 27% ממנהלי ה־IT בישראל ו־19% מהמנהלים העסקיים חשים ביטחון בהבנת החקיקה הרלוונטית ובהבנת המסגרות המשפטיות המסדירות AI לעומת 53% מהנשאלים בתחום ה־IT בעולם ו־32% בתחום העסקי. חוסר הבהירות לגבי הרגולציה המקומית והבינלאומית יוצר מצב שבו ארגונים מאשרים פריסה בלי להבין את ההשלכות המשפטיות המלאות.

אימוץ AI מהיר יותר מהיכולת לשלוט בו. ארגונים מטמיעים AI מהר יותר מכפי שהם יכולים לנהל את הסיכונים הנלווים אליו. 60% ממנהלי ה־IT בארגונים בעולם טוענים כי ה־AI מתקדם מהר יותר מיכולתם לאבטח אותו, ול־54% ממקבלי ההחלטות העסקיים בעולם דעה דומה. בישראל, 32% ממקבלי החלטות ה־IT ו־26% מהמנהלים העסקיים מסכימים כי AI מתקדם מהר מדי יחסית לאבטחה. הנשאלים מציינים כי הלחץ נובע מהצורך "לעמוד בקצב של המתחרים" או לענות על דרישות פנימיות לחדשנות. באקו־סיסטם הטכנולוגי הישראלי, שבו מהירות היא ערך עליון, הלחץ להטמיע כלי AI נתפס לעיתים כקריטי להישרדות עסקית, גם אם הדבר כרוך בנטילת סיכוני אבטחה קיצוניים.

חוסר בשלות בממשל תאגידי (Governance). בישראל קיים מחסור חמור במדיניות רשמית המסדירה את השימוש ב־AI. רק כ־20% מהארגונים בישראל מחזיקים במדיניות AI מקיפה לעומת כ־38% בממוצע הגלובלי. היעדר כללי משחק ברורים בתוך הארגונים מותיר את מקבלי ההחלטות חשופים ללחצים חיצוניים ופנימיים לאישור מערכות בלי שיש להם מסגרת עבודה מסודרת להערכת סיכונים.

האמון ב־AI אוטונומי עדיין מוגבל. פחות ממחצית (48%) מהנשאלים בעולם מאמינים שסוכני AI Agentic ישפרו מאוד את הגנת הסייבר בטווח הקצר. בישראל הציפיות נמוכות יותר: רק כ־25% ממקבלי ההחלטות בארגונים ישראלים סבורים שהיא תשנה את ההגנה לטובה, ויותר מ־50% מעריכים כי היא דווקא תעצים את המתקפות באמצעות אוטומיזציה והתאמה אישית.

גורמי חשש: כ־40% מהארגונים בעולם תומכים בהכנסת מנגנוני "Kill Switch" לעצירת המערכות במקרה של כשל או שימוש לרעה. בישראל התמיכה בצעד כזה היא 30% בקרב מנהלי IT, אם כי כ־40% סבורים שייתכן שיהיה בכך צורך בהתאם לרמת הסיכון.

הסקר מלמד שמרבית המשיבים, בעולם ובישראל, סבורים שרק בין 21% ל־41% מהתנהגויות ה־AI הזדוניות מזוהות כיום, וחושף מציאות מדאיגה של "שטח מת" נרחב במערכי ההגנה הארגוניים. המשמעות היא שמרבית האיומים הפועלים במרחב ה־AI אינם מזוהים, מה שמותיר את הארגונים חשופים לפעילות זדונית המתרחשת מתחת לרדאר.

הערכת מקבלי ההחלטות בישראל לגבי אחוזי הזיהוי של התנהגויות AI זדוניות, נעה בין 36% (בדרג הטכנולוגי) ל־41% (בדרג העסקי). הנתון מדגיש את הפער העמוק בין הריצה המהירה לאימוץ טכנולוגיות חדשות לבין היכולת המוגבלת לנטר ולאבטח אותן בפועל. חוסר הנראות הזה מחמיר כאשר ארגונים רבים חשים לחץ תחרותי לאשר הטמעות של פרויקטים AI גם כשהן כרוכות בסיכוני אבטחה ידועים. בכך הם למעשה מהמרים על ביטחונם בעולם שבו רוב הפעילות הזדונית נותרת סמויה מהעין.

אילוסטרציה