מחדל במיקרוסופט: AI קרא מידע מסווג
מיקרוסופט (Microsoft) הודתה כי במשך שבועות עקף עוזר הבינה המלאכותית קופיילוט (Copilot) הגדרות סודיות וקרא הודעות דוא"ל שלא היה אמור להיחשף אליהן. פגם במערכת Microsoft 365 Copilot העניק לעוזר גישה להודעות מסווגות. הדבר מעורר חשש כבד לפרטיות בארגונים המסתמכים על השירות.
התקלה, שהתגלתה בסוף ינואר, אפשרה לעוזר לעקוף את מדיניות מניעת דלף המידע של ארגונים. הפגיעה התמקדה בתכונת הצ'אט של קופיילוט, המסוגלת לסכם הודעות מתיקיות של מיילים נשלחים וטיוטות. התברר כי למערכת הייתה גישה להודעות שסומנו כ"סודיות" כדי למנוע מכלים אוטומטיים לצפות בהן, אך אמצעי ההגנה כשלו.
מיקרוסופט מסרה כי זיהתה את הבעיה שבה הצ'אט קרא תוכן מהודעות מסווגות וטיפלה בה. החברה הוסיפה כי למרות שבקרות הגישה נותרו פעילות, התנהגות זו אינה תואמת את ייעוד המערכת, שתוכננה מראש להחריג גישה לתוכן מוגן.
מאז השקתו, מיקרוסופט משלבת את העוזר החכם ביישומי חבילת אופיס (Office) כגון וורד (Word), אקסל (Excel) ואאוטלוק (Outlook). בספטמבר 2025 עלה הצ'אט העסקי לאוויר. חברות טכנולוגיה מעודדות שימוש בכלי AI לשיפור הפרודוקטיביות, ומומחי סייבר מזהירים כי אימוץ מהיר יוצר הזדמנויות תקיפה חדשות.
בינואר האחרון חשפו חוקרי אבטחה מתקפה שעשויה להדליף נתונים רגישים דרך קופיילוט באמצעות קישור פישינג. כבר בשנת 2024 הדגים חוקר האבטחה כיצד בוטים של המערכת יכולים להוציא בקלות נתונים ארגוניים תוך עקיפת בקרות והגנות קיימות, והזהיר כי שילוב של ברירות מחדל חלשות ותוספים מתירניים, הופך דליפות נתונים לדבר סביר ביותר. באמצעות כלי תקיפה שיצר הוא הראה כיצד האקרים יכולים להשתלט מרחוק על המערכת ולשלוט לחלוטין בכל מילה שהעוזר כותב למשתמשים.
התקרית הנוכחית אינה טעות מקרית. ד"ר איליה קולוצ'נקו (Ilya Kolochenko), מנכ"ל חברת אימיוני־ווב (ImmuniWeb), טוען כי ההתרחבות המהירה של סוכני בינה מלאכותית מרחיבה בשקט את מרחב האיומים. לדבריו, תקריות אלו יזנקו במידה רבה בשנת 2026 וייהפכו לאירועי האבטחה הנפוצים ביותר בארגונים. קולוצ'נקו סבור שארגונים מאמצים טכנולוגיה מהר יותר מיכולתם לאבטח אותה. אמצעי הגנה מסורתיים כגון מערכות למניעת דלף מידע, מעולם לא תוכננו לנטר סוכני AI שניגשים לנתונים רגישים ואורזים אותם מחדש, ולכן מתקשים לזהות שימוש חורג.
ד"ר קולוצ'נקו מזהיר כי קבוצות פשיעה כבר מפתחות סוכנים זדוניים לאיסוף מידע נרחב. לדבריו, שימוש לרעה בטכנולוגיה יהיה אסון לפרטיות ב־2026, כאשר נתונים אישיים משותפים מדי יום עם מודלי שפה ללא אמצעי זהירות. גם סוכנויות ממשלתיות חשופות לסיכון זה עקב הסדרה לקויה במקומות העבודה.
קולוצ'נקו מדגיש כי "בינה מלאכותית של צללים" - מצב שבו עובדים משתמשים באפליקציות AI אישיות במכשירים שלהם לסריקת נתונים סודיים - תהיה אתגר מרכזי. הוא צופה התחשבנות משפטית חריפה וגל של תביעות ייצוגיות ופרטניות נגד חברות טכנולוגיה בגין איסוף נתונים בלתי חוקי. שחקנים זדוניים שישיגו מידע יקר, עשויים לטעון כי אספו אותו בטעות, אך תעשיית הבינה המלאכותית כולה צפויה להיפגע, וחלק מהספקים יפשטו רגל עקב ההליכים המשפטיים.
קולוצ'נקו מאמין שלאחר מספר אירועי אבטחה בעלי משמעות כגון קריסת תשתיות לאומיות או הדלפות מסיביות של מסמכים מסווגים, ממשלות משני צידי האוקיינוס האטלנטי ימהרו להטיל רגולציה נוקשה.
