שימוש ב-AI לשיתוף מידע כוזב
דוח חדש מחברת OpenAI חושף, כי פעילי סייבר ברוסיה ובסין משתמשים בבינה מלאכותית להפעלת מבצעים ותוכניות לשיתוף מידע כוזב בנושאים הקשורים למערכות הביטחון של מדינות כגון אוקראינה, טאיוואן, מולדובה ואפילו ארצות הברית. הדוח מפרט חמישה מבצעי סייבר נפרדים שיצאו לפועל בשלושה חודשים האחרונים והתבססו על כלי בינה מלאכותית, בפרט פלטפורמת OpenAI. השימוש בבינה מלאכותית מאפשר להגדיל את האפקטיביות ועוזר למפעילים להגיע להרבה יותר יעדים.
המסקנה העיקרית של הדוח היא שבינה מלאכותית שמייצרת תוכן לפי הגדרות ופרטים מוזנים עשויה לסייע למפעילים במגוון דרכים. בינה מלאכותית מתקנת טעויות כתב ותחביר של משתמשים בעלי ידע מצומצם בשפות זרות, בעיקר אנגלית. היא יכולה ליצור ולהפיץ תגובות ופוסטים ברשתות חברתיות שייראו כאילו נושא השפה כתב אותם. משתמשים, או בהגדרה נפוצה יותר, "שחקנים", השתמשו בכלי AI בשביל להגדיל את החשיפה שלהם ברשתות החברתיות ולהכפיל את כמות ההודעות והפוסטים. הפרסומים ברשתות החברתיות יוצרים אשליה של מתקפת תוכן מסודרת המכוונת נגד פעילות גיאופוליטית של מדינות כגון אוקראינה וארצות הברית.
קבוצת האקרים פרו-רוסית בשם Bad Grammar (דקדוק שגוי) השתמשה בכלי AI כדי להפיץ תוכן שבו הנשיאים של אוקראינה (וולודימיר זלנסקי) ומולדובה (מאיה סאנדו) מואשמים בשחיתות ובחוסר תמיכה מצד העם, ומסומנים כאויבים שבוגדים במדינות שלהם בשביל להגן על אינטרסים פוליטיים וכלכליים. קבוצת האקרים אחרת, דופלגנגר (Doppelganger), שגם היא מקושרת לרוסיה, השתמשה בכלי AI בשביל להפיץ פוסטים בכמה שפות, בהן אנגלית, צרפתית, גרמנית ואיטלקית, שהתחזו לתוכן ויראלי הידוע כ"מימס" (memes), הרלוונטי לדוברי שפות אלו. כל פוסט כזה לווה בכמה תגובות פשוטות מחשבונות שנראים מזויפים, רובם עוקבים אחרי עמודים מסוימים בלבד או באופן חשוד נפתחו באותו תאריך.
השחקנים הסינים לא מרבים להשתמש בבינה מלאכותית בשביל להפיץ פוסטים הומוריסטיים. במקום זאת AI מסייעת להם לשפר שיטות הפצת מסרים וניתוח פלטפורמות. קבוצה סינית בשם Spamouflage השתמשה בבינה מלאכותית בשביל להבין כיצד עובדים קודים של אתרים מסוימים. היא אספה מידע מרשתות חברתיות ופרסמה פוסטים בפורומים ובפלטפורמות חברתיות על סמך המידע שהצליחה לאסוף.
