מדריך מערך הסייבר הלאומי לזיהוי דיפ פייק
המונח דיפ פייק (זיוף עמוק בעברית) מבוסס על חיבור של המושגים Deep Learning ו-Fake, ומתאר טכנולוגיה מבוססת בינה-מלאכותית המאפשרת לשנות או לעבד תוכן של תמונות או סרטונים כמעט בלי שיתאפשר להבחין שהתכנים זויפו. באמצעות טכנולוגיה זו אפשר לייצר שינויים כגון זיוף קול, תמונות וסרטוני וידאו מזויפים המתעדים כביכול פעילות של אדם שמבצע פעולות שלא נעשו במציאות.
למידה כיצד לזהות זיופים עמוקים ומתי הם עשויים לשמש חלק מהונאה, היא קריטית לשמירה על מרחב תודעתי בטוח ומוגן לכולנו.
קיבלתם סרטון חשוד ברשת? שאלו את השאלות האלה:
עקביות - האם הדמות בסרטון מדברת או מתנהגת כפי שאתם זוכרים ומכירים אותה?
תזמון - מדוע סרטון זה נשלח אליכם דווקא בתזמון המסוים?
זהות - מי הפיץ את הסרטון ומה האינטרס שלו?
תגובה - האם הסרטון מעורר רגשות עזים?
פקפוק - האם הסרטון גורם לכם לפקפק בדברים שכבר הכרתם או באמינותם של אישי ציבור שבהם תמכתם?
רכילות - האם יש בסרטון מידע חשוב או שתכליתו סנסציה וצהבהבות?
חיזוק - האם מצאתם מקורות אחרים המחזקים את המוצג בסרטון?
זיוף - האם אתם מזהים בסרטון סממנים של עריכה או זיוף?
לזהות זיוף עמוק
תנועת עיניים לא טבעית או היעדר תנועת עיניים, כגון היעדר מצמוץ, הם דגלים אדומים. הניסיון לשחזר את פעולת המצמוץ באופן שנראה טבעי, הוא מאתגר. כך גם בשכפול תנועות עיניים של אדם אמיתי. זאת משום שעיניו של אדם בדרך כלל עוקבות אחר האדם שאיתו מדברים.
הבעות פנים לא טבעיות: כאשר משהו לא נראה כשורה בפניו של הדובר בסרטון, הדבר עשוי ללמד על מניפולציה מלאכותית שנוצרה והדבקה של שכבת תמונה נוספת על הווידאו המקורי.
עיוותים בפנים: למשל, פניו של מישהו מופנות לכיוון אחד, והאף שלו מופנה לכיוון אחר.
חוסר רגש: כאשר מזוהה פער בין הדברים שאומר הדובר בסרטון לבין הרגש ההגיוני שהוא אמור להפגין כשהדברים נאמרים.
גוף או יציבה מעוותים: זיהוי של צורת גוף לא טבעית של האדם או שהמיקום של הראש והגוף מביך או לא עקבי, אמור להיות קל למדי לזיהוי, שכן טכנולוגיות Deepfake מתמקדות בדרך כלל בתווי פנים ולא בכל הגוף.
תנועת גוף לא טבעית: ייתכן שמישהו נראה מעוות או כבוי כשהוא מסתובב הצידה או מזיז את ראשו, או שהתנועות שלו קופצניות מפריים אחד לאחר.
צבעים וגוונים: גוון עור חריג, שינוי צבע, תאורה מוזרה וצללים שאינם במקומם.
שיער שנראה מלאכותי: לא תראו שיער מקורזל או מתנפנף באוויר, כי רוב הטכנולוגיות עדיין מתקשות לייצר אלמנטים ייחודים כאלו.
שיניים שנראות מלאכותיות: חלק מטכנולוגיות הדיפ פייק הקיימות מתקשות לייצר שיניים יחידות. לפיכך היעדר קווי מתאר המפריד בין השיניים עשוי להיות רמז לזיוף.
טשטוש או חוסר יישור: קצוות התמונות מטושטשים או שהתמונות החזותיות אינן מיושרות - למשל, במקום שבו הפנים והצוואר של מישהו משתלבים עם גופו.
חוסר עקביות ותקלות באודיו: סנכרון שפתיים לקוי, קולות שנשמעים רובוטיים, הגיית מילים מוזרה, רעשי רקע דיגיטליים ואפילו היעדר אודיו.
תמונות שנראות לא טבעיות בעת האטה: אם צופים בסרטון וידאו על מסך גדול יותר ממסך הסמארטפון, או יש תוכנת עריכת וידאו שיכולה להאט את הפעלת הסרטון, אפשר לבחון את התמונות מקרוב. התקרבות לשפתיים, למשל, תעזור לגלות אם הן באמת מדברות או מדובר בסנכרון שפתיים.
חיפוש תמונות הפוך: חיפוש אחר תמונה מקורית, או חיפוש תמונה הפוך בעזרת מחשב, עשוי לחשוף סרטונים דומים באינטרנט כדי לעזור לקבוע אם תמונה, אודיו או וידאו שונו. טכנולוגיית חיפוש וידאו הפוך אינה זמינה עדיין לציבור, אבל בעתיד הלא רחוק כלי כזה עשוי להיות מועיל מאוד.
לא מדווחים על הסרטון במקורות חדשותיים מהימנים: אם האדם בסרטון אומר או עושה דבר מזעזע או חשוב, התקשורת החדשותית תדווח על כך.
לסיכום, ככל שטכנולוגיית הזיוף העמוק תתקדם, כך יעלה הקושי לזהות דיפ פייק. למרות קושי זה, על כולנו מוטלת החובה לצפות בסרטונים ברשת באופן ביקורתי, ולדעת שלא כל דבר שרואים או שומעים הוא בהכרח אמיתי ונכון.
