שימוש שגוי בנהיגה אוטונומית בטסלה
בדיון משפטי פדרלי במיאמי עלתה ביקורת חריפה כלפי טסלה (Tesla) על ניהול סיכונים סביב מערכת הנהיגה החצי־אוטונומית שלה, Autopilot. פרופ' מרי "מיסי" קאמינגס (Mary "Missy" Cummings), מומחית להנדסה מאוניברסיטת ג'ורג' מייסון ויועצת לשעבר במינהל הבטיחות בדרכים האמריקני (NHTSA), טענה בפני חבר המושבעים כי החברה לא יישמה אמצעים חיוניים שיכלו למנוע שימוש שגוי במערכת.
לדבריה, ספר ההוראות של הרכב, שבו מופיעות האזהרות הקריטיות על מגבלות המערכת, אינו נגיש ואינו מובן למשתמשים. מעבר לכך, טסלה לא הטמיעה מגבלות גיאוגרפיות (Geo-fencing) שכבר היו בשימוש אצל יצרנים אחרים כדי למנוע הפעלת מערכות סיוע באזורים שאינם מתאימים לכך.
התביעה הוגשה בעקבות תאונה קטלנית שהתרחשה בקי לארגו ב־2019, שבה נהרגה הולכת רגל אחת והולך רגל נפצע קשה מפגיעת טסלה. התאונה אירעה כאשר רכב טסלה מודל S, שהופעל בו מצב Autopilot, חצה צומת מסוג T, ירד מהכביש ופגע ברכב שברולט טאהו שעמד בשוליים בזמן ששני הקורבנות עמדו לצידו.
נהג הטסלה הודה כי הפעיל את המערכת, אך הוריד את עיניו מהכביש כדי לאסוף טלפון נייד שנפל לרצפה. עורכי הדין של התובעים טוענים שמדובר בטרגדיה שהיה אפשר למנוע, וכי מערכת הסיוע כשלה בזיהוי ברור של סוף הכביש, סימוני העצירה והרכב החונה.
במשפט הוצגו בפני חבר המושבעים סרטוני מצלמות הרכב, שהראו כיצד המערכת זיהתה את קצה הדרך, את סימון העצירה ואת הרכב החונה, אך לא הגיבה. מנגד, טסלה טוענת שלא הייתה טכנולוגיה זמינה ב־2019 שהייתה יכולה למנוע את התאונה, וכי כל האשמה מוטלת על הנהג משום שלחץ על דוושת ההאצה וביטל את בקרת השיוט האדפטיבית.
המשמעות הרחבה וטענות נוספות
המשפט, שהחל ב־15 ביולי, נחשב לאחד הראשונים שבוחנים את טענותיו של מנכ"ל טסלה, אילון מאסק, שלפיהן רכבי החברה הם "הבטוחים ביותר בעולם". הוא החל בעיתוי קריטי, כאשר טסלה השקיעה מאמצים אדירים בקידום פרויקט הרובוטקסי והחלה לבסס את עתידה על טכנולוגיות נהיגה אוטונומית.
בדיון צוטט מכתב קודם של טסלה ל־NHTSA, שבו נטען כי ל־Autopilot יש מערך האזהרות המתקדם ביותר נגד שימוש שגוי בתעשיית הרכב. קאמינגס חלקה על כך: "לא ראיתי שום הוכחה שתומכת בטענה הזו." היא הוסיפה כי עדויות הנהג לאחר התאונה ממחישות תפיסה שגויה בקרב נהגים רבים: תחושה שהרכב הוא "טייס משנה" שמסוגל לעצור כשיש מכשולים. "הוא חשב שהמערכת שולטת במצב לחלוטין, ולכן התכופף לאסוף את הטלפון", אמרה.
קאמינגס שימשה כעד מומחה בתביעות נוספות נגד טסלה. בעבר, מינוי שלה כיועצת בטיחות ב־NHTSA עורר התנגדות בקרב תומכי טסלה ואף גרר תגובה חריפה ממאסק, שכינה אותה "מוטה באופן קיצוני נגד טסלה".
השלכות לעתיד
פסק הדין בתיק זה עשוי להשפיע על תביעות דומות בארה"ב ועל המהלכים הרגולטוריים הנוגעים לרכבים עם מערכות נהיגה אוטונומיות. הוא גם ישליך על האמון הציבורי ביכולתן של טכנולוגיות כאלה להבטיח בטיחות, במיוחד כשהיצרנים מגדירים אותן כ"מערכות סיוע" אך משתמשים בהן ככלי שיווקי שמייצר אשליה של נהיגה אוטונומית מלאה.
