מערכת אוטומטית חייבה לקוחות
חברת השכרת הרכב הבינלאומית הרץ (Hertz) עוררה זעם ציבורי לאחר שהחלה להשתמש במערכת בינה מלאכותית לסריקת רכבים ולאיתור נזקים, ולחייב לקוחות באופן אוטומטי, ללא מעורבות של נציג אנושי.
אדם פולי (Adam Foley), יועץ למערכות בינה מלאכותית ואוטומציה, גילה זאת מניסיונו. לאחר ששכר רכב מנמל התעופה באטלנטה, הוא הופתע לקבל הודעת טקסט ומייל שבהם נמסר כי נמצאו נזקים ברכב, עם חיוב של 350 דולר. "זה תפס אותי לגמרי לא מוכן", אמר פולי. "לא היו שום שלט או אזהרה ברורה שמערכת סורקת את הרכב לנזקים. כנראה שזה חבוי באותיות הקטנות."
כשניסה לערער, גילה פולי כי אי אפשר לדבר עם נציג אנושי. צ'אט-בוט של החברה השיב לו שוב ושוב. רק לאחר שפרסם פוסט ברשת לינקדאין (LinkedIn) שנהפך לוויראלי והסיפור פורסם בתקשורת, החליטה הרץ לבטל את החיוב.
חברות רבות ממהרות להטמיע מערכות AI לפני שהטכנולוגיה בשלה, ומסתכנות באובדן אמון של לקוחות. לדברי אנליסטית בכירה בחברת המחקר פוריסטר (Forrester), אף אחד לא רוצה לשלם יותר, גם אם נגרם נזק אמיתי. ברגע שאין מגע אנושי, החוויה נתפסת כבלתי הוגנת.
בהרץ הגנו על המהלך: "במשך שנים היה תהליך בדיקת הנזקים ידני, לא עקבי וסובייקטיבי. המערכת החדשה מבטיחה אחידות, יעילות ושקיפות", אמרה דוברת החברה, אמילי פלייס. לדבריה, מדובר בשלב הדרגתי. המערכת מתעדכנת ומשתפרת.
מערכת לאיתור נזקים
המערכת, שפותחה על־ידי חברת UVeye, מצלמת את הרכב השכור ב־360 מעלות בעת מסירה והחזרה. היא סורקת את גוף הרכב, הצמיגים, הזכוכיות והתחתית, ומשווה בין הצילומים באמצעות אלגוריתם של בינה מלאכותית. נזקים שמוערכים מעל סף מסוים מחויבים אוטומטית, ולפי החברה, רק כ־3% מהרכבים הנסרקים מקבלים חיוב בפועל. לקוחות יכולים להגיש ערעור באמצעות צ'אט, מייל או מדיה חברתית, אך לא דרך האפליקציה של הרץ, מה שמעורר ביקורת קשה.
גם יועצים בתחום ניהול חוויית הלקוח מזהירים: "מערכות AI צריכות לשמש כמשרת אישי, לא כעוקב", אמר ג'ון דובואה (John Dubois), ראש תחום אסטרטגיית AI באירסט ויאנג (EY Americas). לדבריו, "מערכת טובה אמורה לשרת את הלקוח, לא למקסם את רווחי החברה על חשבונו." פולי הוסיף, כי במערכות שהוא מפתח ללקוחותיו, "אנחנו תמיד מאפשרים התערבות אנושית אחרי שתיים או שלוש אינטראקציות מתסכלות. זה כלל בסיסי."
מומחים מסכימים, כי בלי שקיפות ואפשרות לתקשורת אנושית, כל שימוש ב־AI נתפס כניסיון לגבות כסף בקלות. לדברי דובואה, חברות צריכות להבהיר שהטכנולוגיה משרתת את הלקוח ולא את הדוחות הפיננסיים, אחרת הן מסתכנות באובדן אמון ונאמנות לשנים קדימה.
