אי אפשר לצפות מטכנולוגיה להיות מושלמת. אמנם התקדמנו עם השנים וכבר פותחה היכולת לזהות עצמים ואנשים בתמונות אבל אין זה אומר שלפעמים האלגוריתם יכול להביך וליצור פאדיחה עולמית.
כך קרה כאשר ג’קי אלקיין, מקודד מברוקלין, הביט על תמונות שהעלה מהמחשב למנוע החיפוש “גוגל תמונות” וגילה שהשירות לא הצליח לאבחן את מה שבתמונה באופן מדויק. במילים אחרות, הוא וחברה שחורה הפכו אוטומטית ל”גורילות” בעיני גוגל. אופסי.
בדרך כלל אין בעיה ואם טכנולוגיית זיהוי עצמים מזהה ציפור בתמונה בתור “מטוס” הטעות היא נסלחת, אך השגיאה הזו כבר בעלת מאפיינים גזעניים שמזכירים ימים שחורים. לא נעים להביט על עצמך ולהבין שטעו בקטלוג ואתה נתפש כגורילה בתצלום.
בבדיקה מקיפה גילה הבחור שהשניים הוגדרו ככה בכל מיני תמונות שלהם. אכן, רגרסיה שהייתה מבלבלת אפילו את דרווין. כאילו שהאדם לא התפתח מהקוף. כמובן שלא היינו יודעים על הבושות האלה אילולא העלה את הסאגה לטוויטר.
לפחות בגוגל יודעים לזהות משבר בחיתוליו ובחור בשם יונתן זונגר, שעובד שם במחלקה של מדיה חברתית הגיב ואמר “זה 100 אחוז לא בסדר”. הוא הוסיף שפנה למי שצריך בצוות התמונות ושזה יטופל במהרה. אבל הבעיה נותרה למרות התיקון לכאורה. שוב ניסו שם בגוגל לפתור את הבעיה כדי שהמילה “גורילה” לא תופיע שם בכלל.
הם ינסו לפתח כלים כדי שיזהו טוב יותר את תוכן התמונות בסוגיות רגישות כאלה ו”לזהות טוב יותר פנים שחורות”. למרות התיקון, לא ברור איך תקלה דפוקה כזו מתרחשת בכלל. מהרגעים האלה שמבינים שלפעמים הקידמה בטכנולוגיה היא בעצם נסיגה.
