בשנים האחרונות, הבינה המלאכותית השתפרה בצורה מדהימה - אבל נראה שחברות טכנולוגיה עדיין בוחרות בגישה זהירה בתחומים שבהם טעות אחת עלולה לגרום נזק תדמיתי גדול. זה לפחות המקרה כשמדובר בזיהוי גורילות, וקופים בכלל, ב- תמונות. עוד בשנת 2015 הוציאה גוגל את אפליקציית Google Photo, שבין היתר הציעה למשתמשים לזהות באופן אוטומטי אנשים, חיות וחפצים בבריכה האישית שלהם. אך לאחר חודשיים התגלה שלמרות היכולות המרשימות, התוכנה תויגה בטעות כ- תמונה של משתמשים שחורים כגורילות - טעות שהדהדה סטריאוטיפ גזעני וגרמה לסערה. גוגל, כמובן, התנצלה, התחייבה לתקן את הבעיה, ובינתיים מנעה תוכנת gorilla tag. 3 הצג את גלריית גורילה בניו יורק טיימס סקרו את מה שקורה נכון להיום, בימים שבהם בינה מלאכותית היא אחד הנושאים החמים, עם יכולות זיהוי תמונה, שניתן לחפש באמצעותן במאגר מידע באמצעות הקלדת הקונספט המבוקש, מתבקשים לאתגר גורילות. לצורך הבדיקה יצר העיתון אוסף של 44 תמונות שבהן הופיעו אנשים, חיות וחפצים, וערך את הבדיקה בגוגל וגם בכלים דומים של המתחרות אפל, אמזון ומיקרוסופט. גוגל זיהתה בקלות חיות שונות בתמונות שהוזנו, כמו חתולים וסנגורים, אבל כשחיפשו גורילות, או סוגים אחרים של קופים, שתמונותיהם הופיעו באוסף - האפליקציה לא זיהתה ולא עלתה בחיפוש . ואז האפליקציה המתחרה של אפל, Apple Pictures. גם היא הגיעה לתוצאות דומות - תמונות מזוהות של חיות, אבל לא קופים. הגורילה זיהתה רק בתמונה שהמילה "גורילה" הופיעה. במקרה של גוגל ואפל, השניים עדיין הצליחו לזהות מורים בתמונות. 3 צפה בתמונות גלריית גוגל גם מיקרוסופט ואמזון נכשלו במבחן, כאשר במיקרוסופט ובוואן דריב, התוכנה לא הצליחה לזהות בעלי חיים כלל, בעוד שאמזון חיפשה בגורילות אחר קופים אחרים ולא הייתה מדויקת מספיק. למרות שגוגל ואפל מציעות את התוכנה המתוחכמת ביותר כאשר כשמדובר בניתוח תמונות, הם קיבלו החלטה מכוונת לא לאפשר חיפוש ויזואלי של קופים, מחשש לטעויות פוגעניות. במקום לתקן את התכונה הבעייתית, השניים בחרו לכבות אותו לחלוטין. בשנת 2018, בדיקה של אתר Wired Technology העלתה גם ש-Google Lens , המאפשרת חיפוש חזותי באינטרנט, לא מצליח לזהות גורילה. בחיפוש אחר תמונות גורילה, הוא אמנם העלה לתמונות גורילות אחרות, אך לא עשה זאת. כתבו במפורש שזו הייתה גורילה.בשנת 2019, האייפון משתמש בפורום התמיכה של אפל שהתוכנה לא מצליחה למצוא קופים בתמונות המכשיר שלה. בניו יורק טיימס הוא פנה לג'קי אלסין, שתמונתו ותמונתו של חברו פוטרו בעבר ועוררו את הסערה. הוא הופתע מכך שגוגל עדיין לא טיפלה בנושא וביקר שהחברה שלנו מסתמכת יותר מדי על טכנולוגיה "לעולם לא יהיה לי אמון בבינה מלאכותית," אמר. בעקבות המקרה של אלסין, שני עובדי גוגל לשעבר אמרו שהחברה לא כללה מספיק תמונות של אנשים שחורים במאגר התמונות שהבינה המלאכותית אימנה - ומסיבה זו היא לא זיהתה וזיהתה אנשים שחורים. מדובר בתופעה רחבה, והיו תקריות דומות בחברות אחרות בעבר. מצלמות הרשת של HP לא הצליחו לאתר אנשים עם עור כהה, אפל הזדעזעה מכך שהשעון החכם Apple Watsh לא קרא כראוי את רמות החמצן בדם עבור משתמשים בעלי צבע עור כהה, ועל פי לכתב לשעבר של גוגל, מצלמת אבטחה חכמה של מותג גוגל התנגשות בין אנשים שחורים לבעלי חיים. במקרה זה, זו הייתה טעות שהתגלתה בבדיקה פנימית, והחברה תיקנה אותה במהירות לפני שהמשתמשים קיבלו גישה למוצר. בעקבות התקריות הללו גברו הקריאות לגיוון ממאגרי המידע עליהם מאומנות תוכנות בינה מלאכותית למניעת הטיות וטעויות, וחברות ניסו לשפר, אך גם תהליך זה לא עבר שום סערות. בשנת 2019 ניסתה גוגל לשפר את תכונת זיהוי הפנים בסמארטפונים אנדרואיד, ולצורך כך לכלול תמונות נוספות של כהי עור במאגר. אבל אז פורסם שעובדי הקבלן שנשכרו לאסוף ביקורות פנים השתמשו בטקטיקות בעייתיות כמו הומלסים וסטודנטים , מבלי להיות שקוף לגבי מטרת איסוף הנתונים. 3 צפו בגלריה הטכנולוגית השתפרה, אך החששות נותרו גוגל אמרה בתגובה לפרסום כי החברה בחרה לא לאפשר לתמונות אפליקציית גוגל לתייג תמונות כקופים כי היתרון "אינו מתגבר על הסיכון לפציעה". אפל לא הגיבה לנושא. אמזון ומיקרוסופט אמרו שחברות תמיד שואפים לשפר את המוצרים שלהם. Gotopnews.com