אפל X לא יכול לספר חוץ סינית פנים, החזר בהתחשב

בשבוע שעבר, בעיר נאנג 'ינג, עיר גדולה במזרח סין, אישה בשם יאן הוצע פעמיים החזר מ Apple עבור iPhoneX לקוי שלה, אשר עמיתה נעולה באמצעות טכנולוגיית זיהוי פנים. שתי הנשים הן סיניות אתניות.

יאן אמר החדשות המקומיות כי בפעם הראשונה שזה קרה, היא התקשרה מוקד iPhone, אבל הם לא מאמינים לה. זה לא היה עד שהיא ועמיתיה הלכו לחנות המקומית של אפל והראו לצוות החנות כי הם הציעו לה החזר והיא קנתה טלפון חדש, וחשבה שאולי מצלמה פגומה אשם.

אבל לטלפון השני היתה אותה בעיה, מה שמרמז שלא היתה זו מצלמה פגומה, כפי שהעלו עובדי החנות, אלא בעיה עם התוכנה עצמה.

זה לא יהיה המקרה הראשון שבו תוכנת זיהוי הפנים, ו- AI מאחורי זה, התקשה לזהות פנים לא לבן.

בשנת 2015, אלבומי Google תייגו בטעות תמונה של שני אפריקאים-אמריקנים כגורילות, בעוד שב -2009 למחשבים של HP http://www.youtube.com/watch?v=t4DT3tQqgRM) התקשו לזהות ולעקוב אחר פרצופים שחורים - אבל אין בעיה עם פרצופים לבנים. באותה שנה, תוכנת המצלמה של ניקון נתפסה בצורה לא נכונה של פנים אסיאתיות מהבהבות.

אלבומי Google, זיין אותך. החבר שלי לא גורילה. pic.twitter.com/SMkMCsNV4

- ג 'קי (@ jackyalcine) 29 יוני, 2015

"זוהי ביסודו בעיית נתונים", כתבה קייט קרופורד, חוקר ראשי במיקרוסופט ויו"ר משותף של סימפוזיון הבית הלבן של אובמה על החברה. "אלגוריתמים ללמוד על ידי להיות מוזן תמונות מסוימות, נבחר לעתים קרובות על ידי מהנדסים, ואת המערכת בונה מודל של העולם מבוסס על התמונות האלה. אם המערכת מאומנת על תמונות של אנשים לבנים באופן מכריע, זה יהיה קשה יותר לזהות פרצופים לא לבנים."

ג'קי אלסין, המתכנת של ברוקלין, שהתמונה שלו מוטעה על ידי גוגל, הסכימה. מניסיונו אמר, "זה היה יכול להימנע עם סיווג מדויק ומלא יותר של אנשים שחורים."

אבל הגזענות המקודדת לתוך AI, גם אם היא לא מכוונת, יש השלכות מעבר להכרה פנים בלבד.

חקירה של ProPublica ב -2016 מצאה כי פושעים שחורים היו בעלי סיכוי כפול בטעות כפי שסביר להניח שיחייבו את הפשעים מאשר פושעים לבנים, בעוד המגמה הגוברת של "שיטור חזוי" משתמשת באלגוריתמים לחיזוי פשע ומשאבי משטרה ישירים בהתאם.

עם זאת, קהילות המיעוטים היו היסטוריות יתר על המידה, מה שמוביל לאפשרות ש"סיכון תוכנה זה מנציח מעגל אכזרי כבר ", אומר קרופורד.

חזרה נאנג 'ינג, סין, קיבל יאן החזר השני על iPhoneX השני שלה. מדיווחי החדשות המקומיות, לא ברור אם היא רכשה שליש.

מה שהיה על כף המאזניים, הפעם, אולי היה רק ​​צרכן אחד. אבל המקרה של יאן היה דוגמה להמשך הצורך של תעשיית הטכנולוגיה לעצב עם גיוון והכללה בראש.