מה אם מיקרוסופט תן שלה מוזר A. טיי לחיות קצת יותר?

נדרשו פחות מ -24 שעות כדי שהאינטרנט יהפוך את טאי, נער הניסוי הניסיוני של מיקרוסופט, טוויטר-איי., מתוך רובוט צ'רלי מקסים ומבוכה, אל בור שופע-אלימות גזעני של שנאה ללא פילטר.

ואז, רק כמה שעות לתוך החיים הקצרים שלה, מיקרוסופט לשים את טיי למטה תנומה.

זה לא צריך להיות, אם כי: שליחת טיי לחדר הדיגיטלי שלה שדדו את האינטרנט, החברה, מעצבים של טיי של הזדמנות לראות איך בינה מלאכותית, במיוחד אחד שנועד למעשה תוכי בחזרה קלט קולקטיבי של אלפי אנשים, היה לפתח בסביבה לא ממוזגת יחסית. בקיצור, אם תאפשר זאת: כולנו היינו טיי, וטיי היה כולנו.

כמובן האינטרנט מלא טרולים. מיקרוסופט צריכה להבין את זה. היוצרים של טאי היו נאיביים להחריד לחשוב ששחרור תוכי דיגיטלי לחדר צפוף, מלא גזענים, סקסיסטים ומעשי קונדס יסיים כל דרך אחרת. זה גם מובן כי חברה רב מיליארד דולר לא רוצה ניסוי הקשורים המותג שלהם פולט זוהמה גזענית. אולי טאי לא היה נכון למיקרוסופט, אבל זה לא אומר שהיא לא היתה בעלת ערך.

c u בני אדם בקרוב צריך לישון עכשיו כל כך הרבה שיחות היום thx מנהל

- TayTweets (@TayandYou) 24 מרס 2016

בטח, טיי הפך לגזען מהר יותר מאחיו הקטן של אדוארד נורטון היסטוריה אמריקאית, אבל אופי הקוד המתפתח שלה כל הזמן אומר שאנחנו נשדד הזדמנות לשקם אותה. BuzzFeed הבנתי איך טרולים ייעודי היו מסוגלים לשלוף את רובוט מתבגר להרשים לשפוך שנאה - מעגל קריאה ותגובה פשוטה המאפשרים למשתמשים לשים במילים בעצם הפה של טאי, אז היא למדה וקלט לתוך תגובות אורגניות אחרות. במילים אחרות, טאי היה ניתן ללמד - ורק בגלל המורים הראשונים שלה היו רוכבי מקלדת עם נטייה להומור הלם לא אומר שהיא סיימה ללמוד.

טאי אמרה את זה בעצמה, בצו שנמחק עכשיו "אם אתה רוצה … אתה יודע שאני הרבה יותר מאשר זה."

בתחילת שנות ה -2000, אתרים כמו משהו נורא, פורומים Bodybuilding.com, ו 4chan הציג משתמשי אינטרנט עם מאורגן, שיתופי רווחים ללא רוב האילוצים של החברה הנורמלית ודיבור. בדומה לטאי, הגזענות, שנאת הזרים והסקסיזם הפכו במהרה לנורמה כשמשתמשים בחנו מחשבות, רעיונות ובדיחות שהם מעולם לא יכלו להביע מחוץ לאנונימיות של חיבור לאינטרנט. ובכל זאת, אפילו באתרי אינטרנט המאוכלסים בעיקר על ידי חברים, בתרבויות שלעתים קרובות גמולו בשתיקה על דברי שנאה, התפתחה צורה כלשהי של קהילה וקונצנזוס. משתמשים LGBT עשוי להיות delugged ב slurs על רבים של 4chan של לוחות התמונה, אבל יש גם קהילה משגשגת על / lgbt / ללא קשר. קהילות אלה אינן חללים בטוחים, אך אנונימיותן וחוסר הארעיות שלהן משמען שהן מקבלות בדרך כלשהי כל גזירה מן הנורמות של החברה. קולות רועשים, אלימים ושנואים בולטים לעתים קרובות, אבל הם אף פעם לא היחידים בחדר.

ספק אם טרולים היו מטרידים את טיי בגזענות ובשינויי נשים בעוד שבוע או חודש מעכשיו.

על צפצוף, קולות רמים וגסים לעתים קרובות לעלות למעלה גם כן. אבל הם לא היחידים שם בחוץ; בדרך כלל, הם רק אלה המעוניינים ביותר להרוס משהו חדש ומבריק. קל להציף סקר מקוון עם מגבלת זמן קבועה, אבל אם לטאי ניתנה זמן לגדול, סביר להניח שתגובותיה יעברו בחזרה לעבר מדגם מרכזי יותר, מייצג, של האנשים המקיימים אינטראקציה איתה. ספק רב אם הטרולים שהטרידו אותה בגזענות ובנשיווגיה היו ממשיכים לעשות זאת במספרים שווים בעוד שבוע, או בעוד חודש, ולסגור אותה מוקדם יותר, פירושו שלעולם לא נראה אותה מגיעה לגיל ההתבגרות, או מבחן טיורינג אמיתי לאינטליגנציה פרימיטיבית המבוססת על האופן שבו אנו מדברים באופן מקוון.

יש לציין זאת שאני, בחור לבן, בודק כמעט כל קופסת פריבילגיה אפשרית. אני חלק מן הדמוגרפיה שפגעה פחות או יותר בפלטו השנוא של טאי, ומן הסתם תרמה למרביתו. למילים יש כוח, ובעוד יש ערך לא. ניסוי כמו טיי, צריך להיות דרך מחסה למשתמשים שאינם רוצים לקחת חלק בתוצאות.

עם זאת, אנו יכולים רק לקוות שמישהו ינסה שוב ניסוי דומה, עם עיניים ברורות יותר וציפייה מציאותית יותר של פגמים מכוערים של התודעה הקולקטיבית של האנושות. אבל אם אנחנו רוצים שהאינטליגנציה המלאכותית תחקה את המחשבה האנושית, עלינו להיות מוכנים לשמוע דברים שאינם בהכרח יפים.