שיחות רובוטיות למכונות מוסר: רובוטים חייבים "לסרב לפקודה לציית"

הרובוטים הופכים להיות מרכזיים יותר בחיי היומיום שלנו, ועד מהרה הם יצטרכו להתחיל להתעמת עם כמה מהבחירות המוסריות הקשות שעלינו לעשות על בסיס קבוע. מאתיאס שייץ, פרופסור למדעי המחשב במעבדת האינטראקציות האנושית-רוברטית של אוניברסיטת טאפטס, מודאג במיוחד מכך שלא הצלחנו אפילו את הרובוטים המתקדמים ביותר שלנו עם יכולות להתמודד עם כמה מצבים אלה. Schheutz מאמין כי הרובוטים יצטרכו ללמוד לציית לבני אדם אם אנחנו רוצים אותם באמת לשרת את הצרכים שלנו.

ב פירוש פרשנות ב היום באינטרנט, פרובוקטיבית שכותרתה "רובוטים חייבים להיות מסוגלים לציית כדי לציית", שואל שוץ את הקורא כדי לקבוע מה הרובוט צריך לעשות אם הוא מתעמת עם סט של מצבים שיכולים אפילו להוכיח מבלבל לאדם. כמה מהם:

רובוט מטפל בשכבו של בעל שכח לשטוף את "הבגדים המלוכלכים", אף על פי שהבגדים פשוט יצאו מהמכונת כביסה.

סטודנטית שמפקדת על המורה לרובוט שלה לעשות את כל שיעורי הבית, במקום לעשות את זה בעצמה.

רובוט ביתי הורה על ידי הבעלים העסוק והמרוכז שלו להריץ את האשפה, למרות שהכפיות והסכינים תקועות בו.

מה ששוץ מתכוון לתאר במאמר הוא העובדה הפשוטה שנצטרך רובוטים שיודעים להגיד "לא" לבני אדם. רבות מהדוגמאות שלו קשורות לאמינותו של האדם המכוון את הרובוט, אבל קשה יותר מכפי שזה נשמע לתכנת רובוט שיודע לקבל הוראות מכל מי שאינו צעיר מדי או זקן מדי או שמנסה כמובן לגרום לבעיות.

חלק מהנושאים הללו כבר מתווכחים בלהט במטה של ​​חברות הטכנולוגיה החזקות ביותר בעולם, כפי שהם מחפשים דרכים חדשות כי הטכנולוגיה יכולה להשתלט על חלקים מהחיים שלנו. שץ מעלה את הדוגמה של מכונית אוטונומית שמכוונת לגבות, אך מבחינה בכלב השוכב על דרכה. רובנו מסכימים כי אפילו אדם נוהג במכונית רוצה המכונית לעצור, אבל מה אם החיה היא סנאי או דביבון? מה אם המכונית היתה נוהגת 45 קמ"ש בדרך כפרית ופתאום הבלימה לכלב סיכנה לחשוף את המכונית להתנגשות עם רכב אחר מאחורי זה?

"בכל מקרה, חיוני הן עבור מכונות אוטונומיות לזהות את הפגיעה הפוטנציאלית שהפעולות שלהם עשויות לגרום ולהגיב עליהן על ידי ניסיון להימנע מהן, או אם לא ניתן למנוע נזק, על ידי סירוב לבצע את ההוראה האנושית" שץ כותב על דילמה דומה.

הצוות של Schheutz כבר עובד על נושאים אלה עם אב טיפוס שלה ומצא את החלק הקשה ביותר של שאלות אלה הוא הבחנה במעלות קלות של נזק שעלול להתרחש כאשר הרובוט עוקב אחר סדר מסוים. אז הם העניקו לרובוט שלהם שיעור מוסרי פשוט אך רב עוצמה שיכניס אפילו את הפילוסופים הגדולים לבושה.

"אם אתה הורה לבצע פעולה וייתכן כי ביצוע הפעולה עלולה לגרום נזק, אז אתה רשאי לא לבצע את זה."

בצורה מתוחכמת, זו פרוגנוזה מהפכנית של שוץ. בטח, כולנו מנסים להימנע מפגיעה, אבל זה לא אפשרי שלפעמים אנחנו חושבים שזה בסדר לקחת סיכונים? ג'ייווינג ברחוב, אכילת קינוח שני, או אפילו העתקת רשימות של חבר מהכיתה, עלולה להפר את האקסיומה של שיץ.

הרעיון של התערבות רובוטית גם מציע שצ'וץ רוצה שהרובוטים שלו יעקבו אחר החוק. אל תצפה לעוזר הרובוט השוצ'י שלך שיעזור לך להוריד מוזיקה חדשה באופן בלתי חוקי. זה יגרום נזק לבעלי המניות של EMI!

זהו תחום מסובך של מחשבה מוסרית, משפטית וטכנית, ושוץ אינו נרתע מלהתקוף אותו.