מנע את אפוקליפסה הרובוט על ידי שוקל את זה א. שאלת המוסר

יש שאלה מוסרית רובוטיקה תרחיש שיש לענות על מנת בינה מלאכותית להתקדם.

תארו לעצמכם יש רובוט בשליטה על פיר שלי והוא מבין שיש עגלה מלאה עם ארבעה כורים אנושיים משוכות לאורך המסלולים מתוך שליטה. הרובוט יכול לבחור להזיז את המסלולים ולהרוג כורה אחד לא מודע, ובכך להציל את ארבעת העגלה, או לשמור את המסלולים כפי שהם ולאפשר את ארבעת הכורים לרוץ לתוך קיר ולמות. מה היית בוחר? האם תשובתך תשתנה אם הכורה היה ילד במקום זאת? אם אנחנו לא יכולים לענות על זה, איך נוכל לתכנת רובוטים כדי לקבל את ההחלטה?

אלה היו השאלות שהוצגו בפני חברי הפאנל והקהל באירוע של פסטיבל המדע העולמי בניו יורק שכותרתו "מתמטיקה מוסרית של רובוטים: האם החלטות חיים ומוות מקודדות?" רובן בחרו לכוון את העגלה לכיוון הכורה אחת ולשנות את האדם לילד לא שינה את דעתו של המשיב, אך הוא לא היה פה אחד והחלטות מוסריות אנושיות לא תמיד.

זה היה דוגמה בולטת למאבקים של האנושות כפי שהאינטליגנציה המלאכותית ממשיכה להתקדם ואנו מתמודדים עם האפשרות לתכנת רובוטים עם מוסר.

"רעיון כמו פגיעה קשה לתכנת", אמר פאריסט גארי מרקוס, פרופסור לפסיכולוגיה ומדעי עצבים באוניברסיטת ניו יורק ומנכ"ל משותף של המודיעין הגיאומטרי, Inc. הוא אמר מושגים כמו צדק אין לחתוך יבש התשובה לתוכנית ואנחנו כרגע אין קבוצה טובה של מוסר לרובוטים מעבר לחוקים של אסימוב, אשר הוצגו בסרטים כגון אני רובוט.

הוא אמר שזה היה הצבע שלו להצטרף לפאנל, לפתוח בשיחה על איך אנחנו צריכים להתמודד עם מוסר הרובוט.

אלון מושק דיבר השבוע על הדאגה שלו מאינטליגנציה מלאכותית, והרחיק לכת עד כדי כך שכולם יחיו באיזשהו סימולציה המטריקס וכי בני האדם צריכים להשקיע תחרה עצבית כי יצמיד למוח ולהגדיל את היכולות הקוגניטיביות האנושיות. פוטוריסטים אחרים כגון סטיבן הוקינג הזהירו מפני הסכנות של א. והשבוע הזה הזהיר מאט דיימון זאת גם בנאום הפתיחה שלו ב- MIT.

תרחישים אחרים כללו מערכות נשק אוטונומיות צבאיות וכיצד נעסוק מוסרית ופילוסופית עם ההחלטות האנושיות הללו בשדה הקרב, וכן על ההחלטות שעשויות להיות מכוניות אוטונומיות בעתיד הלא רחוק.

חברי הפאנל לא הגיעו להסכמה על מה לעשות, אבל אמרו שיש יתרונות עצומים ל- A.I. זה לא צריך להיות נזרק מהחלון רק בגלל השאלות האלה קשה. הם הציעו לדבר יותר בפתיחות על סוג כזה של שאלות פיר שלי מוסרי אולי נוכל להתקרב למניעת אפוקליפסה הרובוט.