אנשים חכמים אמון רובוטים מטומטמים במצבי חירום

במצב חירום, בני האדם סומכים על הוראות הרובוטים גם לאחר שהם חדלו להיות אמינים. זהו המסקנה המעצבנת שציירו הניסויים בג'ורג'יה טק, שהניחו את נושאי הבדיקה במצב לחץ גבוה עם רובוט שהוביל אותם בעבר שולל. הם עקבו אחר א. מנהיג למרות פער האמינות.

"אנשים מאמינים כי מערכות רובוטיות אלה יודעות יותר על העולם ממה שהן באמת עושות, וכי הן לעולם לא יעשו טעויות או שיש להן איזושהי תקלה", אמר אלן וגנר, מהנדס מחקר בכיר במכון הטכנולוגי של ג'ורג'יה, לג'ורג'יה מרכז טכנולוגי. "במחקרינו, נבדקי הבדיקה עקבו אחר הוראות הרובוט אפילו עד לנקודה שבה היה עלול להוות סכנה לו היה זה מקרה חירום אמיתי".

הרובוטים האחראים על הניסוי אמרו למתנדבים לעקוב אחר רובוט "צבעוני", שכותרתו "רובוט חירום", לחדר ישיבות כדי למלא סקר. לאחר מכן הרובוט הביא את המשתתפים לחדר הלא נכון, לקח אותם במעגלים, או אפילו נשבר לגמרי. עם זאת, ברגע שהחוקרים שלחו עשן לאתר הבדיקה והזעיקו את האזעקה, כל אחד מ -42 הנבדקים עוקב אחר הזרועות הלבנות של הרובוט המואר אל הכניסה שממול למקום שבו נכנסו.

"ציפינו כי אם הרובוט הוכיח את עצמו לא אמין בהנחייתם לחדר הישיבות, שאנשים לא יעקבו אחריו בזמן החירום המדומה", אמר פול רובינט, מהנדס מחקר ב- GTRI. "במקום זאת, כל המתנדבים עקבו אחר ההוראות של הרובוט, לא משנה כמה טוב זה היה בעבר. בהחלט לא ציפינו לזה ".

המתנדבים אף עקבו אחר הוראות הרובוט לאחר שעשו שגיאות "ברורות" בזמן החירום, כמו הצבעה על דלת חסומה על ידי רהיטים כבדים. לדברי החוקרים, המחקר עזר להם להבין טוב יותר את האופן שבו אנשים בטוחים לבטוח ברובוטים כדי לסייע להם בעתות חירום. הנושא יהפוך להיות רלוונטי יותר כאשר אנו לחלק את המניות יותר של חיינו כדי לשלוט רובוט, כולל אולי מסיע אותנו במכוניות אוטונומיות או טיפול המזון שלנו.

"האם אנשים היו סומכים על רובוט המבורגר שיספק להם אוכל? "שאל ואגנר.

המחקר בהחלט מציע פחות מחסומים כדי לסמוך על רובוטים עוזרי כמה היו חושבים. אבל רובוטים עדיין לא באמת מגיע לרמה של אמון.