האם נשק אוטונומי יגיד "לא" לצווים לא חוקיים?

Baynazar מוחמד נזאר היה מחוסר הכרה על שולחן הניתוחים כאשר התקרה החלה להתמוטט עליו. אב לארבעה עבר לבית החולים ביום הקודם לאחר שנורה ברגלו, ועבר את הניתוח השני שלו בתוך יומיים כדי לתקן את הפציעה. כשהאמריקאים החלו להרוס את הבניין, לא היו לרופאים שעבדו עליו ברירה אלא לברוח לבד במהירות האפשרית.

אנדרו Quilty ב מדיניות חוץ מספר את סיפור חייו ומוותו של בינאזר במאמר ובו תצלום של גופו המכוסה בשפכים על שולחן הניתוחים. Baynazar היה אחד 31 אנשים נהרגו בארה"ב כאשר הוא פגע בבית החולים המנוהל על ידי רופאים ללא גבולות (המכונה גם MSF) ב קונדוז, אפגניסטן, ב -2 באוקטובר.

אחרי שביתות בעלות אופי גבוה, אזרחים-נפגעים, פוליטיקאים ופובליציסטים שואלים איך זה יכול לקרות, ומה אפשר לעשות כדי להבטיח שזה לא יקרה שוב. בין תומכי מערכות נשק אוטונומיות, המכונה לעתים "רובוטים של רוצחים", טענה אחת נפוצה היא כי טעות אנושית (או זדון) אחראית במידה רבה לפשעים שבוצעו בזמן מלחמה. זה אפשרי תיאורטית, הם אומרים, כי רובוטים יכול להיות מדויק יותר במיקוד שלהם, ופחות נוטה לטעויות מאשר בני אדם.

"למעשה, שיפוט אנושי יכול להוכיח פחות אמין אז אינדיקטורים טכניים בחום הקרב", כותב מייקל נ 'שמיט, פרופסור במכללה הימית של ארצות הברית. "אלה שמאמינים אחרת לא חוו את ערפל המלחמה".

ארה"ב תקיפה אווירית על בית החולים MSF באפגניסטן "נגרמת בעיקר על ידי טעות אנושית" http://t.co/X9TGIA81aD pic.twitter.com/TUwit97206

- טלגרף חדשות (@TelegraphNews) 25 נובמבר 2015

השאלה אם כן היא: האם אתה יכול לתכנת את כלי המלחמה כדי להגביל את ההתנהגות האנושית לבצע שביתות כמו הפיגוע בבית החולים קונדוז בלתי אפשרי, או לפחות פחות סביר?

כנראה לא - לפחות בעתיד הקרוב. אבל כמה מתכנני בינה מלאכותית עיצבו רובוט שיכול לומר לא לבני אדם. עיצוב הניסוי הוא פשוט: האדם אומר לרובוט ללכת קדימה מהשולחן, אשר הרובוט בתחילה מסרב לעשות. כאשר האדם מספר לרובוט הוא יתפוס אותו, הרובוט מקבל את ההזמנה.

זה רחוק מאוד ממסוק מסוק אוטונומי למחצה, שאומר לצוות האנושי שלו שהוא לא יכול לבצע התקפה אווירית נגד בית חולים כי זה יהיה פשע מלחמה, אבל הנחת היסוד היא במידה רבה זהה. כפי שציינו אחרים, החרדה האנושית לגבי סוג זה של התפתחות ברובוטים שכיחה מאוד במדע הבדיוני - חשבו HAL-9000 "אני לא יכול לעשות את זה, דייב" כאשר הוא נועל את האדם מחוץ לתחנת החלל ב 2001: אודיסיאה בחלל.

לגבי הפרטים של שביתת הקונדוז, רבים מהעובדות סביב ההתקפה נותרו במחלוקת. ארגון MSF תבע חקירה עצמאית, שממשלת ארצות הברית מתנגדת לה, ומבטיחה לבצע ביקורות משלה.

חלקים מסוימים של חקירה אמריקנית אחת פורסמו מוקדם יותר החודש, ומצאו טעויות אנושיות ומכאניות האחראיות על השביתה. אבל מוקדם יותר השבוע, שני חברי שירות הגיעו קדימה כדי לסתור את ממצאי הדו"ח. הם אומרים שביתה לא היתה טעות. בשנת החשבונאות שלהם, שדווח לראשונה על ידי AP, הכוחות המיוחדים של ארה"ב קראו לשביתה כי הם אף שימשו את בית החולים כמפקדת הטליבאן ומרכז השליטה.

בגרסה הרשמית, כשל מכני הוביל לצוות של מטוס AC-130 בתחילה מקבל קואורדינטות עבור שדה ריק. אנשי הצוות חיפשו אחר בניין באזור שמתאים לתיאור הפיסי שניתן להם, ופתחו באש. כאשר המכשירים שלהם כיווצרו, הם נתנו לצוות את הקואורדינטות הנכונות עבור המטרה שלהם, אבל הצוות המשיך לירות על בית החולים בכל מקרה.

אם החשבון הזה נכון - שהמחשב היה מדויק בסופו של דבר, ובני האדם התעלמו ממנו - הוא נותן קצת אמון לתומכים באוטונומיה גדולה יותר במערכות נשק. עם זאת, המלחמה האמריקאית בטרור זרועה בדוגמאות של הצבא או ה- CIA שפגעו במטרה "הנכונה" ועדיין נהרגו מספר גדול של אזרחים. האוטומציה לא תפתור אינטליגנציה רעה, והניסיונות לתכנת קירוב למוסר לא יסיימו את פשעי המלחמה.

יש פיתוי חזק בארצות הברית לעקר את המלחמה, ואוטומציה, על ידי סילוק האמריקאים מדרכי נזק, שנועד לשנות את הגדרת המלחמה. העדפתו של אובמה להרג של זמזומים וההבטחות הנלוות לכך שמדוידות בכלי נשק הם הנשק המדויק ביותר שנוצרו אי פעם, הם הביטוי הברור ביותר של מטרות אלה. "הם היו מדויקים, תקיפות מדויקות נגד אל-קאעידה ושותפיהם", אמר אובמה ב- Google hangout ב- 2012.

עם זאת, מחקר של ממשלת 2013 עומד בניגוד לטענות אלה. הוא מצא כי מזל"טים באפגניסטן גרמו פי 10 למותם של אזרחים כמו כלי רכב בלתי מאוישים. "מזל"ט לא טוב יותר מלהימנע מאזרחים מאשר מטוסי קרב", אמרה שרה הולווינסקי, מחברת המחקר. האפוטרופוס. "כשטייסים מעופפים קיבלו הנחיות ברורות והכשרה על הגנה אזרחית, הם הצליחו להוריד את שיעורי הפגיעה באזרחים".

הצבא מוציא מיליונים על פיתוח מערכות אימון של רובוט אנושי, ומטשטש עוד יותר את הקווים בין משימות שמבוצעות על ידי כלי נשק מאוישים או לא מאוישים. "מה שאנחנו רוצים לעשות על צוותי לחימה אנושיים-מכונה הוא לקחת את זה לשלב הבא, להסתכל על דברים כמו טקטיקות swarming", אמר סגן שר ההגנה בוב עבודה בבלוג הרשמי DoD המדע. "יכול F-35 לצאת לקרב עם ארבעה כנפיים לא מאוישים?"

האם האגפים האלה יגידו אם הטייס האנושי נותן להם פקודה מקבילה להליכה על שולחן? מה עם צו להרוס בית חולים או בית ספר? ערפל המלחמה יחול בכל מקרה. ואם נחליט לעקוף את המכונות, הביטוי "טעות אנושית" יהיה אחד המונחים המפחידים יותר בסכסוכים של העתיד.