ארה"ב אוספת מומחים לדון בלשכות וברובוט הפוטנציאלי האוטונומי שלנו

השבוע, האו"ם מקיים "מפגש מומחים" כדי לדון אם האו"ם צריך לאסור קטלני כלי נשק אוטונומיים (LAWS) עוד לפני שהם קיימים. אם אתה עדיין לא מאוים, לשקול אחד כזה נשק אוטונומי: צבאות רובוט אינטליגנטי מלאכותית.

או לשקול הגדרה אחת בפועל של LAWS:

"פלטפורמת האספקה ​​של LAWS תהיה מסוגלת לנוע, להתאים את עצמה לסביבותיה הקרקעיות, הימיות או האוויריות, ולכוון ולירות במפעיל קטלני (כדורים, טילים, פצצות וכו ') ללא כל התערבות אנושית או אימות".

יש אחת כזו מערכת הדיווחים כבר בשימוש באזור מפורז בין צפון ודרום קוריאה.

חלק מן הדאגה כאן, מלבד לתת רודפים אוטומטיים אוטומטיים רוצחים אוטומטי, היא כי יהיה מרוץ חימוש חדש לפתח ולשחרר LAWS. אם מרוץ החימוש הזה ימריא, אז - הוויכוח ירוץ - לא יהיה לעצור אותו. זוהי גרסה של הדור שלנו של הרס מובטח, אבל זה יהיה מחוץ לידיים של האנושות. במקום להמתין להגיב להרס של LAWS, האו"ם מקווה לנקוט צעדים ראשוניים כדי להבטיח כי אף פעם לא יהיה כזה הרס.

על-ידי כינוס זה, האו"ם נותן לגיטימציה למה שהיה יכול להיות אחרת. עם זאת, שמות חשובים אחרים חולקים את הדאגה. בשנה שעברה, מכון העתיד של החיים הפגיש את א. וחוקרי רובוטיקה העבירו מכתב פתוח הקורא לאיסור כזה על מערכות נשק אוטונומיות.

טכנולוגיית הבינה המלאכותית (AI) הגיעה לנקודה שבה הפריסה של מערכות כאלה היא - למעשה, אם לא חוקית - ריאלית בתוך שנים, לא עשרות שנים, והסיכונים גבוהים: נשק אוטונומי תוארו כמהפכה שלישית בלחימה, אחרי אבק שריפה נשק גרעיני.

סטיבן הוקינג, אילון מוסק, נועם חומסקי וסטיב ווזניאק, יחד עם שמות חזקים אחרים, חתמו על אישור המכתב. אילון מוסק תרם גם הוא 10 מיליון דולר ל- FLI, והוא מודאג לגבי אפוקליפסה של LAWS. הנה מאסק פוסט תרומה:

הפגישה הבלתי רשמית של האו"ם נמשכת עד יום שישי. אמנם זה לא בהכרח לגרום לאיסור LAWS, זה הצעד הראשון הנדרש.