מושק, ווזניאק, הוקינג, גאונים אחרים מתנגדים לנשק אוטונומי

במשך עשרות שנים, AK-47 כבר מכונת רצח של בחירה בפינות מאובקות רבות של העולם כי זה זול, עמיד, בכל מקום. אותם גורמים, טוענים החותמים על מכתב פתוח שפורסם ביום שני ממכון העתיד של החיים, הם הסיבה נשק אוטונומי טומנת בחובה סכנה. אבל מה שמפריד בין נשק בינה מלאכותית מקלאצ'ניקוב הוא שהמכונה האוטונומית יכולה "לבחור ולעסוק במטרות ללא התערבות אנושית" - שבידיים הלא נכונות עשויות לבצע מעשי זוועה גדולים בהרבה מכל רובה בלתי מחושלת.

החתומים חותכים את עבודתם. כבני אדם, אנחנו, ככלל, הרבה יותר טוב מאשר להגיב מאשר לחשוב. שחקנים מרכזיים היו איטיים להנמיך את הנשק הגרעיני שלנו (ובניית מל"טים אוטונומיים, יחשבו החשיבה, ידרוש חלק קטן מהמכונות שיובילו ליצירת נוקה); במקומות אחרים, מוקשים עדיין דוט שנים הקרב הישן. כאשר הטכנולוגיה עמדה לחולל מהפכה במלחמה - בין אם זה אבק שריפה או dreadnoughts ימיים או אורניום מועשר - יש כמעט אף פעם לא היה מרוץ חימוש.

ה- FLI עושה הבחנה בין מזל"ט שיש לנו עכשיו, מנוסה מרחוק על ידי ידיים אנושיות, ורובוט נדלק והשאיר למכשירים הרצחניים שלו. הקמתה של זו תביא למרוץ אינטרנטי עולמי של ה- AI, כפי שטוענת ה- FLI, וכמו שההיסטוריה של הקלצ'ניקוב לא תסיים היטב:

זה יהיה רק ​​עניין של זמן עד שהם יופיעו בשוק השחור ובידיהם של טרוריסטים, דיקטטורים המעוניינים לשלוט טוב יותר באוכלוסייה שלהם, מצביאים המעוניינים לבצע טיהור אתני וכו '. כלי נשק אוטונומיים אידיאליים למשימות כגון התנקשויות, הידרדרות לאומות, להכניע אוכלוסיות ולרצח סלקטיבי של קבוצה אתנית מסוימת. לכן, אנו מאמינים כי מירוץ חימוש צבאי לא יהיה מועיל לאנושות. ישנן דרכים רבות שבהן AI יכול להפוך את שדות הקרב בטוח יותר עבור בני אדם, במיוחד אזרחים, מבלי ליצור כלים חדשים להריגת אנשים.

זה איזה חרא כבד. והשמות שמאחורי האזהרה הזאת הם לא הקשקשים שלך של סקיינט - הם יוצרי, מהנדסים, מדענים ופילוסופים שעזרו לעצב את מה שהטכנולוגיה שלנו נראית היום. פרוסה של השמות כוללים: סטיב ווזניאק של אפל, ג'אן טאלין של סקייפ, הפיסיקאית של הרווארד, ליסה רנדל, מי מחוקרי AI ורובוטים, ביניהם סטיוארט ראסל, ברברה גרוס, טום מיטצ'ל, אריק הורביץ - השחקנית טולולה ריילי, נועם חומסקי, סטיבן הוקינג.

הוקינג היה קצת על כפוף פסימי לאחרונה, גם חוזר על תחזיותיו על הסכנות של נתקלים חיים מחוץ לכדור הארץ. הוא גם יהיה לענות על שאלות על מכתב זה ואת העתיד של הטכנולוגיה על Reddit השבוע - אולי לא נוכל לשלוט חייזרים עוינים, אבל אנחנו יכולים לשים את "onus על מדענים בחוד החנית של הטכנולוגיה הזו כדי לשמור על הגורם האנושי מול מרכז החידושים שלהם ".

תוכל גם להוסיף את שמך למכתב.