היזם אילון מאסק, שייסד בין היתר את החברות PayPal וטסלה מוטורס, ביחד עם יותר מ-100 מומחי רובוטיקה, הזהירו את האו"ם שמרוץ חימוש ליצירת רובוט חמוש יכול להוביל להשמדת האנושות – מדווח ניוזוו'ק. במכתב גלוי ששלחו מאסק, מוסטפה סולימאן שהיה מהמייסדים של חברת DeppMind לפיתוח בינה מלאכותית ועוד 114 מומחים מ-26 מדינות, הם קראו לאסור על פיתוח נשק אוטונומי.
מומחים אלו, שכל אחד מהם עסק בפיתוח בינה מלאכותית, רובוטיקה ותעשיות רלוונטיות אחרות, הזהירו, כי הגעתו של רובוט לוחם לצבאות העולם, תהיה בעל משמעות ללוחמה כמו הופעת אבק השריפה ונשק גרעיני. מומחים מתארים מיליטריזציה של רובוטים כמהפכה השלישית בלוחמה.
במכתב נאמר, כי ברגע שיפותח נשק אוטונומי קטלני, ניתן יהיה לקיים עימותים מזוינים בקנה מידה גדול יותר מאי פעם במהירות כה גדולה, שלא ניתן להבין זאת. נשקים אלו יכולים להיות נשקי טרור, נשק שבו רודנים ישתמשו להרג אוכלוסיות חפות מפשע וניתן יהיה להשתמש בו בדרכים לא רצויות. כותבי המכתב מתייחסים למערכת נשק היפותטית, שלאחר הפעלתה תוכל לפצוע ולהרוג מטרות אנושיות בלי הכוונה אנושית שתבחר את המטרות ותלחץ על ההדק.
שמם הרשמי של רובוטים אלו הוא "מערכת נשק אוטונומיות מלאות" (AWS). רובוטים אלו מצויים בדרך לעבור ממדע בדיוני למדע אמיתי. הדבר מעלה שפע של שאלות, החל משאלות על ביטחון הפעלת הנשק שניתן לפרוץ אליו, תקלה שתביא לאי קיום פקודות וכלה בסוגיות מוסריות ומשפטיות הנוגעים לפעולות נשק זה. כותבי המכתב מזהירים, שברגע שאותה תיבת פנדורה תיפתח, יהיה קשה מאוד לסגור אותה.
המכתב פורסם כעת, כדי שיחפוף לכנס הבינלאומי בנושא בינה מלאכותית באוסטרליה. האו"ם דחה דיון בנושא לנובמבר. חותמי המכתב קראו להכפלת המאמצים בגיבוש אסטרטגיה שתגן על העולם מפני רובוטים רצחניים.
