הפרדוקס הוא, שבעוד ה-AI נותן תמונה בהירה יותר של שדה הקרב, סיכוני המלחמה גדלים למי שנמצא בו. יהיה פחות זמן לעצור ולחשוב. ככל שהמודלים יהיו מתוחכמים יותר, יהיה קשה יותר לעצור אותם בלא לתת לאויב יתרון קטלני. צבאות יחששו שאם לא יתנו יד חופשית ל-AI, הם יוכו בידי אויב שכן עושה זאת. קרבות מהירים יותר ופחות הפוגות יקשו לשאת ולתת על הפסקות אש ולמנוע הסלמה. הדבר עשוי להעניק יתרון לצד המתגונן, שיוכלו להתחפר בעוד האויב נחשף בהתקדמותו. או שהוא יפתה את התוקפים להכות מוקדם ובעוצמה, במטרה להשמיד את החיישנים והרשתות בהם יהיו תלויים צבאות מוטי AI.
ההיקף של מלחמות מבוססות AI יוביל לכך שהעורף התעשייתי יהיה עוד יותר חשוב מאשר כיום. לכאורה, טכנולוגיה מתקדמת משמעותה צבא קטן וחכם; אבל אם היא יכולה לאתר רבבות מטרות, יהיה צורך ברבבות חימושים כדי לפגוע בהן. ואם לצד המתגונן יהיה יתרון, הצד התוקף יצטרך עוד יותר חימושים כדי לפרוץ. וזו אינה הסיבה היחידה ש-AI נותן יתרון למדינות גדולות. הכטב"מים נעשים זולים יותר, אבל המערכות הדיגיטליות לניהול שדה הקרב יהיו יקרות מאוד. ביסוס הצבא עליהן יחייב השקעות עתק בשרתי ענן שיוכלו לטפל במידע סודי, ויהיה צורך לאחד את הנתונים של הזרועות השונות. אימון המודלים יצריך גישה לכמויות עצומות של מידע.
עד לאחרונה נהוג היה לחשוב שהיתרון בתחום ה-AI מצוי בידי סין, בשל מאגרי המידע שבידיה, השליטה על המגזר הפרטי והעדר מגבלות אתיות. אך כעת נראה שארה"ב מובילה במודלים שיעצבו את הדור הבא של AI צבאי. ויש חשיבות לאידיאולוגיה, מוסיף אקונומיסט: לא ברור האם הצבאות במדינות סמכותניות, המעדיפות שליטה מרכזית, יוכלו ליהנות מהיתרונות של טכנולוגיה הדוחפת מודיעין ותובנות לדרגים הטקטיים הנמוכים ביותר.
אם למרבה הטרגדיה תפרוץ מלחמת ה-AI הראשונה, החוק הבינלאומי יידחק לשוליים – עוד סיבה לחשוב כבר היום כיצד להגביל את היקף ההרס. למשל: סין צריכה לאמץ את קריאתה של ארה"ב למנוע שליטת AI על נשק גרעיני. וברגע שהמלחמה תפרוץ, קווים אדומים אנושיים יהיו חשובים מאי פעם. יהיה צורך לאזן מערכות AI שמטרתן להגיע ליתרון מירבי בשדה הקרב, עם ערכים וחסמים שמפקדים בשר ודם תופסים כיום כמובנים מאליהם, כולל ערכם של חיי אדם והימנעות מפגיעה בכלים כמו לווינים להתראה גרעינית.
אקונומיסט מסכם: חוסר הוודאות הוא עצום. דבר אחד בטוח והוא שהשינוי מבוסס ה-AI הולך ומתקרב. הצבאות אשר ישלטו מוקדם יותר ובצורה יעילה יותר ביתרונות הטכנולוגיים ייצאו וידם על העליונה. סביר להניח שכל האחרים יהיו קורבנות.