מנכ"ל OpenAI סם אלטמן הצהיר בדצמבר 2024 כי AGI תגיע "מוקדם יותר ממה שרוב האנשים בעולם חושבים". סר דמיס הסאביס, ממייסדי DeepMind, העריך שהטכנולוגיה תבשיל תוך חמש עד עשר שנים. דריו אמודאי, מייסד Anthropic, אף טען כי "בינה חזקה" – מונח מועדף עליו – עשויה להופיע כבר ב-2026. החזון הזה מדבר על מערכות שיכולות להבין, ללמוד, להסיק מסקנות ולפעול באופן עצמאי – לא רק בתחומים צרים, אלא בכל תחום שבו פועל המוח האנושי. עבור רבים בעמק הסיליקון, מדובר בצעד ראשון לקראת ASI – בינה מלאכותית על-אנושית, שתעלה על היכולות הקוגניטיביות של בני האדם.

הרעיון של "סינגולריות" – הרגע שבו מחשבים יעקפו את הבנת האדם – מיוחס לראשונה למתמטיקאי ג'ון פון נוימן כבר ב-1958. מאז, הפך המושג למוקד של דיון פילוסופי וטכנולוגי, עם תרחישים שנעים בין אוטופיה טכנולוגית לבין אפוקליפסה דיסטופית. בספר "Genesis" שיצא ב-2024, טוענים אריק שמידט, קרייג מונדי והנרי קיסינג'ר המנוח כי מדובר בעניין של זמן – לא של שאלה. הם מתארים עתיד שבו טכנולוגיה על-אנושית תנהל את קבלת ההחלטות – ואנו נמסור לה את השליטה מרצון.

התומכים ב-AGI מציגים חזון כמעט משיחי: ריפוי מחלות חשוכות מרפא, פתרון משבר האקלים, אנרגיה נקייה בלתי נדלית. אילון מאסק אף טען כי בינה על-אנושית תביא ל"משכורת אוניברסלית גבוהה", ותאפשר לכל אדם "R2-D2 ו-C-3PO אישי", בדומה לרובוטים ממלחמת הכוכבים. "לכולם תהיה הרפואה הטובה ביותר, מזון, תחבורה ובית – שפע בר-קיימא", אמר. אך יש גם צד אפל. האם הטכנולוגיה עלולה ליפול לידיים עוינות – או להחליט בעצמה שהאנושות היא הבעיה? "אם היא חכמה ממך – צריך לדעת איך לכבות אותה", הזהיר טים ברנרס-לי, ממציא ה-Web, בראיון ל-BBC.

פרופ' וונדי הול מאוניברסיטת סאות'המפטון טוענת כי "הם מזיזים את קו הסיום כל הזמן. זה תלוי את מי שואלים." לדבריה, "הקהילה המדעית מתרשמת מהטכנולוגיה – אבל היא עדיין רחוקה מאוד מתודעה אנושית". גם בבאק הודג'ט, סמנכ"ל הטכנולוגיה של Cognizant, מסכים כי יידרשו "פריצות דרך יסודיות" רבות. לדבריו, לא מדובר ברגע אחד דרמטי, אלא במסע מתמשך שבו חברות רבות מפתחות גרסאות שונות של בינה מתקדמת. פרופ' ניל לורנס מאוניברסיטת קיימברידג' אף טוען כי עצם המושג AGI הוא "אבסורדי כמו 'רכב כללי'. אין רכב שיכול לטוס, לנסוע ולהלך – ואין בינה אחת שיכולה לעשות הכול." לדבריו, ההתמקדות ב-AGI מסיטה את תשומת הלב מהשפעות אמיתיות של בינה קיימת: "הטכנולוגיה שכבר בנינו מאפשרת לאנשים לדבר עם מכונה – ולקבל מענה. זה מדהים. אבל אנחנו כל כך נשאבים לנרטיב של חברות הטכנולוגיה – שאנחנו מפספסים את הדרכים לשפר את חיי האנשים באמת".

בארה"ב, הנשיא ביידן חתם ב-2023 על צו נשיאותי המחייב חברות AI לשתף את תוצאות מבחני הבטיחות עם הממשל – אך הנשיא טראמפ ביטל חלק מהסעיפים, בטענה שמדובר ב"חסם לחדשנות". בבריטניה הוקם מכון בטיחות AI ממשלתי, שמטרתו לחקור את הסיכונים של טכנולוגיות מתקדמות. ובינתיים, המיליארדרים נערכים לתרחישי קצה. ריד הופמן, ממייסדי לינקדאין, סיפר בעבר כי "כשמישהו אומר שהוא קונה בית בניו-זילנד – זה סוג של קריצה. לא צריך להסביר." יש גם מי שבונה בונקרים. אך לפי עדות של שומר ראש לשעבר של אחד המיליארדרים, אם תרחיש האפוקליפסה יתממש – "הדבר הראשון שנעשה זה לחסל את הבוס – ולהיכנס לבונקר בעצמנו." לדבריו, הוא לא התבדח.