ביולי אשתקד נסע הנרי קיסינג'ר בן ה-100 לסין, בפעם האחרונה לפני פטירתו. אחד המסרים שהעביר לנשיא שי ג'ינפינג היה על הסכנות ההרסניות של הבינה המלאכותית. מאז, בכירים במגזר ההיי-טק האמריקני ופקידי ממשל לשעבר נפגשו בשקט עם עמיתיהם הסינים לסדרה של מפגשים בלתי רשמיים אשר כונו "דיאלוג קיסינגר", בין היתר בנושא זה. הוא צפוי לעלות שוב היום (27.8.24) בביקורו בבייג'ינג של היועץ לביטחון לאומי, ג'ייק סליבאן – מדווח אקונומיסט. רבים בעולם ההיי-טק סבורים שה-AI ישתווה לתבונה האנושית ואולי אף יעלה עליה. לדעת חלקם יש גם סכנה שיום אחד המודלים הללו יידעו ללמוד וייצאו משליטה, והם קוראים להטיל פיקוח קפדני על התחום. האחרים סבורים שה-AI יניב יתרונות משמעותיים לאנושות. הללו אומרים, שהתחרות עם המפתחים הסינים – שאינם נתונים למגבלות כלשהן - היא כה עזה, עד שהמערב לא יכול להרשות לעצמו להאט. בפועל, גם בסין גוברים החששות מפני AI חסר שליטה. עד לאחרונה התרכזו המאסדרים הסינים בחשש מפני כלי AI שלא יתיישרו לפי הקו של המפלגה הקומוניסטית, ולא מפני אלו שייצאו משליטה בכלל. תומכי הענף רוצים שכך זה יימשך. ז'ו סונגצ'ון, האחראי על התחום מטעם המפלגה, טוען שהוא חשוב לסין כמו פרויקט "שתי פצצות, לווין אחד" מימי מאו, הבסיס לתוכנית הגרעין הסינית. שר המדע והטכנולוגיה, יין הג'ון, השתמש בססמת מפלגה ישנה ואמר שהפיתוח – כולל ב-AI - הוא מקור הביטחון הגדול ביותר של סין. אולם, דעה זו הולכת ונדחקת מפני החוששים מאובדן שליטה. הבולט שבהם הוא מדען המחשבים המוביל אנדרו צ'י-צ'ין יאו, אשר טען בחודש שעבר, כי סכנת ה-AI גדולה מזו של נשק גרעיני או ביולוגי. ז'אנג יא-קין, לשעבר נשיא ענקית ההיי-טק Baidu, הזהיר, בשם האקדמיה הסינית למדעים, כי המודלים של AI עלולים לראות את בני האדם כפי שבני האדם רואים נמלים. ההשפעה של טענות אלו ניכרת לעין, אומר אקונומיסט. במארס נפגשו מומחים בינלאומיים בבייג'ינג וקראו למפתחים לחסל את כל המודלים הנראים כשואפי עוצמה או עלולים להתרבות מעצמם. זמן קצר לאחר מכן דנו בכירים במפלגה בסכנות ה-AI. גוף ממשלתי המממן מחקרים מדעיים החל להציע מענקים לבחינת ההתאמה בין ה-AI לבין הערכים האנושיים, ומעבדות ממשלתיות עושות עבודה חשובה בתחום. הוויכוח על הדרך בה יש לגשת לטכנולוגיה הצית ויכוח עז בין שני רגולטורים סינים. משרד התעשיה הסב את תשומת הלב לסכנות והנחה את המדענים לבחון האם המודלים מאיימים על בני אדם. אבל רוב הדרג המקצועי סבור שפיגור אחרי ארה"ב הוא סכנה גדולה עוד יותר; גם משרד המדע והמתכננים הכלכליים מעדיפים פיתוח מהיר יותר. התוצאה הייתה שהממשלה נטשה בשקט חוק מתוכנן בנושא ה-AI. בסופו של דבר, צופה אקונומיסט, ההחלטה תתיישר לפי עמדתו של שי. בחודש יוני הוא שיגר מכתב אל יאו ושיבח אותו על עבודתו בתחום. חודש לאחר מכן אותת שי בצורה ברורה שהוא לוקח ברצינות את הדאגות: דוח של הוועד המרכזי ציין את סכנות ה-AI לצידן של סכנות ביולוגיות ואסונות טבע, ולראשונה קרא לפקח על הבטיחות בתחום. סין צפויה להקים מכון לבטיחות AI אשר ישים עין על המחקר, כפי שעשו ארה"ב ובריטניה; לא ברור איזה משרד יפקח על מכון כזה. נכון לעכשיו, פקידים סינים מבליטים את הצורך לחלוק את האחריות ולשפר את התיאום. אם סין אכן תלך בכיוון הזה, היא תעשה מרחק רב יותר מכל מדינה גדולה אחרת. שי אומר שהוא רוצה לפעול במסגרת האו"ם. כדי לעשות זאת, יהיה על ארצו לשתף פעולה עם מדינות אחרות – אך ארה"ב וידידותיה עודן שוקלות את הנושא. הוויכוח על סכנות ה-AI רחוק מלהסתיים.