החששות מפני בינה מלאכותית (AI) רודפים את האנושות מאז תחילת עידן המחשב. אז הן התמקדו באפשרות שמכונות ישתמשו בכוח פיזי כדי להרוג, לשעבד או להחליף בני אדם. אבל בשנים האחרונות צצו כלי AI חדשים המאיימים על הישרדות הציביליזציה האנושית מכיוון בלתי צפוי: השימוש בלשון – מערכת ההפעלה של האנושות. מה יקרה כאשר בינה בלתי-אנושית תהיה טובה יותר מאשר בני האדם בסיפור סיפורים, בכתיבת מנגינות, בציור דמויות ובכתיבת חוקים? – תוהה ההיסטוריון והפילוסוף הישראלי פרופ' יובל נח הררי במאמר נרחב באקונומיסט.
הררי מציע לחשוב על הבחירות הקרובות לנשיאות ארה"ב ועל השפעתם של כלי AI המסוגלים ליצור תוכן פוליטי בהיקף עצום, פייק ניוז ואלילים עבור כתות חדשות. לאורך ההיסטוריה טענו דתות שספרי הקודש שלהם לא נכתבו בידי אדם; בקרוב זו יכולה להיות מציאות עכשווית. במישור פרוזאי יותר, אנו עלולים למצוא את עצמנו מנהלים דיונים מקוונים על הפלות, שינויי אקלים או המלחמה באוקראינה עם ישויות שאנו חושבים שהן אנושיות – אך למעשה הן AI המנסים לשנות את דעתנו.
באמצעות השליטה בשפה, כלי AI יכולים אפילו ליצור יחסים אינטימיים ולהשתמש בהם כדי להשפיע על דעותינו. אין אינדיקציה לכך שלכלים אלו יש רגשות או מצפון, אך כדי ליצור אינטימיות מזויפת עם בני אדם – מספיק שהוא יצור תחושת משיכה. בקרב פוליטי על מוחות ולבבות, האינטימיות היא כלי הנשק היעיל ביותר, וכלי AI צוברים יכולת ליצור יחסים כאלה עם מיליוני בני אדם.
גם בלי יצירת אינטימיות מזויפת, כלי AI יכולים להשפיע על דעותינו והשקפות עולמנו – מתריע הררי. אנשים עלולים לסמוך עליהם בתור יועץ-יודע-כל. אין פלא שקבוצת גוגל מבועתת. למה לטרוח לחפש כאשר ניתן לשאול את האורקל? גם ענפי החדשות והפרסום צריכות לחשוש עד מאוד. למה לקרוא עיתון אם אפשר לשאול את האורקל מהם העידכונים האחרונים? ומה הטעם בפרסומת, אם האורקל יכול לומר לי מה לקנות?
אפילו תסריטים אלו אינם מתארים את התמונה בכללותה. אנחנו מדברים על סופה האפשרי של הדומיננטיות האנושית בהיסטוריה האנושית – טוען הררי. היסטוריה היא מפגש בין ביולוגיה ותרבות; בין צרכינו הביולוגיים לבין תשוקתנו לחיים טובים כמו מין ולבין יצירותינו התרבותיות כמו דתות וחוקים. היסטוריה היא התהליך באמצעותו חוקים ודתות מעצבים אוכל ומין.
מה יקרה למהלכה של ההיסטוריה כאשר AI ישתלט על התרבות ויתחיל לייצר סיפורים, מנגינות, חוקים ודתות? כלים קודמים כמו הדפוס והרדיו סייעו להפיץ רעיונות תרבותיים לבני אדם, אך מעולם לא יצרו רעיונות משל עצמם. AI שונה מן היסוד: הוא יכול ליצור רעיונות חדשים ותרבות חדשה לגמרי. תחילה הם יחקו את בני האדם, אבל בכל שנה עוברת הם יגיעו למחוזות אליהם מעולם לא הגיעו בני אדם. במשך אלפי שנים, בני אדם חיו בחלומותיהם של בני אדם אחרים; אנו עלולים לגלות שאנו חיים בחלומותיה של אינטליגנציה חייזרית.
