לפני בדיוק 20 שנה יצא
הסרט "לכשכש בכלב" – סטירה נהדרת בכיכובם של דסטין הופמן ורוברט דה-נירו, שבמרכזה מלחמה טלוויזיונית מפוברקת שמטרתה להציל את הנשיא שהסתבך בשערוריית מין. אם זה היה אפשרי לפני שני עשורים, תארו לעצמכם אלו fake news ניתן להפיק עם הטכנולוגיה המודרנית – ועל כך עמד השבוע אקונומיסט.
כך למשל אירע לפני מספר חודשים, כאשר המוזיקאית הצרפתייה פרנסואז ארדי הופיעה בסרטון שהועלה ביוטיוב ונשאלה – בידי מראיין שלא נראה בתמונה – מדוע לדעתה שיקר
שון ספייסר בנוגע למספר הנוכחים בהשבעתו של
דונלד טראמפ. הזמרת בת ה-73 נראתה בת 20 בלבד, והקול שבקע מגרונה היה של קייליאן קונוויי. את הסרטון יצר האמן הגרמני מריו קלינגמן והוא היה כמובן זיוף מוחלט. איכותו הגרועה בולטת למרחוק, אך קלינגמן לא התכוון שהזיוף יהיה מושלם. הוא יצר את הסרטון בתוך כמה ימים בשימוש באלגוריתם פשוט שכל אחד יכול להתקין במחשב הביתי שלו.
הניסיון של קלינגמן, אומר אקונומיסט, מייצג את החזית החדשה בין האמת לזיוף. האמון בתקשורת הכתובה והמילולית כבר מצוי תחת מתקפה קשה, אך לפחות מה שרואים ושומעים נחשב לנכון. הטכנולוגיה החדשה מאיימת גם על כך.
זיוף של קולות הוא קל. מחשבים יוצרים דיבור על-ידי קישור חלקיקים קטנים רבים. הטכנולוגיה החדשה עובדת בצורה שונה ומחברת קטעים קטנטנים בהרבה, בני מיליוני השנייה. כדי להכניס מילים מבוימות בדבריו של אדם כלשהו, כל שצריך הוא למצוא את הקצב והתוכנה כבר תדביק את המלל הרצוי. אלגוריתמים כאלו כבר פורסמו בידי אלפאבית (חברת-האם של גוגל), מכון מחקר במונטריאול ומכון מחקר בעמק הסיליקון. כרגע הטכניקות הללו מצריכות כוח מיחשוב שיש רק לחברות גדולות, אך זה ישתנה.
בישול של תמונות הוא משימה קשה יותר. טכנולוגיה ראשונית לכך הוצגה בשנת 2014 בידי איאן גודפלואו, האומר גם כיום שהדרך עוד ארוכה: לצלם כלב ולגרום לו להיראות כמו חתול – זה לא עומד לקרות מחר בבוקר. המחשב התקשה לעבוד עם מגוון כה גדול של דימויים חזותיים וליצור מהם תמונה בעלת משמעות. גודפלואו שינה את הגישה: במקום לתת למחשב ליצור תמונה מאפס, הוא אתגר אותו לקבוע איזו תמונה אמיתית ואיזו לא, תוך השוואה לתמונות הקיימות במאגר. בניסיון לעבוד על המחשב, יצרה התוכנה תמונות דומות לאלו הקיימות – אך המחשב הצליח לעלות על הזיופים.
הטכנולוגיה הנוכחית יכולה ליצור תמונות קטנטנות של ציפורים, בגודל של בול, על-פי הוראות מילוליות. תאמרו לה "הציפור הזאת היא לבנה עם קצת שחור בראש ובכנפיים ויש לה זנב כתום גדול" ותקבלו תמונה תואמת. הציפור אינה יפה, אבל במבט מהיר היא נראית אמיתית. תמונות כאלו כמובן לא ישפיעו על החברה, אבל דברים משתנים במהירות – מבהיר השבועון. בחמש השנים האחרונות הצליחו תוכנה המבוססת על אלגוריתמים דומים להפחית את שיעור הטעויות בזיהוי תמונות מ-25% לאחוזים בודדים. בידוי תמונות צפוי לבצע התקדמות דומה. מיקה טייקה, אמנית בשירות גוגל, הצליחה ליצור תמונות בדויות בגודל כפול מזה שנעשה עד היום.
גודפלואו לא רוצה להתנבא מתי ניתן יהיה לזייף דימויים שיוכלו לעלות ליוטיוב, אך כאשר נלחץ בידי אנשי אקונומיסט הוא סיפק תחזית מפתיעה ואף מפחידה: שלוש שנים. אחרים חושבים שזה יקח יותר, אך הכל אומרים שזו שאלה של מתי ולא של האם. הטכנולוגיה תשנה את אופיין של ההוכחות שנוכל לראות, קובע גודפלואו.
לצד זאת, מרגיע מעט אקונומיסט, אותה טכנולוגיה עצמה גם יוצרת את הדרכים להילחם בה. דרך אחרת לוודא את האותנטיות היא לדרוש שכל סרטון ילווה בפירוט מלא של איפה, מתי וכיצד נוצר; זהו רישום אוטומטי, אותו לא ניתן לזייף. כך ניתן יהיה למשל לראות האם תנאי מזג האוויר באותם מועד ומקום אכן היו כפי שהם נראים בתמונה או בסרטון. ניתוח דומה נעשה כבר לפני שלוש שנים כדי להפריך את תיאוריות הקונספירציה לפיהן אפולו 11 כלל לא נחתה על הירח: הוא הוכיח, שהצל המוזר על חליפתו של באז אולדרין אינו תוצאה של אורות הוליוודיים אלא של מצב השמש באותו רגע. ארגון אמנסטי משתמש בשיטות דומות כדי לבדוק את האותנטיות של תמונות וסרטונים המתעדות הפרות של זכויות אדם.
