לפי הדוח, 35% מהשימושים בבינה מלאכותית בתחום הביטוח מתמקדים בביטוח רכב, בעוד ש-24% מיועדים לביטוחי בריאות וחיים. תחומים נוספים כוללים ביטוחי עסקים (22%), סיעוד (12%), דירות (5%) ונסיעות לחו"ל (2%). דוגמאות לכך כוללות מערכות שמזהות דפוסי נהיגה מסוכנים באמצעות נתוני GPS ומציעות פרמיות מותאמות אישית, או שימוש במידע רפואי להערכת סיכונים בביטוחי חיים. אבל לצד היתרונות הברורים, קיימים גם סיכונים לא מבוטלים. מערכות הבינה המלאכותית מתבססות על איסוף ועיבוד כמויות אדירות של נתונים אישיים, מה שמעלה שאלות כבדות משקל בנוגע לפרטיות המשתמשים. דוגמה לכך היא שימוש במידע רגיש לאישור או דחיית בקשות אשראי, שעלול להוביל לאפליה סמויה נגד אוכלוסיות מסוימות. האלגוריתמים עצמם עלולים ללמוד דפוסים מפלים מתוך נתונים היסטוריים ולשעתק אותם בהחלטות עתידיות. עוד דוגמה היא במקרים בהם מערכות קיבלו החלטות שגויות, כמו במקרה שבו בנק בארה"ב גילה שהאלגוריתם שלו דחה בקשות משכנתה מלקוחות באזורים גאוגרפיים מסוימים ללא הצדקה עניינית.

במקרים רבים, המערכות הללו פועלות כ"קופסה שחורה" - קשה להבין כיצד התקבלו ההחלטות, מה שמקשה על פיקוח ובקרה. זה יכול להיות בעייתי במיוחד כאשר מדובר בהחלטות מהותיות, כמו סירוב להעניק אשראי או קביעת תנאי ביטוח. בנוסף, ישנם סיכוני סייבר - מערכות אוטומטיות חשופות למתקפות שעלולות לשבש את פעילותן ולפגוע בלקוחות. הדוח מציין כי מערכות AI לזיהוי הונאות ודירוג אשראי הפכו לכלים מרכזיים, אך יש צורך בפיקוח הדוק למניעת ניצול לרעה. כדי להתמודד עם האתגרים הללו, הצוות הבין-משרדי מציע גישה אסדרתית מאוזנת, המשלבת עידוד חדשנות עם שמירה על יציבות פיננסית והגנה על זכויות הצרכנים. האסדרה המוצעת גמישה ומבוססת סיכונים, עם דגש על התאמה לשינויים הטכנולוגיים המהירים. כך, לדוגמה, מוצע לקבוע כללים שיחייבו את החברות לוודא שהמערכות שלהן אינן מפלות, ושיש להן יכולת להסביר את ההחלטות שהתקבלו. הדוח ממליץ על הקמת 'ארגזי חול אסדרתיים' ומוקדי חדשנות, שיאפשרו לחברות פיננסיות לבחון פתרונות AI בסביבה מבוקרת לפני הכנסתן לשוק הרחב. גישה זו, המבוססת על מודלים ממדינות מובילות, מאפשרת לפתח טכנולוגיות מתקדמות תוך מזעור סיכונים לציבור.

הדוח עוסק גם בצורך במעורבות אנושית בתהליכי קבלת ההחלטות. לדוגמה, בעת מתן אשראי, ייתכן שיהיה צורך בבדיקת גורם אנושי במקרים מסוימים, כדי לוודא שההחלטה התקבלה בצורה הוגנת ושקופה. בתחום הגנת הפרטיות, הדוח מציע אמצעים לאבטחת מידע אישי והגבלת השימוש בו למטרות מוגדרות בלבד. המערכות חייבות לעבור בדיקות תקופתיות לזיהוי הטיות, והחברות מחויבות לתקן מערכות שזוהו כבעייתיות. ההתייחסויות המרכזיות לדוח יפורסמו במסמך מסכם שיציג את עמדות הציבור והגורמים המעורבים. הבינה המלאכותית משנה את פני העולם, והשאלה היא לא אם אלא מתי ואיך היא תשפיע גם על הכיס שלנו. הדוח הנוכחי הוא רק הצעד הראשון במאבק לאיזון בין חדשנות טכנולוגית לבין שמירה על זכויות הציבור והיציבות הפיננסית.