לומדת AI - הטיות והגנות

למה בינה מלאכותית חוזרת על ההטיות שלנו? - סיפור קצר שמסביר הכל

מכירים את הסיפור של כהנמן וטברסקי?

לינדה בת 31, רווקה, חכמה מאוד. התמחתה בפילוסופיה, התעניינה בצדק חברתי והשתתפה בהפגנות נגד גזענות.

שאלה: מה יותר סביר?
א. לינדה קופאית בבנק
ב. לינדה קופאית בבנק ופעילה פמיניסטית

רוב האנשים בוחרים ב-ב. אבל זו טעות לוגית.

ב לא יכול להיות יותר סביר מ-א, כי ב כולל את א בתוספת תנאי נוסף. ההסתברות ש"לינדה קופאית" תמיד גבוהה יותר מ"לינדה קופאית וגם פמיניסטית".

למה אנחנו טועים? כי המוח שלנו עושה Pattern Matching - התיאור "מרגיש" פמיניסטי, אז אנחנו מתעלמים מההיגיון.

זה נקרא כשל החיבור - אחת מעשרות הטיות קוגניטיביות שחקרו דניאל כהנמן ועמוס טברסקי.

וה-AI? הוא עושה את אותו הדבר

כשתשאלו AI את אותה השאלה על לינדה, סביר מאוד שהוא יבחר ב-B.

למה? כי AI לא חושב - הוא לומד מדוגמאות.

הוא קרא מיליוני טקסטים שבני אדם כתבו, מלאים בקשרים בין "פילוסופיה + צדק חברתי" ל"פמיניזם". אז גם הוא עושה pattern matching - ונופל לאותה מלכודת.

AI הוא מראה של החשיבה האנושית - כולל הטעויות שלנו.

זו לא ההטיה היחידה - יש עוד עשרות הטיות שמשפיעות על החלטות שלנו - ועל AI

התוצאה בעבודה?

דוחות עם נתונים מומצאים
החלטות גיוס מוטות
תשובות ללקוחות שנראות אמינות אבל לא נכונות
דליפות מידע רגיש

אז מה עושים?

לא מפסיקים להשתמש ב-AI - הוא כלי מדהים.

אבל צריך ללמד את העובדים: ✓ מתי לסמוך על AI ומתי לא
✓ איך לזהות תוצאות בעייתיות
✓ איך לנסח בקשות נכונות
✓ מה הסיכונים בהעלאת מידע
✓ איך לשמור על שיקול דעת אנושי

בדיוק על זה מדברת הלומדה "AI באחריות".