האם בינה מלאכותית תתקן הטיות אנושיות?

בנובמבר 2024 הרצתי באוניברסיטת Landau בגרמניה בכיתה של פרופ' Michaela Maier, הייתה לי הזכות לשתף את הצוות והתלמידים בפרויקט המחקרי של הדוקטורט שלי (זה לפוסט אחר). במסגרת הסדנה הזו נחשפתי למחקר מרתק שהשאיר אותי עם מחשבות על מה עשו בני האדם שהמציאו את הבינה המלאכותית. בעולם שבו נחתכות משרות ג'וניור ומאיימים עלינו באובדן מקומות העבודה. יצרנו מכונה שעולה עלינו בביצועים, אבל מבוססת על סט ההטיות האנושיות והחשיבה הסטריאוטיפית המאפיינת אותנו בני האדם משחר קיומנו ואף עולה עליו.   

באיזה עולם עתידי נחייה כולנו אם החשיבה המוטה, הסטריאוטיפית והמפלה תועצם עשרות מונים ע"י מערכי הבינה המלאכותית שישלטו בחיינו.

במסגרת המחקר של Felipe Martins , בחנו כלי AI שאומנו במודלים של טקסט תמונה, והראה כי המודלים אמצו הטיות של החפצה מינית של נשים. החפצה מינית היא אחד הביטויים המרכזיים לאי שוויון מגדרי, שכן היא מנציחה תפישות חברתיות שמקטינות נשים, לתפקידי מין בלבד.

או כמו שאמרו חז"ל "מה הועילו חכמים בתקנתם ? " אם באנו להעצים יכולות ע"י בינה מלאכותית ובפועל לא פתרנו את העיוותים וההטיות האנושיות ואף קבענו את הבעיה או יצרנו עיוות נוסף.  

מחקרים אקדמיים מראים בעקביות שמערכות בינה מלאכותית נוטות להנציח ואף להעצים סטריאוטיפים מגדריים, גזעיים וגילאיים קיימים.

סטריאוטיפים מגדריים:

1. מחקר של אונסק"ו מצא ראיות חד-משמעיות לסטריאוטיפים מגדריים שמרניים במודלים גדולים של שפה (LLMs) כמו GPT-3.5, GPT-2 ו-Llama 2. המודלים ייצרו תכנים מוטים נגד נשים, חיזקו תפקידי מגדר מסורתיים והציגו תת-ייצוג של נשים.
2. מחקרים ניסויים הראו שמשתמשים נוטים לשייך ל-AI תפקידים מגדריים סטריאוטיפיים, ומעדיפים "אישיות" של סוכני AI התואמת ציפיות מגדריות מסורתיות (למשל, סוכנת נשית בתפקידים מטפלים, וסוכן גברי בתפקידים סמכותיים). משתמשים דירגו רובוטים מזוהים כגברים כיותר אמינים ומקצועיים, בעוד שרובוטים מזוהים כנשים נתפסו כחביבים אך פחות כשירים.
3. ניתוח חזותי של דימויים בתקשורת הקשורים ל-AI גילה תת-ייצוג עקבי של נשים והצגתן באופן מוחלש או סטריאוטיפים.

סטריאוטיפים גזעיים:

1. מחקר אונסק"ו מצא גם עדויות להטיות גזעיות ועמדות הומופוביות בתכנים שנוצרו על ידי מודלים גדולים, מה שמעיד שמערכות AI משקפות ומפיצות דעות קדומות חברתיות מעבר למגדר.

מערכות AI אינן ניטרליות; הן משקפות את ההטיות שבנתוני האימון ובפרספקטיבה של המפתחים.  ללא מנגנוני תיקון אקטיביים, ה-AI צפוי להנציח ואף להעמיק סטריאוטיפים קיימים.להטיות אלו יש השלכות ממשיות: הן מחזקות חלוקת עבודה מגדרית, מגבילות הזדמנויות עבור קבוצות מוחלשות, ומשפיעות על תפיסות הציבור דרך המדיה והטכנולוגיה.

השורה התחתונה היא כי בינה מלאכותית נכון להיום מנציחה, מקעקעת ומגבירה תהודה לתפישות מגדריות וגזעניות.

https://www.unesco.org/en/articles/generative-ai-unesco-study-reveals-alarming-evidence-regressive-gender-stereotypes

https://www.sciencedirect.com/science/article/pii/S0148296321009206

https://academic.oup.com/jcmc/article/29/1/zmad047/7596744