כתבת "מוות"? הטלפון יציע לך להשלים "לערבים"

כותב אורח: אורי עגנון

תכירו את האפליקציה שתציע לכם לכתוב "מוות לערבים".

האפליקציה SwiftKey היא מקלדת צד שלישי. היא מתוכנתת כדי לעזור למשתמשים להקליד בקלות ובמהירות על מסך מגע. האפליקציה היא אחת מהאפליקציות הפופולריות ביותר בעולם לסמארטפונים, ובשנים 2012-13 היא עמדה בראש טבלת האפליקציות רבות המכר.

אחד מהמאפיינים של האפליקציה הוא שהיא לומדת את סגנון הכתיבה של המשתמש ומציעה לו את המילה הבאה שהכי סביר שהוא ירצה להשתמש בה. האפליקציה משתמשת בטכנולוגיות של בינה מלאכותית, יחד עם נתונים סטטיסטים על השימוש בטלפון, ואמורה להבין אילו שלוש מילים הכי סביר שתרצו לכתוב הלאה. מסתבר שאם תכתבו ב-Swiftkey את המילה "מוות", כנראה שהיא תציע לכם להמשיך באחת משלוש מלים: "של", "עוד" או "לערבים". כך הוא הדבר במספר מכשירים שונים שבדקתי לאחרונה.

למה זה קורה? האפליקציה אמנם לומדת את המשתמש, ומציעה לו את מה שהיא "חושבת" שהכי סביר שהוא ירצה לכתוב, אבל היא לא מתחילה מאפס. האפליקציה מגיעה כבר עם דעה מוצקה, שכנראה נלקחת מניתוחים של השפה ברשת, לגבי אילו מילים צריכות לבוא אחרי אילו. אחד מהציוותים שהיא מתוכנתת מראש להכיר הוא "מוות לערבים", ולכן סביר להניח שכל עוד שלא כתבתם הרבה פעמים משהו אחר אחרי המילה מוות, גם לכם היא תציע לכתוב "מוות לערבים".

> כתובת נאצה בווייז: "בית הספר הדו-לשוני ימח שמם"

SwiftKey לא המציאו את רעיון הניחוש של המילה הבאה. גם חיפוש בגוגל, למשל, מציע למשתמש השלמות אפשריות למשפט. אבל בגוגל כבר הבינו את הבעייתיות בלמידה האוטומטית של התוכנה שלהם, שעלולה להציע לאנשים לכתוב "מוות לערבים". לכן כשמחפשים עכשיו את המילה "מוות" גוגל מציע "קליני", "בעריסה" ו"מוחי". חיפוש של "מוות ל" מציע את "עננים", "ערכים" ו"דוגמניות העל" (מוות לדוגמניות העל הוא שם של סרט); ורק בחיפוש של "מוות לע" מגיחה האפשרות "מוות לערביים" (עם שני י'), שכנראה גוגל פספסו כשהסירו את האפשרות להשלים "לערבים".

ההצעה המגונה של האפליקציה חושפת שני דברים. הראשון הוא שבעברית של הרשת אחרי המילה מוות הכי סביר שמשתמשים יכתבו את המילים "של", "על", או "לערבים". אני לא יודע בדיוק מאיפה הסטטיסטיקה המצערת הזאת לקוחה, אבל היא מלמדת אותנו שהטענה שהגזענות האלימה כלפי ערבים קיימת רק בשולי החברה כנראה רחוקה מהאמת. אולי ישנם רק יחידים שהולכים לשרוף בתים בלילה, אבל לפחות השיח על המוות הזה נפוץ יותר מהשיח על "מוות קליני", "מוות בעריסה" או נניח "מוות בטרם עת".

הדבר השני שמתברר כאן הוא איך כלי סטטיסטי, "דמוקרטי", שאינו מפלה בין מילים, מוביל בקלות למסרים גזענים, אלימים, מרושעים. הסטטיסטיקה הזו היא כמעט מטפורה לפסבדו-דמוקרטיה הישראלית; בשתיהן התוכן לא חשוב בכלל, ורק "הרוב" קובע. שתיהן שמות את האמירה "מוות לערבים" באמצע המסך, אבל קצת מימין. שתיהן מבוססות על סטטיסטיקה שלא לגמרי ברור את מי היא מחשיבה ואת מי לא, ולמה.

אבל מה, תשאלו, מי שרוצה לכתוב "מוות לערבים" לא יצליח לעשות את זה בלי עזרת הטלפון? והאם יש מישהו שחשב לכתוב "מוות לעננים", אבל פתאום קיבל השראה שלילית יותר מהטלפון? האם Swifkey צריכים לפעול כמו גוגל? האם הם צריכים לצנזר את הסטטיסטיקה הטהורה בשם ה"פוליטקלי קורקט"?

התשובה היא כן. בחברת התוכנה צריכים להוריד את ההצעה "לערבים" כהמשך למילה "מוות". גם אם זה היה הטקסט הכי פופולרי, זה לא סתם עוד משהו שאפשר להתייחס אליו כמו אל כל משפט אחר. גם אם מישהו בוחר לכתוב את זה, אנחנו צריכים לסמן באופן ברור, כחברה, שזה לא מסר לגיטימי.

יחד עם זאת, המציאות לא תשתנה אם SwiftKey יתקנו את הבעיה הזו. דווקא בימים אלה, כשאנחנו שומעים שוב ושוב על "טרור יהודי", ועדים לאלימות נוראית, חשוב שנדע להיאבק לא רק בגילויים החיצוניים של הגזענות, כמו משפטי "מוות לערבים", אלא גם במנגנונים שמייצרים אותם.

דוברות חברת Swiftkey שלחה את התגובה הבאה באנגלית. התרגום שלנו:

המודלים הלשוניים של Swiftkey נוצרים מאיסוף נתונים ממגוון מקורות, לרבות תוכן אינטרנטי. המודלים האלה מורכבים על ידי אלגוריתמים, ומלים וביטויים שמופיעים בתוכנה אינם משקפים את עמדת החברה או הצוות שלה

בעוד שיש לנו מנגנון להסרת גסויות וביטויים משפילים, פוגעות היא לא פעם דבר שנקבע לפי הקשר, כך שקשה למנוע מראש כל מקרה ומקרה.

אנחנו מתייחסים ברצינות רבה לכל דיווח על תוכן פוגעני. בחנו את המקרה שהובא לידיעתנו היום ונקטנו בצעדים מיידיים כדי להסיר את הביטוי האמור מהמאגרים שלנו.

אורי עגנון הוא פעיל ירושלמי במאבק נגד הכיבוש, במאבק לדיור ציבורי ובכלל במאבקים למען צדק לשכונות מזרח ירושלים ודרום ירושלים. הוא חבר בקבוצות "יסמבה", ו"Free Jerusalem".

> כך משתלטים פעילי להב"ה על מרכז ירושלים