הקוסם מארץ עוץ של הבינה המלאכותית

ההתקפות חסרות הרסן על תושבי עזה לא היו רק בלתי הומניות, אלא גם לא ממוקדות ולא יעילות. הרס בצפון רצועת עזה, ב-2 באוגוסט 2025 (צילום: צפריר אביוב / פלאש90)

באמצע מאי השנה הודיע הצבא כי הרג בתקיפה אווירית בעזה את עז א-דין אל-חדאד, ראש הזרוע הצבאית של חמאס, שתואר כאחד מאחרוני המתכננים הבכירים של מתקפת 7 באוקטובר שנותרו בחיים. בתקיפה נהרגו גם אשתו ובתו. כעבור פחות משבועיים הודיע הצבא על הרג מחליפו, מוחמד עודה, שעמד במשך שנים בראש מערך המודיעין של חמאס והיה מעורב, לפי ההודעה, בתכנון יעדי החדירה והתקיפה ב-7 באוקטובר. המבצע נגד עודה, הודגש בהודעה, יצא לפועל לאחר "חודשים של מעקב מודיעיני ומבצעי". לאחר חיסולם של אל-חדאד ועודה מנה הצבא ארבעה מנהיגים של הזרוע הצבאית שנהרגו בזה אחר זה בין אוקטובר 2024 למאי 2026.

הודעות דובר צה"ל נועדו להציג הישגים מודיעיניים ומבצעיים, אבל בפועל הן חושפות פער בין הדימוי שהצבא וחיל האוויר מנסים ליצור סביב המתקפה על עזה ובין המציאות בשטח. מבט ביקורתי בהן מעורר שאלה בסיסית ביותר: כמעט שלוש שנים לאחר תחילת המלחמה, אחרי אלפי תקיפות ולאחר שיותר מ-73 אלף פלסטינים נהרגו ישירות מאש הצבא – לא כולל מספר בלתי ידוע נוסף של בני אדם שנהרגו בעקיפין – הצבא מודיע כי רק לאחרונה איתר כמה מהאנשים שהוא עצמו מגדיר כאחראים המרכזיים למתקפת 7 באוקטובר.

אם מערכות הבינה המלאכותית ששולבו ב"מפעל המטרות" של הצבא מסוגלות לסרוק מיליוני פריטי מידע, למפות רשתות קשרים ולזהות פעילים בדיוק חסר תקדים, איך ייתכן שנדרשו חודשים של מעקב מסורתי כדי להגיע לאנשים שהיו אמורים לעמוד בראש רשימת המבוקשים? ואם אותם פעילי חמאס אותרו רק עכשיו, מי היו כל אותם עשרות אלפי בני אדם – "מטרות" בלשון הצבא – שסומנו, הופללו והותקפו עד כה?

בשנים האחרונות פורסמה ב"שיחה מקומית" ובמגזין 972+ סדרה של תחקירים שחשפו את שילובן של מערכות בינה מלאכותית במתקפה הצבאית על עזה. מצד אחד, החשיפות האלה עוררו ביקורת ציבורית ברחבי העולם וסיפקו רוח גבית למחאה נגד חברות הטכנולוגיה שמספקות את התשתיות למערכות האלה. מנגד, הפרסומים עצמם היו עלולים לתרום להילה המיתולוגית שנבנתה סביב המערכות הטכנולוגיות הללו.

קריאה שטחית של התחקירים היתה עלולה ליצור את הרושם שמערכות AI הפכו את רצועת עזה למרחב שקוף, שבו הצבא יודע מי נמצא היכן ומסוגל להבחין במדויק בין פעיל צבאי לאזרח. ההודעות החגיגיות של דובר צה"ל מהשבועות האחרונים על עוד "מחבל בכיר שחוסל" חושפות שלמעשה ההתקפות חסרות הרסן על תושבי עזה לא היו רק בלתי הומניות, אלא גם לא ממוקדות ולא יעילות.

"בינה מלאכותית", או AI, היא שם כולל למגוון רחב של אמצעים טכנולוגיים: מערכות לסיווג ולחיזוי תנועות מחירים בשוק ההון; מערכות לזיהוי פנים ותמונות; ניתוח קשרים בתוך מאגרי מידע גדולים; מנועי המלצה; ומודלים של שפה כמו ChatGPT. המשותף למערכות אלה הוא ההנחה שהן מסוגלות לזהות דפוסים שהעין האנושית מחמיצה או שהשכל האנושי אינו מסוגל להבחין בהם לבדו בתוך אוקיינוס האינפורמציה המקיף אותנו.

אין ספק שמדובר בכלים שימושיים – גם כותב המאמר נעזר ב-ChatGPT בארגון מקורות, במיפוי טענות, בבדיקת מבנה ובניסוח טיוטות. אולם כמו במקרה של טכנולוגיות חדשות אחרות, כאשר בני אדם נחשפים אליהן לראשונה ומתפעלים מהן, הם נוטים להפריז ביכולותיהן ובפוטנציאל שלהן.

עם התרחבות השימוש באינטרנט באמצע שנות ה-90 התעוררה סביבו התלהבות גדולה, שהובילה להתנפחותה של בועה פיננסית, שבתורה הובילה למשבר כלכלי עולמי. אנליסטים וכלכלנים טוענים כי דפוס דומה מתהווה כעת סביב ה-AI, בהיקפים גדולים בהרבה.

הבנק המרכזי של אנגליה הזהיר לאחרונה בדוח שפרסם כי חברות המזוהות עם AI כבר מהוות כמחצית משוויו של מדד S&P 500, לעומת כרבע ב-2022. עם זאת, הערכות השווי שלהן נשענות על הנחות שהבנק הגדיר בלשון דיפלומטית כ"בלתי ודאיות", ובהן תחזיות לצמיחה חזקה ברווחים, פיתוח תשתיות יקרות ואימוץ נרחב של הטכנולוגיה. עוד הזהיר הבנק כי שינוי בציפיות עלול להביא ל"תיקון חד במחירי המניות", כלומר לקריסה בבורסה שקשה להעריך את היקף הנפגעים ממנה.

כך, לצד המיתולוגיה המתגבשת סביב השימוש הצבאי במערכות AI והסימנים להתפתחותה של בועה פיננסית סביב החברות המספקות את השירותים האלה, עולה השאלה עד כמה אכן מדובר בטכנולוגיה מהפכנית ועד כמה המושג "בינה מלאכותית" הוא בעיקר מילת באזז המשמשת כלי שיווקי.

פעילות לובי וקשרים פוליטיים

את הפוטנציאל העסקי האמיתי של חברות טכנולוגיה החוסות תחת הילת ה"בינה מלאכותית" ממחיש תחקיר על מכרז ענק של ממשלת בריטניה שבו זכתה חברת פלנטיר. התחקיר של העיתונאים פיטר גאוגגן ולוקאס אמין, כותבי ניוזלטר התחקירים "Democracy for Sale", פורסם לאחרונה ב-London Review of Books, ומספק הצצה לאופן שבו ההילה הזאת פועלת גם מחוץ לשדה הקרב ומשמשת לניתוב כספי ציבור, גם כאשר הערך שהטכנולוגיה מספקת למערכת שהיא אמורה לייעל מוטל בספק, אינו ניתן למדידה או אפילו שלילי.

גאוגגן ואמין בחנו בתחקיר את חדירתה של פלנטיר לשירות הבריאות הציבורי הבריטי (NHS) באמצעות מכרז בשווי כ-330 מיליון ליש"ט, שבו זכתה החברה להקמת פלטפורמת מידע מאוחדת עבור השירות. על בסיס מסמכים פנימיים, בקשות חופש מידע ושיחות עם עובדים, הם מצאו פער ניכר בין הדימוי הגרנדיוזי של החברה – הלקוח מעולמות ספרות הפנטזיה והמדע הבדיוני – למציאות: בסופו של דבר מדובר בחברת תוכנה שפיתחה מוצר איטי, מסורבל ולא פופולרי בקרב חלק מעובדי הציבור שנדרשו לעבוד איתו.

המידע הרפואי בבריטניה מפוזר בין בתי חולים, מרפאות וספקים שונים, וארגונים רבים אינם יכולים לשתף ביניהם נתונים בקלות. פלנטיר הבטיחה לחבר את המאגרים, ליצור "מקור אמת יחיד" ולבנות יישומים שיסייעו בניהול מיטות אשפוז, תורים, ניתוחים וטיפולי סרטן. זו היתה הבטחה קלאסית של טרנספורמציה דיגיטלית: פחות פיצול וביורוקרטיה – יותר נתונים, חיזוי ויעילות.

אלא שלפי התחקיר, דרכה של פלנטיר אל הזכייה במכרז נסללה בעיקר באמצעות פעילות לובי וטיפוח קשרים עם גורמים פוליטיים לאורך שנים, תוך פעולה באזור האפור של החוק. ב-2018 שכרה פלנטיר חברה בשם Global Counsel (שהתחקיר מדגיש כי היא מגדירה את עצמה "חברת ייעוץ" ולא "קבוצת לובינג"), שפעלה למצב אותה כשותפה לגיטימית של הממשלה הבריטית, תוך מציאת דרכים יצירתיות לעקוף את הרגולציה המקומית שנועדה לפקח על היחסים בין הממשל לחברות מסחריות ולהגבילם.

הפכו את ה-NHS ללקוח שבוי. מנכ"ל פלנטיר אלכס קארפ (צילום: הפורום הכלכלי העולמי CC BY NC SA 4.0)

במקביל, פלנטיר יישמה בהצלחה את מודל "הדלת המסתובבת" לגיוס עובדי המגזר הציבורי לשעבר, ועד מועד פרסום המכרז של משרד הבריאות כבר העסיקה שורה של בכירים לשעבר ממשרדי ממשלה ומה-NHS. על פי התחקיר, כך הצליחה החברה לוודא עוד לפני פרסום המכרז שהוא יותאם ליכולותיה וייתפר למידותיה. התחקיר הראה כיצד מסמכי המכרז כללו מאפיינים המזוהים עם מוצריה של פלנטיר ואף צילומי מסך מהפלטפורמה שלה, תוך הסתרת לוגו החברה.

מיד לאחר זכייתה של החברה במכרז והטמעת המערכת שלה בשירות הבריאות הבריטי, החלו להתגלות כשלים בשימוש בה. ה-NHS הציג 139 גופי בריאות ככאלה ש"עלו לאוויר" עם הפלטפורמה, אולם נתוני השימוש שהגיעו לידי החוקרים הראו כי 52 מהם לא השתמשו במשך שנה אפילו באחד משמונת היישומים שנבדקו. מנתח אורתופדי שניסה את היישום המרכזי לניהול תורים הפסיק להשתמש בו משום שלא היה יכול לערוך בו את המידע, והגדיר את החוויה "בזבוז זמן".

הכשל התפעולי לא מנע מפלנטיר לגרוף הכנסות של מאות מיליוני ליש"ט מהמערכת ולהציג אותה כהצלחה עסקית גדולה, במיוחד לאחר שהפכה את ה-NHS ללקוח שבוי. התוכנה היא קניינית, וכעת עובדי שירות הבריאות תלויים בפלנטיר לצורך תיקונה והתאמתה. אם החוזה יבוטל, הם עלולים לאבד גישה למידע החיוני לעבודתם, ש"כלוא" במערכת של פלנטיר. ככל שיותר מידע ותהליכים עוברים לפלטפורמה, כך נעשה יקר ומסובך יותר להחליף את החברה.

המיתולוגיה שמקיפה את פלנטיר מתחילה כבר בשמה, השאוב מעולמות הפנטזיה של ג'. ר. ר. טולקין: ה"פלנטירי" המוזכרים בספרי "שר הטבעות" הם שבעה כדורי בדולח המעניקים למחזיק בהם יכולת לצפות למרחקים. החברה השכילה לעצב סביבה הילה של ראייה אבסולוטית: מערכת שמסוגלת לכאורה להפוך אוקיינוסים של נתונים גולמיים לתמונת מצב ברורה, המאפשרת קבלת החלטות מושכלת בקנה מידה חסר תקדים.

כפי שמלמד המקרה של ה-NHS, חלק נכבד מהכנסותיה של פלנטיר מגיע מאספקת שירותים למערכות ציבוריות אזרחיות, אבל חזונה כחברה חורג הרבה מעבר לכך. מהמניפסט שהעלתה החברה לחשבון הרשמי שלה ברשת X באפריל השנה עולה כי היא שואפת בעיקר לספק תשתיות לשימושים צבאיים וביטחוניים, על בסיס תפיסה אידיאולוגית בדבר עליונותה של התרבות המערבית והצורך להגן עליה באופן פעיל מפני תרבויות נחותות ממנה.

הטקסט, המבוסס על ספרו של מנכ"ל החברה אלכס קארפ, קרא לחברות עמק הסיליקון להתגייס לשירות הצבא האמריקאי. "אם חייל מארינס מבקש מאיתנו רובה טוב יותר, עלינו לבנות אותו", נכתב שם, "והדבר נכון גם לגבי תוכנה".

לאחר 7 באוקטובר הפכה ישראל למימוש בולט של החזון. זמן קצר לאחר מתקפת חמאס קיימה פלנטיר ישיבת דירקטוריון בתל אביב והודיעה על שותפות אסטרטגית לאספקת טכנולוגיה למשרד הביטחון. בשיחת משקיעים בפברואר 2024 אמר קארפ שהוא "גאה באופן יוצא מן הכלל" בכך שבתוך שבועות כבר שהו עובדי החברה בישראל והשתתפו בפעילות "קריטית מבחינה מבצעית". הוא הציג את פעילות החברה בישראל ובאוקראינה כהוכחה לכך שהתוכנה של פלנטיר פועלת במקומות שבהם המציאות מסוכנת והביצועים נבחנים בשדה הקרב.

"לגיטימציה מוסרית וחוקית להרג תעשייתי"

בזמן שבבריטניה ההילה הנלווית לטכנולוגיה החדשנית אפשרה לפלנטיר להקסים פקידים בכירים ופוליטיקאים, לזכות במכרז ענק ולהזרים לקופתה מאות מיליוני ליש"ט מכספי הציבור, בישראל אותה הילה משמשת להבטחת ציותם של קצינים וחיילים ולהצדקת פעולות צבאיות שהחריבו ערים שלמות על יושביהן.

הצבא זקוק לאנשי מודיעין שיקבלו את הרשימות, לקצינים ולמשפטנים שיאשרו את המטרות ואת ההליך, ולטייסים ולמפעילי כטב"מים שישגרו את החימוש. כל אחד מהם רואה רק חלק קטן משרשרת ארוכה. הרציפות המבצעית תלויה באמונה שהשלבים הקודמים כבר עברו בדיקה מוסמכת.

לאחרונה פרסם המכון לחקר יחסי חברה–צבא באוניברסיטה הפתוחה קובץ מאמרים בשם "המלחמה האלגוריתמית", בעריכתו של יגיל לוי. חמשת המאמרים הכלולים בקובץ מתארים את המנגנון הזה מכמה זוויות. יחד הם מראים כיצד ההילה של הבינה המלאכותית הפכה לשיטה ארגונית: היא הגדילה את קצב ייצור המטרות, העניקה לפלט סמכות מקצועית, הפחיתה עכבות ואפשרה התנערות מאחריות כלפי ערכי מוסר בסיסיים וכלפי הדין הבינלאומי.

החזות האובייקטיבית של המערכת מקשה לערער על מטרה שהמערכת כבר אישרה. חיילים באמון הפעלת כטב"מ, 2013. למצולמים אין קשר לכתבה (צילום: מרים אלסטר / פלאש 90)

הקובץ נפתח במאמרו של ד"ר סבסטיאן בן דניאל, שבו הוא מראה כיצד מערכות AI לייצור מטרות אפשרו לצבא להיענות לדרישת הדרג המדיני להחריב את עזה. הוא מציע להסיט את הדיון מהשאלה אם מערכות הבינה המלאכותית מדויקות. לדבריו, השאלות אם האלגוריתם משפר את הדיוק ומפחית טעויות "מפספסות את הנקודה העיקרית", שהיא "האפשרות הפוליטית, הארגונית והמוסרית להרחבה דרמטית של היקף האלימות".

בן דניאל מציג את הפרדוקס שלפיו דווקא ככל שההפצצות נעשו מדויקות יותר, כך נפגעו מהן יותר חפים מפשע, בשל ההצדקה הנרחבת לשימוש בהן. התפקיד המרכזי של האלגוריתם הוא אפוא להפוך מדיניות של הרס לרצף של מטרות שנראות חוקיות ומקצועיות. בן דניאל מציב זו מול זו את הדרישה להפציץ ב"מסה רחבה ולא בצורה כירורגית" ואת החובה להציג מטרה צבאית מאושרת לכל תקיפה, ומראה כיצד האלגוריתם מיישב את הסתירה באמצעות ייצור המוני של מטרות, ובהן גם פעילים זוטרים שאלמלא ה-AI לא היו מצדיקים השקעה של משאבי מודיעין. כך נוצר מנגנון שנועד לספק "לגיטימציה מוסרית וחוקית להרג תעשייתי".

אותה לגיטימציה פועלת גם בתוך הצבא. החזות האובייקטיבית של המערכת מקשה על הטייס לערער על מטרה שהמערכת כבר אישרה, והשפה הצבאית מעניקה לגיטימציה נוספת לפגיעה בחפים מפשע. כאשר אדם שסווג בטעות נהרג, מותו מוצג כ"טעות חישוב" במקום כתוצאה של הכרעה מוסרית אנושית. כך ניתן להגיע להרג המוני במסווה של רציונליות, בלי לדרוש מכל חוליה בשרשרת לראות בעצמה אחראית לתוצאה.

כשם שהמערכת של פלנטיר לניהול המידע הרפואי של שירות הבריאות הציבורי בבריטניה אינה חייבת באמת לקצר תורים במרפאות או לייעל תהליכי דיאגנוזה וטיפול רפואי כדי לנתב מאות מיליוני ליש"ט מהקופה הציבורית לחשבונות הבנק של החברה, כך גם מערכות הבינה המלאכותית בצבא אינן מחויבות באמת לשפר את הדיוק ולסייע להבחין בין אזרחים למטרות צבאיות כדי לאפשר לקצונה הבכירה לעמוד ביעדים שהציב לה הדרג המדיני. ההילה הנלווית לטכנולוגיה המסתורית הזאת מספיקה כדי ליצור תשתית של לגיטימציה לציות מלא מצד כל המעורבים בתהליך, שבקצהו האחד יש קוד תוכנה ובקצהו האחר שכונת מגורים שהפכה לעיי חורבות ולקברי אחים של משפחות שלמות.

במאמר "בינה מלאכותית כמערכת לגיטימציה", יגיל לוי מתאר כיצד ההילה הזאת מייצרת לגיטימציה פנים-צבאית ומבטיחה ש"החיילים יממשו את האלימות המדינתית בהתאם למדיניות של מוסדות המדינה", מבלי להתמודד עם דילמות מוסריות. לוי מראה כיצד השימוש במערכות הבינה המלאכותית שירת הן את הצורך של הצבא בלגיטימציה בזירה הציבורית בישראל והן את ניסיונו לזכות בתמיכה בזירה הבינלאומית.

לוי מביא עדות של קצין בכיר שהיה מעורב בתכנון המטרות. הקצין תיאר תהליך שבו "הכול סטטיסטי", מסודר ויבש, והסביר: "המכונה עשתה את זה בצורה קרה. וזה מאוד הקל". הקור האלגוריתמי אפשר למפעילים לראות בהחלטה יישום של סטנדרט מקצועי ולהרחיק ממנה רגשות של זעם, נקמה ואחריות אישית. באופן פרדוקסלי משהו, היקפן הגדול של המטרות דווקא חיזק את סמכות המכונה: כאשר המטרות נפלטות "בקצב מסחרר", הקצין יכול לסגת הצידה ולקבל את שיפוטה, אף שהוא עצמו מודה שאין לו דרך להעריך את איכותו.

במאמר "מערכות בינה מלאכותית כמנגנון ממוחשב לשיתוף בפשע", אדם רז מתאר את אותו מנגנון מזווית ארגונית וחברתית. רז מזכיר דיווח של נחום ברנע, שלפיו לאחר שהרמטכ"ל דאז הרצי הלוי הציג לקבינט 1,500 מטרות שצה"ל כבר תקף ביומיים הראשונים למלחמה, התפרץ ראש הממשלה בנימין נתניהו בכעס ושאל: "למה לא 5,000?". כשהלוי אמר שאין לצבא 5,000 מטרות מאושרות, הגיב נתניהו: "לא מעניין אותי מטרות, תוריד בתים, תפציץ עם מה שיש".

מאז אותה ישיבת קבינט הפך מערך המודיעין של הצבא למפעל ל"ייצור מטרות". בלב המפעל הרצחני הזה עומדות מערכות בינה מלאכותית כמו "לבנדר", "הבשורה" ו"איפה אבא", שאין שום אפשרות מעשית לבחון את יעילותן בהבחנה בין אנשי חמאס לאזרחים חפים מפשע, ובהם נשים וילדים, ובין מטרות לגיטימיות מבחינה צבאית ולפי הדין הבינלאומי לתשתיות אזרחיות, בנייני מגורים, מוסדות חינוך ובתי חולים.

לדברי רז, המערכות הממוחשבות "סייעו לגייס את 'האדם ליד המכונה' לתהליך החרבת רצועת עזה ולטשטש את אחריותם של המבצעים הישירים למעשיהם". המערכת חילקה את הפעולה בין קציני מטרות, אנשי מודיעין, מפקדים, משפטנים וטייסים. כל אחד מהם ביצע משימה מקצועית מצומצמת, ואילו האחריות לתוצאה הכוללת התגלגלה כלפי מעלה, לאחור או אל תוך הקופסה השחורה. רז מכנה את הקבוצה הזאת "קהילת פשע", שבה "כל פרט תפס עצמו כ'קבלן הריסות' ולא כמי שנושא באחריות ישירה".

לפי רז, התיעוד הפנימי והתוצרים שנשמרו במערכת סיפקו למבצעים אמות מידה משפטיות שאפשרו להם "להרגיש בנוח עם עצמם", גם כאשר מטרות הוכנסו לבנק המטרות בלי תהליך הפללה ממשי. הטכנולוגיה יצרה אליבי מובנה. ההליך העניק לפעולה מראה חוקי והרחיק מהמשתתפים את הצורך להתמודד עם ההכרעות המוסריות שנערמו לאורך הדרך.

במאמר "נוהל ערפל: על אטימות, הטיה ואי-חוקיות מובנית" מתאר אבנר גבריהו את מה שהוא מכנה "אטימות טכנולוגית", שלדבריו היא "תוצר של עיצוב טכנולוגי ומתודולוגי מכוון". גבריהו משווה בין "נוהל ערפל" הצבאי, המנחה חיילים לירות צרורות "אל תוך הלא נודע" גם בתנאים של חוסר ראות, ובין האטימות שמספקות מערכות הבינה המלאכותית.

הוא מפרט כיצד מערכות כמו לבנדר ייצרו לכל אדם בעזה נתון מספרי המדרג את רמת המסוכנות שלו. הנתונים הסטטיסטיים יוצרים רושם של מידע שמקורו בתחום המדעים המדויקים, אך המפעיל אינו יודע אילו משתנים הכריעו את הסיווג ומה משמעות ההבדל בין ציונים סמוכים. "הציון המספרי מחליף את הנימוק המודיעיני", כותב גבריהו, "ויוצר אשליה של דיוק מתמטי במקום שבו נדרש שיפוט מוסרי".

הציון זוכה לסמכות דווקא משום שהמפעיל אינו מסוגל לשחזר את הדרך שהובילה אליו. הוא יודע שהמכונה עיבדה מיליוני פריטי מידע, ולכן מניח שהיא רואה דבר-מה שנעלם מעיניו. הפיקוח האנושי מצטמצם לאימות קצר של תוצאה שהתקבלה מראש. האדם נשאר בתוך שרשרת ההחלטה, אך יכולתו להסביר את ההחלטה, לבקר אותה או להתנגד לה הולכת ונשחקת.

במאמר "ללא מצפן", החותם את הקובץ, ראובן גל מוסיף את הממד הפסיכולוגי. הוא מזכיר את "נטיית האוטומציה" – הנטייה להעניק אמון עודף לפלט ממוחשב – ואת "התרשלות האוטומציה", מצב שבו עצם קיומה של מערכת אוטומטית מפחית את המאמץ האנושי לבדוק אותה.

לפני יותר ממאה שנה יצר פרנק באום בספרו "הקוסם מארץ עוץ" דימוי ליכולתה של טכנולוגיה מרשימה ונוצצת לשמש כלי לשליטה בתודעת ההמונים. בספר מסתיר הקוסם, השולט בפועל בעיר הברקת, מכונת אפקטים אור-קולית מאחורי וילון, וכל מי שבא לראותו נחשף למחזה מעורר בעתה, המציג אותו כבעל כוחות-על.

כיום שורות הקוד הצפופות, המסכים המציגים לוחות מחוונים עמוסי נתונים, ציוני ההסתברות הפסאודו-מדעיים ומיליוני פריטי המידע יוצרים רושם דומה של ישות מסתורית – אותה "קופסה שחורה" מפורסמת שבתוכה מתבצעים חישובי הבינה המלאכותית – יודעת כול וסמכותית. אבל אם נסיט את הווילון, נגלה שמאחוריו לא נמצאת טכנולוגיה פלאית המסוגלת להפיק ידע מדויק ואמיתי מתוך כאוס של נתונים, אלא מערכת אנושית המורכבת ממנהלים, משקיעים, פקידים, מתכנתים, פוליטיקאים, משפטנים, קצינים וחיילים, המאמינים בעיוורון למה שהמכונה מנפיקה – ובתמורה מזרימים לחברות שמייצרות אותה סכומי עתק ומשאבים מכספי ציבור ומקריבים קורבנות אדם בחסותה.