נביאי הזעם הזהירו, פלנטיר מממשת: בינה מלאכותית בשירות העריצות

שיר הלל לשימוש בתוכנה לקידום כוח ואלימות. מנכ"ל פלנטיר אלכס קארפ (צילום: הפורום הכלכלי העולמי CC BY NC SA 4.0)

ב-1993 נשלח לרשימת תפוצה, שכללה כמה מאות מהנדסי תוכנה, מתמטיקאים וחוקרים מתחום מדעי המחשב, מאמר קצר בשם "מניפסט סייפרפאנק" (A Cypherpunk's Manifesto). אותה רשימת תפוצה, אגב, שימשה כ-15 שנה מאוחר יותר להפצת המסמך הטכני שהביא לעולם את מטבע הביטקוין.

המניפסט הזה ביקש להגדיר מסגרת רעיונית לפעילותה של קבוצה שחבריה כינו את עצמם "סייפרפאנק", ובמרכזו עמד רעיון הפרטיות כערך יסוד לקיומה של חברה חופשית ופתוחה. מחבר המאמר – מתמטיקאי ומתכנת בשם אריק יוז – טען כי בעולם שבו אמצעי התקשורת מתבססים יותר ויותר על מערכות אלקטרוניות, הזכות לפרטיות עומדת בסכנה, וכי ללא הגנה עליה החברה עלולה להידרדר לרודנות ולעריצות. לפיכך נוצרה חובה מוסרית להגן על פרטיותם של בני האדם באמצעות פיתוח מערכות תוכנה פתוחות וציבוריות להצפנה (ומכאן ה"Cypher" ב"סייפרפאנק", במשמעות "צופן").

>> מלחמה, הימור בטוח

יוז טען כי אין לצפות מגורמי ממשל ומחברות עסקיות לדאוג לכך. את האחריות לפיתוח תשתיות טכנולוגיות הטיל מניפסט הסייפרפאנק על כתפיהם של החוקרים, המתכנתים והמתמטיקאים שהרכיבו את הקבוצה הלא-מאורגנת הזאת. "לא נוכל לצפות מממשלות, תאגידים או ארגונים גדולים חסרי פנים אחרים להעניק לנו פרטיות מטוב ליבם", כתב יוז. "יש להם אינטרס לדבר עלינו, ועלינו לצפות שזה מה שהם יעשו".

השיחה מגיעה אליך

רוצה לקבל את מיטב הסיפורים של שיחה מקומית ישר למייל? הניוזלטר השבועי שלנו הוא התשובה בשבילך.

שם מלא

כתובת האיימיל שליחה

באותם ימים האינטרנט היה בחיתוליו. שנתיים בלבד קודם לכן הוצג פרוטוקול התקשורת HTTP, שיצר לראשונה שפה אחידה לתצוגת מידע מרשתות מחשבים שונות והיווה בסיס לאינטרנט כפי שאנחנו מכירים אותו כיום. מעטים היו מודעים אז לקיומה של הטכנולוגיה הזאת ולפוטנציאל שלה.

אבל אנשי הסייפרפאנק זיהו את הסכנה הטמונה במעבר התקשורת בין בני אדם למערכות אלקטרוניות, וניסו להתריע מפני הכוח העצום שיקבלו ממשלות ותאגידים לשלול את זכותם של אינדיבידואלים לפרטיות: "בני אדם הגנו על פרטיותם במשך מאות שנים באמצעות לחישות, מעטפות, דלתות סגורות, לחיצות יד סודיות ובלדרים", נכתב במניפסט. אולם בעולם שבו התקשורת נעשית באמצעות רשתות מחשבים ודרך מידע דיגיטלי, מי שתהיה לו גישה ומשאבים לעבד את המידע הזה יזכה בשליטה חסרת תקדים בבני האדם ויוכל לנצל זאת במגוון דרכים.

המניפסט הזה הוביל את קהילת הסייפרפאנק, במודע, להתנגשות ישירה עם הקומפלקס התעשייתי-ביטחוני בהובלת ארה"ב – רשת של רשויות ממשלתיות ותאגידי ענק שצברו עוצמה חסרת תקדים והון עצום בזכות החיבור בין המשאבים הציבוריים לאמצעים להפעלת אלימות. אותם גורמים הפעילו את כוחם כדי לשמור על בלעדיות בנוגע לטכנולוגיה הזאת. הם קידמו חקיקה שתגדיר תוכנות הצפנה כאמצעי לחימה שיש לשמור על חשאיותן ולהותיר את הזכות להשתמש בהן לממשלות ולצבאות בלבד. לעומתם, אנשי סייפרפאנק דרשו להחיל את חופש הביטוי על קוד תוכנה ללא הבחנה.

חרף כוחה העצום של המערכת הצבאית והממשלתית, בקרב הזה ניצחו מקדמי הזכות לפרטיות ולחופש. חברי קהילת הסייפרפאנק כתבו שורות קוד לטכנולוגיות הצפנה בחוברות ובספרים והפיצו אותם בחינם באוניברסיטאות ובחנויות; שילבו קטעי קוד של פרוטוקולי הצפנה בחתימות הדוא"ל שלהם; ואפילו הדפיסו אותם על חולצות, כדי להוכיח לגורמי הממשל כי "מידע לא רק רוצה להיות חופשי, הוא משתוקק להיות חופשי", וכי "הניסיון למנוע מאנשים לדבר זה עם זה הוא ניסיון להילחם נגד המציאות היסודית של המידע" והאופן שבו הוא מתקיים. העובדה ששורות קוד למטרות הצפנה הן מידע שלא ניתן, מבחינה טכנית, לעצור את הפצתו ואת השימוש בו גרמה לבסוף גם למערכות החוק והמשפט לקבל את דרישות הקהילה, ורשויות הממשל והצבא נאלצו למצוא דרכים אחרות לבסס את שליטתן.

שימוש בבינה מלאכותית למטרות מלחמה. חיילים באמון הפעלת כטב"מ, 2013. למצולמים אין קשר לכתבה (צילום: מרים אלסטר / פלאש 90)

"כוח נוקשה ייבנה באמצעות תוכנה"

ב-33 השנים שעברו מאז, וככל שגופים בעלי אינטרסים עסקיים השתלטו על עוד ועוד חלקים מהאינטרנט, הניצחון הזה הלך ונשחק. הנוחות שסיפקו המוצרים של אותן חברות, ולא פחות מכך המאפיינים הממכרים של שירותים כגון הרשתות החברתיות, השכיחו את האזהרות שהושמעו באותה תקופה. כיום, הכפפת הרשת החופשית והפתוחה למנגנון התאגידי הביאה למציאות שבה אובדן הפרטיות הוביל לפגיעה חמורה ומתמשכת בזכויות יסוד, כמו חופש התנועה וחופש התעסוקה, ואפילו להרג המוני של בני אדם – עד כדי רצח עם.

בשבוע שעבר פורסם ברשת X (לשעבר טוויטר), שבבעלות המיליארדר אילון מאסק, מאמר המנוגד ב-180 מעלות למניפסט הסייפרפאנק. הטקסט הועלה בחשבון הרשמי של חברת הטכנולוגיה פלנטיר – חברה המתמחה בפיתוח מוצרים הנשענים על שימוש במידע פרטי והנגשתו לממשלות ולצבאות באמצעות מערכות בינה מלאכותית, ומניבים לה הון עתק. הפוסט שהעלתה פלנטיר מבוסס על הספר "הרפובליקה הטכנולוגית", שכתב מנכ"ל החברה אלכס קארפ, והוא מצמרר בישירותו האכזרית. המאמר נפתח בטענה כי חברות עמק הסיליקון מחויבות מוסרית לשרת את המערכות הצבאיות של ארה"ב, ועיקרו שיר הלל לשימוש בתוכנה לקידום כוח ואלימות.

"אם חייל מארינס מבקש מאיתנו רובה טוב יותר, עלינו לבנות אותו", הבהירה פלנטיר. "והדבר נכון גם לגבי תוכנה"; "היכולת של חברות דמוקרטיות וחופשיות לשגשג תלויה במשהו שהוא יותר מפנייה למוסר. היא דורשת שימוש בכוח נוקשה, ובמאה הזאת כוח כזה ייבנה על גבי תוכנה".

בהמשך המניפסט של פלנטיר מובאות, באופן בלתי מסויג, אמירות המבטאות את עליונותן התרבותית של אמריקה ותרבות המערב על פני תרבויות אחרות, כדרך להצדיק את עליונותה הצבאית של ארה"ב ואת השימוש חסר הרסן שלה באמצעים אלימים: "תרבויות מסוימות יצרו התקדמויות חיוניות, אחרות נשארות בלתי מתפקדות ומפגרות […] העובדה היא שיש תרבויות שיצרו פלאים, ואחרות התבררו כבינוניות ומזיקות".

חברת פלנטיר היא תאגיד מפלצתי ששוויו, נכון להיום, יותר מ-360 מיליארד דולר. עיקר הכנסותיה מגיע מחוזים ממשלתיים וביטחוניים; היא מספקת שירותים לצבא האמריקאי ולממשלות רבות נוספות ברחבי העולם, ולפי דיווחים, גם לישראל. עוד קודם לפרסום המניפסט היתה פלנטיר ממובילות חזון חדש לחיבור הקומפלקס התעשייתי-ביטחוני לחברות ההייטק והתוכנה בעמק הסיליקון.

אחד הפיתוחים הבולטים של פלנטיר, "פרויקט מייבן" (Maven), משמש צבאות ליצירת מטרות תקיפה באמצעות בינה מלאכותית. בדומה לפרויקט לבנדר, ששימש את חיל האוויר הישראלי להרג עשרות אלפי בני אדם בעזה ובלבנון, פרויקט מייבן נעזר בהצלבת מגוון מקורות מידע, כגון נתוני איכון של מכשירים סלולריים ופעילות ברשתות החברתיות, כדי לסמן יעדים להפצצה. על יעדים אלו מסתמכים אנשי המודיעין וחיל האוויר כמעט בעיניים עצומות.

מיד עם תחילת המתקפה על איראן בפברואר השנה הופצץ בית ספר בעיר מינאב שבדרום המדינה. כ-170 בני אדם נהרגו בתקיפה הזאת, רובם תלמידות בית הספר. על פי דיווחים, בעקבות המקרה החל הפנטגון לחקור אם הפצצת בית הספר במינאב נעשתה בשל הסתמכות על מערכת בינה מלאכותית של פלנטיר.

בינה מלאכותית סייעה לסמן מקומות שמהגרים עשויים להיות בהם. סוכני ICE במיניאפוליס, ב-7 בינואר 2026 (צילום: Chad Davis / CC BY 4.0)

גם בתוך ארה״ב עצמה הטכנולוגיה של פלנטיר משמשת לפגיעה בבני אדם. מחקר חדש מתאר כיצד פלטפורמת ImmigrationOS של החברה, שנרכשה על ידי רשויות ההגירה האמריקאיות, משמשת מרכז למערכת מעקב רחבת היקף המבוססת על איסוף מסיבי של נתונים – מטביעות אצבע וזיהוי פנים ועד פעילות ברשתות החברתיות ואפילו מידע רפואי. בדומה להצלבת נתוני איכון ופעילות ברשתות החברתיות לצורך יצירת מטרות להפצצה בעזה, כאן מערכת הבינה המלאכותית סורקת כמויות עצומות של מידע כדי לאתר שכונות ובתי מגורים שבהם ריכוז פוטנציאלי של מהגרים, לצורך פשיטות של סוכנים פדרליים ומעצרים אגרסיביים.

הגוף המרכזי שמפעיל את המערכות האלו הוא ICE – רשות ההגירה והמכס של ארה"ב – האחראית על אכיפת חוקי ההגירה בתוך המדינה, לרבות מעצרים, כליאה וגירוש. לאורך השנים תועדו מקרים רבים שבהם אזרחי ארה"ב עצמם נעצרו בטעות, לעיתים בעקבות מידע שגוי או הצלבת נתונים לקויה. במקביל הצטברו עדויות רבות על אכזריות שיטתית כלפי העצורים: תנאי כליאה קשים, מניעת טיפול רפואי, שימוש בכוח ואף מקרי התעללות ותקיפה. כאשר מערכות נתונים גדולות ואוטומטיות משולבות בתהליכי האכיפה, הסיכון לטעויות ולהפרות זכויות גדל, והיכולת להתגונן מפניהן מצטמצמת.

ואכן, בפוסט של פלנטיר ניתן למצוא הצדקה מוסרית גם לשימוש במערכות אוטומטיות לצורך אכיפה בתוך גבולותיה הריבוניים של ארה"ב, ולא רק ללחימה באויב חיצוני כמו איראן: "עמק הסיליקון חייב למלא תפקיד בהתמודדות עם פשיעה אלימה", נטען שם, "פוליטיקאים בארה"ב הפגינו חוסר מעש לנוכח הפשיעה האלימה וזנחו כל מאמץ רציני להתמודד עם הבעיה". הפתרון לפשיעה, כפי שעולה מהפוסט הזה, הוא כמובן שימוש בטכנולוגיות המעקב שמספקות חברות כמו פלנטיר.

המידע שלנו משמש נגדנו

חברת פלנטיר משמשת כיום חוליה מקשרת בין עמק הסיליקון לקומפלקס התעשייתי-ביטחוני, והפוסט שהעלתה מנסה להקנות לקשר האינטרסים הזה ערך מוסרי. עם זאת, החברה מקושרת עמוקות גם לתחום הטכנולוגי האזרחי. פיטר תיל, ממייסדי פלנטיר, הוא מהמשקיעים הראשונים בחברת פייסבוק, שלימים הפכה לתאגיד מטא – החברה שמחזיקה כיום במונופול על תחום הרשתות החברתיות לאחר שרכשה את אינסטגרם ב-2012 ואת וואטסאפ ב-2014. המידע שאנחנו מספקים מדי יום, בהתנדבות, לרשתות האלה הוא אחד ממקורות העוצמה שלהן.

המידע שאנחנו מוסרים לרשתות החברתיות הוא מקור העוצמה המרכזי שלהן (צילום: thoughtcatalog.com)

בימיו הראשונים של האינטרנט, כמה מהנדסי תוכנה, חוקרים ומתמטיקאים התריעו מפני הפוטנציאל ההרסני הטמון בשימוש לא אחראי בטכנולוגיות תקשורת. הם ידעו כי הגנה אקטיבית על הזכות לפרטיות חיונית לקיומה של חברה חופשית. כיום, כאשר הבינה המלאכותית – טכנולוגיה מהפכנית שנבנתה על גבי האינטרנט – משנה את אורחות חיינו בקצב מסחרר והופכת לכלי נשק רב-עוצמה המופנה כלפי אזרחים ברחבי העולם, מתברר עד כמה הם צדקו.

הקפיצה הטכנולוגית האדירה במערכות בינה מלאכותית בשנים האחרונות מאפשרת להפוך את המידע העצום שהצטבר עלינו – מנתונים שסיפקנו בעצמנו דרך הרשתות החברתיות ועד מידע שנאסף עלינו שלא בידיעתנו – לידע שניתן להשתמש בו כדי להצדיק פגיעה אלימה ואכזרית, תחת טיעונים של ביטחון והגנה.

ניתן לראות כיצד חברת פלנטיר סיפקה לממשל האמריקאי את ההצדקה הזאת הן כלפי אויבים מבחוץ, כמו איראן, והן כלפי אויבים מבפנים, כמו מהגרים ממדינות עניות המחפשים הזדמנויות כלכליות באמריקה העשירה. בישראל, מציאות הכיבוש המקומית מספקת כר פורה לשימוש רחב היקף וחסר כל רסן במערכות טכנולוגיות מתקדמות לשליטה ולדיכוי האוכלוסייה הפלסטינית בגדה המערבית ובעזה.

הפוסט שפרסמה פלנטיר מלמד על המאמצים ליצור בסיס מוסרי לשימוש בטכנולוגיות האלה ככלי רב-עוצמה לפגיעה בפרטיות ובהמשך גם ברכוש, בגוף ובנפש. אבל אין זה מחויב המציאות, כפי שמלמד מניפסט הסייפרפאנק הנשכח. טכנולוגיית מידע מתקדמת יכולה לשמש גם לקידום חירות, פרטיות והגנה על זכויות אדם, אך הדבר לא יקרה מעצמו. לשם כך נדרשים התנגדות וסירוב מצד אנשי הטכנולוגיה. ניצנים ראשונים להתנגדות כזו כבר קיימים. ככל שאנשי טכנולוגיה רבים יותר יבחרו להפנות את כישוריהם לטובת הגנה על בני אדם, ולא רק להפקת רווחים, כך יגדל הסיכוי לנצח במאבק לפרטיות, לחופש ולאנושיות גם בעידן המידע והבינה המלאכותית.