המטריקס של גוגל ופייסבוק

לפני יותר מ-250 שנה, עמנואל קאנט קבע שלעולם לא נוכל לדעת מהי המציאות האמיתית. אנו תמיד נחזה אך ורק בעולם התופעות, ואילו המציאות כשלעצמה תמיד תהיה נסתרת מאיתנו. ואם חשבתם שאלו הם רק הגיגיו של פילוסוף חופר וקודח, הפיזיקה והמתמטיקה של ימינו טוענות בדיוק את הטענה הזו (מכניקת הקוואנטים, משפטי אי-השלמות של גדל, משפט סקולם-לוונהיים). הפלא ופלא, גם האינטרנט מתנהג כיום באותה צורה.

אני לא יודע מה איתכם, אבל אני כבר מזמן הפסקתי לקנות עיתונים ולצפות בחדשות בטלוויזיה. את כל המידע החדשותי אני מקבל דרך פייסבוק (בעיקר באמצעות עמודי החדשות העיקריים, שמזרימים לי ידיעות ישירות לטיימליין). פועל יוצא מכך הוא שחבורת אנשים קטנה, שאחראית על האלגוריתם של פייסבוק, היא זו שקובעת איזה מידע יגיע ולא יגיע אליי.

פייסבוק היא אחת מיצרניות הטראפיק הגדולות בעולם. כמעט 20% מתנועת הגולשים העולמית מגיעה דרך פייסבוק, על מיליארד ו-300 מיליון משתמשיה (כחמישית מאוכלוסיית העולם נכון להיום). ומה קורה בגזרת גוגל? הדברים אינם שונים. עם מיליארדי חיפושים מדי יום ומוח-מחשב אחד שמסנן את הכול, אתם תקבלו רק את מה שמגיע לכם (לפי היסטוריית החיפוש שלכם, מיקומכם הגיאוגרפי וכ-60 פרמטרים נוספים – גם אם אינכם מחוברים לחשבון גוגל שלכם).

אותם דברים מתרחשים גם בענקי דיגיטל אחרים. אמזון משתמשת באלגוריתם שבודק מה מעניין את הגולשים, ומציע להם ספרים ומוצרים בהתאם להתנהגותם הקודמת. בשירות הסרטים האמריקאי נטפליקס, חלק מהסרטים מגיע במהירות שיא אל המסך – ואילו חלק אחר מתעכב בתור הזרמת המדיה. נטפליקס פשוט מנסה לחשב, מתוך סך כל הרגלי הצפייה שלנו, במה נרצה לצפות כעת.

ענקיות הדיגיטל פועלות כולן לפי אותה הנחת-עבודה – שהפרסונה הווירטואלית שהן יצרו על סמך פעילותנו הדיגיטלית, היא זו שעל פיה יישק דבר (התאמה אישית, או בעברית צחה: פרסונליזציה). אם אתם אוהבים חדשות מדע יותר מאשר חדשות ספורט, מן הסתם זה גם מה שתקבלו רוב הזמן.

ככל שהענקיות אוספות עלינו יותר מידע, כך הן מעדכנות את הפרסונה הווירטואלית שיצרו על כל אחד ואחת מאיתנו, ואותה פרסונה וירטואלית מקבלת פרסומות ותוכן בהתאמה להתנהגותה הקודמת. כל אחד מקבל את המידע שמתאים לפרסונה הווירטואלית שלו, ולא נחשף למידע אחר שאינו מתאים לה. בסופו של דבר בעולם של גוגל ופייסבוק, כולנו תוכים בתוך כלוב. לכך קוראים Filter Bubble או "ספירלת השתיקה".

מצב דומה יכול לקרות בתקשורת המסורתית, כגון טלוויזיה, רדיו ועיתונים, שלעתים אינם רק מציגים את המציאות אלא גם מסוגלים להבנות ולייצר אותה. עורך החדשות מחליט מה רלוונטי, ופועל יוצא מכך הוא שאנחנו נראה רק מה שהוא רוצה. אבל אם חשבנו שבניגוד למדיה המסורתית האינטרנט הוא מרחב דמוקרטי פתוח, המאפשר לכולם נגישות בלתי מוגבלת למידע בלתי מוגבל, הרי שכיום המצב השתנה לחלוטין. עומס המידע הכמעט בלתי אפשרי, מחייב פעולה של אלגוריתמים אוטומטיים שמחליטים עבורנו מה נראה, וחמור מכך: הם גם מחליטים עבורנו מה לא נראה. כל המידע שלנו עובר דרך קבוצה קטנה של מסננים, כגון גוגל ופייסבוק, והם "מחליטים עלינו".

המצב הטוב ביותר הוא לאפשר לנו גישה לכל המידע, אבל בפועל מה שקורה הוא שמסננים לנו את המידע – גורמים חיצוניים מחליטים מה ייכנס פנימה ומה יסונן החוצה, ואין לנו דרך לדעת כיצד המידע שלנו היה נראה אילולא ההתערבות הזו.

אם נרצה למצוא מידע חדש, סותר ושאינו עולה בקנה אחד עם ההעדפות שנקבעו לנו על-ידי מוחות המחשב של גוגל ופייסבוק – כנראה שנצטרך להתאמץ כדי להיחלץ מהכלוב. גוגל ופייסבוק משמשות – בין שרצו בכך ובין שלא – כעורכי חדשות אוטומטיים.

למעשה יש פה בעיה כפולה – האלגוריתמים גם מסננים את המידע בלי שנדע על כך, וגם עושים זאת בהסתמך על פרסונה וירטואלית שלא בהכרח דומה לאני האמיתי שלנו. מי אמר שסך החיפושים שלנו בגוגל או הפעילות שלנו בפייסבוק, מייצגים נאמנה את מי שאנחנו באמת? כל מה שענקיות הדיגיטל יודעות עלינו מסתכם בפרמטרים חלקיים ושבורים בלבד, ועל סמך שברי המידע החלקיים האלה הן מסננות ומציגות לנו מידע. אין גרוע מכך.

מה הפתרון? כיום האלגוריתמים מכוונים לפרמטר עיקרי והוא רלוונטיות. צריך לוודא שמעתה והלאה הם ישלבו גם פרמטרים נוספים, כגון חשיבות התוכן, הצגת נקודות מבט שונות ואפילו מידע מנוגד לחלוטין למה שהאלגוריתם חושב שהכי טוב לנו. כי אם לא אנחנו מחליטים – משמע שמחליטים עבורנו. הכי רחוק מדמוקרטיה שרק אפשר.

הרצאת TED בנושא Filter Bubbles