אנו מתכבדים להגיש את עמדת תכלית – המכון למדיניות ישראלית ומרכז פדרמן לחקר הסייבר באוניברסיטה העברית לקול הקורא אשר הופץ על ידי משרד התקשורת ביום 24.2.2022 בעניין אסדרת פלטפורמות תוכן דיגיטליות. *מפאת סד הזמנים הקצר, התייחסותנו תתמקד בהצגה בראשי פרקים של המדיניות הרגולטורית המומלצת ובעמידה על מספר הסדרים נקודתיים ביחס למשטר האחריות המשפטי שנציע והיקף התחולה שלו. נשמח להרחיב בעל פה את התייחסותנו המפורטת לעיצוב החקיקה והאסדרה בתחום ככל שיהיה בכך עניין מצדכם.

תמצית עמדתנו

פונקציית המטרה: התערבות בשוק הפלטפורמות המקוונות צריכה להיעשות בהתאם לפונקציית מטרה מוגדרת היטב ולהיגזר מתוך צרכי ומאפייני המשק והחברה בישראל. את פונקציית המטרה הישראלית נגדיר כך: קיומו של מרחב מקוון בו אזרחי ישראל נהנים באופן שוויוני מזכות גישה רחבה לרשת ולתכניה באופן המתיישב עם תרבות חופש ביטוי משגשגת, המספק סביבה בטוחה ומוגנת בה נשמרת פרטיותם והמעניק הזדמנות לפתח כלכלה יזמית וחדשנית.

הרעיון המסדר: חלוקת עבודה אופטימלית בין המגזר הפרטי לממשלה

בבחירת המודל הרגולטורי אנו מציעים לאמץ עיקרון מנחה פשוט: יתרון מוסדי (מגזרי) יחסי. פונקציית המטרה תוגשם דרך שורה של הכרעות ערכיות, מקצועיות וטכנולוגיות ביחס לאיזון בין הערכים המתחרים. האסדרה צריכה להעניק למאסדר סמכות ואחריות רק על החלטות שהוא נמצא בעמדה הטובה לקדמן, ולהותיר בידי הפלטפורמות שיקול דעת ביחס להכרעות שהן בעמדה הטובה יותר לקבל, תוך יצירת התמריצים המתאימים לכך.

עסקת חבילה רגולטורית: ״נמל בטוח״ תמורת מדיניות תוכן מתאימה לאינטרס הציבורי

בהתאם לעקרון המנחה, נמליץ על אימוץ מודל של רגולציה מבנית-הליכית. בבסיס המודל הזה, שמרכיבים מרכזיים בו אומצו בהצעות חוק שמקודמות כיום באיחוד האירופאי ובארה״ב, מצויה ״עסקת חבילה״ בין המדינה לבין הפלטפורמות. הפלטפורמות מקבלות ״נמל בטוח״ (safe harbor), שפירושו חסינות מותנית מאחריות נזיקית ופלילית על תכני משתמשים, כנגד מחויבות לסדרה של חובות רגולטוריות המיועדות להשפיע על מבנה התמריצים שלהן  ולהעמיד דרישות הליכיות לפיקוח ועיצוב מדיניות תוכן מיטיבים.

אין בכוונת נייר זה לפרט את כל מרכיבי המודל המוצע או לטעון כי האמור בו מייצג אמת אחת ואין בלתה. מטרתנו היא להצביע על יתרונותיו ולנסח חמישה עקרונות ליבה שבעינינו יוכלו לסייע בגיבוש המתווה הרגולטורי הרצוי:

1. רגולציה שלא מתמקדת בקצה הקרחון. חלק גדול מהחקיקה הקיימת או מקודמת כיום בעולם מבוססת על תמונה מעוותת של אופן עבודת הפלטפורמות המדמה אותן למערכות אכיפה שדומות במהותן לאופן עבודת בתי משפט מדינתיים, וכתוצאה מכך מיקוד ב-״קצה הקרחון״ של מדיניות פיקוח התוכן שלהן. זוהי שגיאה בעלת השלכות חמורות על יעילות ואפקטיביות הרגולציה. נסביר כיצד להימנע ממנה.
2. פיקוח על פרסומים בלתי חוקיים: ציות לבתי המשפט + מנגנון ״הודעה ופעולה״. בהתמודדות עם ריבוי תכנים לא חוקיים ברשת, יש לשקול אימוץ של מנגנון משולב. המדינה תשמר אצלה אחריות אולטימטיבית, באמצעות בתי המשפט, להוציא צווים להסרת תכנים קיצוניים שיש אינטרס ציבורי מובהק בהסרתם. הפלטפורמות יידרשו לאמץ מנגנון חדשני של ״הודעה ופעולה״, במסגרתו משתמשים יוכלו לדווח על תוכן בלתי חוקי בצורה נגישה ובעברית, מפרסמים יוכלו להגיב לטענה נגדם (counter notice), והפלטפורמות ישמרו על חסינות בתנאי שיקבלו החלטה מקצועית ומהירה בתום לב, גם אם בחרו לא להסיר את הפרסום או להשתמש בכלי אכיפה מידתיים יותר. פתרון זה מתמודד היטב עם חסרונות המודל המוכר של ״הודעה והסרה״ אשר הוכח כמוביל לצנזורת יתר.
3. פיקוח על מנגנוני אכיפה עצמיים: הגברת המחויבות הצרכנית לאזרחי ישראל. פלטפורמות נוהגות כבר כיום לאמץ מדיניות פיקוח תוכן להגבלת ביטויים פוגעניים גם אם חוקיים. האסדרה צריכה למסד את החובה לנהוג כך ולייצר סטנדרטיזציה ובצידה שורה של הוראות שיבטיחו מינימום הליך נאות ונאמנות ציבורית ביחס לקשת רחבה של מנגנוני קבלת החלטות בפלטפורמות ומחוצה להן שמעורבות באכיפת תוכן, לרבות גופים ממשלתיים. לצד זאת, יש להישמר מ-״העמסה״ עיוורת של חובות הליך נאות שמשפיעות לרעה על ערכים אחרים.
4. שקיפות אפקטיבית. יש לנסח חובות רגולטוריות לקידום שקיפות באופן שישפיע על כלל מנגנוני קבלת ההחלטות בפלטפורמות ויוביל לפרסום של מידע מועיל למאסדר ולציבור. חובות שקיפות צריכות לשאוף לשפר את ההבנה שלנו ביחס לאמצעים שמופעלים בישראל ובפרט בשפה העברית.
5. היקף תחולה מותאם גודל ופעילות. האסדרה צריכה להיות מותאמת לגורמים המאוסדרים בהתאם להשפעתם על מרחב הביטוי המקוון, הסיכונים הנובעים מפעילותם, ומשאביהם. ככלל אצבע, יש לייצר הבחנה לצרכי היקף החובות הרגולטוריות על בסיס שני קריטריונים מרכזיים: סוג פעילות וגודל.

להלן מובא פירוט של המתווה המוצע. סדר הצגת עמדתנו יבקש לתת מענה לשלוש שאלות יסודיות בהתאם למודל Risk Impact Assessment (RIA): בחינת הצורך, הגדרת התכלית, ובחירה במודל הרגולטורי המומלץ.

א. בחינת הצורך: התערבות רגולטורית בשוק פלטפורמות התוכן היא צו השעה

המצב הקיים, לפיו, בכפוף לחריגים, פלטפורמות מקבלות דה-פקטו פטור מאחריות על נזקים שנגרמו מפרסום תכני משתמשים אינו בר קיימא מכיוון שמייצר כשל שוק וגירעון דמוקרטי המעצימים נזקים חברתיים שיש אפשרות למנוע או לכל הפחות לצמצם. ביתר פשטות: תאגידים שמרוויחים כסף מפרסומים מזיקים לא ימהרו לפעול נגדם בנחרצות ללא התערבות רגולטורית.

1. בפתח הדברים ראוי להתעכב על השאלות המקדמיות: האם ומדוע נדרשת התערבות המדינה בשוק המקוון?
2. נקודת המוצא היא שפלטפורמות תוכן מתפקדות כשומרות הסף של מרחב השיח הציבורי בעידן הדיגיטלי. הפלטפורמות הן פרטיות, אבל המרחבים הדיגיטליים שיצרו – ליצירה והעברת מידע בין חלקי הציבור, הבעת ביטוי אומנותי, פוליטי ומסחרי, החלפת דעות, קיום פעילות מסחר ושירותים, צריכת חדשות, ועוד – הם ציבוריים במהותם.^[1] מי שמודר או מושתק במרחבים הללו אינו יכול ליטול חלק משמעותי בשיח הציבורי, ויכולתו לממש את זכויות היסוד שלו מוגבלת בצורה משמעותית.^[2]
3. על רקע זה, קיימים אינטרס ציבורי שמרחב השיח הציבורי והכללים החלים בו ישקפו איזון ראוי בין הערכים המושפעים והצדקה דמוקרטית שהאיזון הזה, ככל שמוחל על ישראלים, יבטא את העדפות החברה הישראלית.
4. עד לאחרונה, שלטה בעולם המערבי העמדה כי רגולציה עצמית והתבססות על השוק החופשי היא הגישה העדיפה למקסום התוצאה הזו. משמעותה היתה הענקת חסינות רחבה לפלטפורמות מאחריות לתוכן שמעלים משתמשים, בין אם בצורה גורפת (כך, במיוחד, בארה״ב)^[3] או כנגד עמידה בתנאים מינימליים (כך, למשל, באירופה).^[4] גישה זו הפכה לדומיננטית גם בישראל דרך פסיקת בתי המשפט, שאימצו דוקטרינות מהדין ההשוואתי ואכפו תניות חוזיות שייבאו את הדין הזר (לרוב, הדין האמריקאי) ליחסים החוזיים בין המשתמשים לבין הפלטפורמות בישראל.^[5]
5. גישת השוק החופשי אינה ניתנת להצדקה במציאות של המרחב המקוון ב-2022. זאת, בראש ובראשונה, בשל קיומו של כשל שוק. המודל הכלכלי של מרבית הפלטפורמות הגדולות וריכוזיות השוק מייצרים תמריץ עבורן לנקוט במדיניות תוכן לא יעילה השואפת למקסם את זמן השהייה של משתמשים בפלטפורמות ואת היכולת לאסוף מידע פרטי ואינטימי מהם. זהו תמריץ מעוות, מכיוון שעידוד ואפילו הפצה רחבה של תוכן מזיק — כולל מידע שקרי, תכנים סנסציוניים ומקטבים, אלימות, והסתה — הוכחו כמייצרים יותר מעורבות (ולכן, מועילים לשורת הרווח), למרות ההחצנות השליליות שלהן על השיח הציבורי וזכויות משתמשים.^[6]
6. בנוסף, המצב הקיים מייצר בעיה של גירעון דמוקרטי. הפלטפורמות מפעילות כוח רגולטורי משמעותי במרחב המקוון, אך בניגוד לגורמי ממשל, אין להן אחריותיות דמוקרטית. פיקוח רגולטורי מצד המדינה הוא הכרחי על מנת לגשר על הפער הזה ולעודד מדיניות שמשקפת את ערכי הציבור והעדפותיו.
7. אם כשל השוק והגירעון הדמוקרטי מסבירים מדוע פלטפורמות כנראה אינן רוצות מספיק ליישם מדיניות פיקוח תוכן שמבוססת על מקסום האינטרס הציבורי, חשוב להבין שהן סובלות גם מיכולת מוגבלת לפעול ללא הכוונה מדינתית. סדרי הגודל והמהירות שבה נעשית רגולציית תוכן עצמית חורגים מכל מה שהתקיים בעולם הטרום-דיגיטלי. גם בשוק משוכלל ותחרותי, אין שום אפשרות לייצר רגולציה עצמית שתדע להבליט ביטוי טוב ולסנן ביטוי רע במהירות ובדיוק הנדרשים.^[7] רק שילוב כוחות עם המדינה, שתדע לקבוע עדיפויות ולהציף בעיות וכשלים יקדם אותנו לעבר סביבה מקוונת בריאה, חופשית ובטוחה.

ב. הגדרת התכלית: הגברת האחריותיות – כן; נטילת הסמכות – לא

תכלית האסדרה צריכה להיות הגברת האחריותיות של הפלטפורמות ועידודן להפנים את האינטרס הציבורי הישראלי בקביעת האיזון בין הערכים המושפעים ממדיניות פיקוח התוכן שלהן. כפי שנסביר, המדינה אינה צריכה להחליף את הפלטפורמות כשומרת השער של מרחב הביטוי המקוון אלא לתמרץ אותן להקצות משאבי פיקוח מספקים (בפרט, ביחס לתוכן בעברית) ולהפעילם כראוי.

8. בחלק זה נבקש להציג את עמדתנו באשר לתכלית אסדרת שוק פלטפורמות התוכן ולשאלת חלוקת העבודה הראויה בין הרגולטור המדינתי לבין הפלטפורמות. שאלה זו, כמפורט להלן, היא קריטית לגיבוש המודל הרגולטורי המועדף.

9. תכלית האסדרה צריכה להיגזר משני גורמים עיקריים: מאפייני המשק והחברה בישראל, והמטרות החברתיות שיש להגשימן, אותן נכנה ״פונקציית המטרה״.

מאפייני המשק והחברה בישראל

10. רגולטורים במדינות רבות יושבים כיום על המדוכה ושוקלים הסדרים שונים להגברת הפיקוח על פעילות פלטפורמות תוכן דיגיטליות. בהתאם לכך, קיים מאגר הולך וגדל של הסדרים השוואתיים שיכולים לשמש השראה למאסדר הישראלי, אך כבר בתחילת הדרך חשוב לגבש תמונה ברורה של הייחודיות של המשק והחברה בישראל והצרכים הנגזרים מכך כדי להימנע מאימוץ הסדרים שנועדו להשיג מטרות שלא חופפות את שלנו.
11. קיימים שלושה מאפיינים בעלי חשיבות בעיצוב אסדרת הפלטפורמות במדינת ישראל:

    • תרבות דמוקרטית בחברה רב-תרבותית: החברה הישראלית מבוססת על ערכים דמוקרטיים ובראשם חופש הביטוי והדעה, ויש לה רתיעה מובנית ומושרשת מצנזורה חזקה. לצד זאת, הרכבה הדמוגרפי הרב תרבותי (יש שיאמרו: השבטי), אתגריה הביטחוניים והמגמות החברתיות העכשוויות מלמדים על סיכון הולך וגובר כי שיח לא מרוסן ואלים יפגע במרקם החברתי, עלול להגביר סיכון לאלימות והסתה ולהשתיק קבוצות מוחלשות.

    • ״סטארט-אפ ניישן:״ ישראל מדורגת באופן עקבי בצמרת חממות הגידול של תעשיית הטכנולוגיה העולמית.^[8] למשק והחברה שלנו יש אינטרס לאומי מובהק לקיים סביבה רגולטורית מעודדת חדשנות ויזמות, ולשמש מודל שנזהר מאימוץ הסדרים שיובילו לפגיעה ביכולת של תעשיית ההיי-טק לשגשג ולייצר מתחרים חדשים.

    • שוק קטן: ישראל היא שוק זניח בגודלו עבור פלטפורמות התוכן הגדולות בעולם. עובדה זו משפיעה על סט הכלים שעומד בפני המאסדר הישראלי, אשר אינו זהה למקביליו באירופה וארה״ב. מגבלות רגולטוריות שלא יעלו בקנה אחד עם המגמות העולמיות ויטילו עלויות קיצוניות על הגורמים המאוסדרים צפויות להפוך לאות מתה או להוביל לתוצאות לא מכוונות. חשוב להבין את גודלנו ולהתרכז במשימות רגולטוריות מותאמות לצרכי השוק הישראלי. לצד זאת, לשוק קטן יש משימה ייחודית שאין לשווקים גדולים: תחרות על משאבי הפלטפורמה. ממצאים הראו שיש פערים משמעותיים ברמת המשאבים המושקעים בין מדינות ושפות שונות. וכל ״דחיפה״ רגולטורית שתעודד פלטפורמות לרכז יותר משאבים בישראל תשרת את האינטרס הציבורי.^[9]

פונקציית המטרה וחלוקת העבודה הנכונה להגשמתה

12. את פונקציית המטרה נגדיר כך: ההתערבות הממשלתית צריכה לשאוף לייצר את התנאים לקיומו של מרחב מקוון בו אזרחי ישראל נהנים באופן שוויוני מזכות גישה רחבה לרשת ולתכניה באופן המתיישב עם תרבות חופש ביטוי משגשגת, המספק סביבה בטוחה ומוגנת בה נשמרת פרטיותם והמעניק הזדמנות לפתח כלכלה יזמית וחדשנית.^[10]

13. טבע הדברים הוא שאת המטרות הללו לא ניתן למקסם יחד. פיקוח וצנזורה על תוכן דיגיטלי, ולא משנה אם מתבצעים על ידי המדינה או הפלטפורמה, כוללים הכרעה בין ערכים מתנגשים (tradeoffs).^[11] כדי להגשים את פונקציית המטרה באופן המיטבי על ידי עריכת האיזון ״הנכון״, יש תחילה לשקול מהי חלוקת העבודה הנכונה בין המדינה לבין הגופים המפוקחים, ולבחור במודל הרגולטורי שישקף אותה.
14. על מנת להשיב על השאלה אנו מציעים ליישם מתודולוגיה מוסדית מקובלת ואינטואיטיבית המבוססת על עקרון היתרון המוסדי (מגזרי) היחסי.^[12] המדיניות הרגולטורית צריכה להקצות לכל גורם את האחריות על המשימות שבהן יש לו יתרון על הגוף השני. היתרון העיקרי של מוסדות המדינה על הפלטפורמות הוא באחריותיות דמוקרטית כלפי הציבור בישראל, הנובעת מהעובדה שעמדותיהם משקפות במידה רבה יותר את העדפות הציבור ומכך שהן מושפעות פחות מכשלי השוק (ובפרט, בעלי יכולת יעילה יותר להתמודד עמם). מנגד, ממבט אפיסטמי, הפלטפורמות הן אוכף התוכן ומעצב המדיניות היעיל יותר בהשוואה למוסדות המדינה. יש להן יתרון במידע ובמהירות, כלי עיצוב מדיניות מגוונים יותר, וכלי אכיפה אפקטיביים ומידתיים יותר. ^[13]
15. לכן, רגולציה שתיטול מהפלטפורמות את הסמכות והאחריות לבצע את האיזונים בין הערכים השונים על ידי מודלים של ״פיקוד ושליטה״ (command & control) צפויה שלא להגשים היטב את פונקציית המטרה. זוהי טעות שרגולטורים רבים בעולם נקלעו אליה, וניתן לראות ניצנים שלה גם בישראל. נדגים זאת על ידי שתי הצעות חוק שהונחו בשנה האחרונה על שולחן הכנסת.
16. ה״ח למניעת ביצוע עבירות באמצעות פרסום באינטרנט (הסרת תוכן)(התשפ"ב–2021) מעבירה למנגנון מדינתי המורכב מתובע ושופט מחוזי את הסמכות והאחריות להתמודד עם הסרת תוכן בלתי חוקי בהיקף רחב. לפי ההסדר המוצע, צו הסרת תוכן יכול שיינתן ביחס לכל תוכן שיש בו חשש לעבירה פלילית וסכנה לביטחון המדינה או ביטחונו של אדם ולהיות מכוון ביחס לכל אתר אינטרנט. הסדר כזה לוקה בשתי בעיות יסוד:
    • מוסדות מדינתיים לא מותאמים לקצב ולהיקף של פיקוח תוכן מקוון. לשם המחשה, יו-טיוב נדרשת להתמודד עם 500 שעות של וידאו המועלות לפלטפורמה בכל דקה,^[14] מה שמוביל להסרה של כ-9 מיליון סרטונים ברבעון המהווים פחות מ-1% מהתוכן המועלה.^[15] פייסבוק צנזרה ברבעון 3 2021 לא פחות מ-930 מיליון פרסומים (!!), מספר שלא כולל כמובן תכנים שנבדקו ואושרו. נוכח מאפייני האינטרנט ואלמנט ההחמרה של נזקים כתוצאה מ-״ויראליות״ של פרסומים מזיקים, על האכיפה להיעשות במהירות שיא.^[16] גם אם נצמצם את המספרים לחלק היחסי של תוכן ״ישראלי״, לא היה רגולטור מדינתי בהיסטוריה שנאלץ להתמודד עם אכיפת חוק בסדרי גודל כאלה ומול מורכבויות שכאלה. המחשבה שמנגנון שמורכב משילוב של תובע מדינתי ושופט מחוזי (השוו: הצעת החוק לעיל) יוכל לעמוד בקצב ולמלא את תפקיד מפקח העל של כמות כה נרחבת של תכנים בלתי חוקיים אינה עומדת במבחן המציאות.
    • הגברת הסיכונים הקיימים בצנזורה ממשלתית. שנית, וכנגזרת לבעיה הראשונה, העברת האחריות לקביעה ואכיפת הסדרים מהותיים למדינה מגבירה את הסיכון לצנזורה ממשלתית שתושפע משיקולים זרים לפונקציית המטרה. כדי להתמודד עם מאפייני הביטוי המקוון (היקף ומהירות הפרסום), המדינה נדרשת לנטוש דוקטרינות ונוסחאות איזון ותיקות שנועדו להתמודד עם סכנת הפגיעה בחירות הביטוי על ידי השלטון. התוצאה היא שחוקים רחבים להסרת תוכן במידה רבה מחליפים בעיה אחת (פיקוח לא מיטבי בפלטפורמות) באחרת: הענקת סמכויות צנזורה דרקוניות למדינה.

17. ה״ח הגנת הצרכן (תיקון – מענה אנושי בשירותים מקוונים), התשפ"ב–2021 מהווה דוגמה נוספת. ההצעה מעמידה שורה של דרישות צרכניות למתן מענה אנושי טלפוני או מקוון בדפוסי זמן קצרים, עדי כדי שש דקות למתן מענה ביחס לפנייה של משתמש בבקשה להסרת תוכן.

הקושי בהצעת החוק הוא שהיא לא בוחנת ולא מתעמתת עם המציאות הפשוטה: בחירה לחייב פלטפורמות תוכן למענה אנושי בפרקי זמן כה קצרים תבוא על חשבון ערכים אחרים, ותוביל באופן בלתי נמנע לפגיעה בהיקפי הפיקוח ובאיכות האכיפה.^[17] במרחב המקוון, הקפדה על זכויות צרכניות כמו בעולם הפיזי פירושה (1) יכולת פחותה להתמודד עם ויראליוּת של פרסומים פוגעניים שמתפשטים במהירות ברשת ו-(2) קיום פיקוח על שיעור קטן יותר של תכנים. דוגמה זו ממחישה כי החקיקה בישראל, לעיתים, אינה תואמת את המציאות אליה היא מתייחסת – ובמקרה הזה, כי הצעת החוק לא מביאה בחשבון במידה מספקת את האופן שבו מתבצע בפועל פיקוח תוכן מקוון.

18. הבנת המתחים הללו והידע הטכנולוגי למזער אותם הם צעד חשוב בגיבוש מדיניות פיקוח תוכן מיטיבה. הפלטפורמות מחזיקות ביתרון ברור על המחוקק בביצוע הפונקציה הזו. לכל הפחות, מומלץ כי בכל קידום של צעדים רגולטוריים המאסדר יהיה ער למתחים הללו ויבצע הכרעה מודעת ורציונאלית אילו ערכים ברצונו להגביר, שכן כל חובה רגולטורית שמוטלת משפיעה על מערך התמריצים של הפלטפורמות ובעקיפין על ההכרעות שלהן בעריכת האיזונים הללו.

19. על מנת להימנע מהקצאה לא יעילה של סמכויות פיקוח תוכן ולמזער את סכנת הצנזורה המדינתית, תכלית האסדרה צריכה להיות רתימת הפלטפורמות לפקח בצורה יעילה על המרחבים הדיגיטליים שבאחריותן, ולמעט בהכתבת כללים סובסטנטיביים.^[18] לפיכך, כפי שיורחב להלן, המודל הראוי הוא מודל להגברת האחריותיות המבקש להפוך את הפלטפורמות לשותפות לתהליך עיצוב סביבה מקוונת בריאה, בטוחה וחופשית.

ג. בחירת המודל הרגולטורי: ״נמל בטוח״ כנגד מדיניות תוכן מתאימה לאינטרס הציבורי

אנו ממליצים על אימוץ מודל של אסדרה מקיפה שתחול ex ante בצורה רוחבית על מבני עיצוב המדיניות ופיקוח התוכן בפלטפורמות. בבסיס המודל הזה, שמרכיבים מרכזיים בו אומצו בהצעות חוק שמקודמות כיום באיחוד האירופאי ובארה״ב מצויה מעין עסקת חבילה בין המדינה לבין הפלטפורמות. ב-״עסקה״ הזו, הפלטפורמות מקבלות ״נמל בטוח״ (safe harbor), שפירושו חסינות מותנית מאחריות נזיקית ופלילית על תכני משתמשים, כנגד מחויבות לסדרה של חובות רגולטוריות המיועדות להשפיע על מבנה התמריצים של הפלטפורמות ולהעמיד דרישות הליכיות לפיקוח ועיצוב מדיניות תוכן.  

20. בחלק זה נדון בבחירת החלופה המתאימה ביותר להגשמת תכלית הרגולציה ונעמוד על עקרונות מרכזיים בעיצובה.

21. הדיון עד כה מוביל אותנו להמליץ על רגולציה מבנית-הליכית בהשראת המודל המקודם בחקיקה האירופאית החדשה ובכפוף לשינויים הנדרשים.^[19] עמדתנו דוחה מודלים רגולטוריים מסוג ״פיקוד ושליטה״ ומודלים של משטר אחריות נזיקי (ex post) שקודמו במקומות אחרים.^[20] רגולציית שליטה מעניקה יותר מדי כוח למדינה במקום שבו אין לה הכלים להיות מעצב המדיניות היעיל; הרתעה נזיקית תייצר תמריצים מעוותים אצל הפלטפורמות למזער את אחריותן ולנקוט באסטרטגיות של התגוננות במקום שותפוּת.^[21] לא זו ולא זו תוצאה רצויה לאינטרסים החשובים העומדים על הפרק.

22. להלן נפרט חמישה עקרונות ליבה לבניית המודל הרגולטורי הזה. ההצעות מבוססות על הסדרים שונים שאומצו או נשקלים ברחבי העולם המערבי (המרכזית שבהן היא החקיקה האירופאית Digital Services Act) לצד רעיונות מקוריים המבוססים על המחקר העדכני שהותאמו למאפיינים ולצרכים הייחודיים של מדינת ישראל.^[22]

תרשים 1. עקרונות הליבה של מודל הרגולציה המבנית-הליכית

עקרון #1. רגולציה שלא מתמקדת בקצה הקרחון

23. במדינות רבות רחבי העולם אומצה או נשקלת רגולציה של שוק פלטפורמות התוכן. חלק גדול מהיוזמות מתמקד בשאלה כיצד פלטפורמות מטפלות בתוכן שהובא לידיעתן (על ידי משתמשים או גורמים רשמיים) כי הוא בלתי חוקי או מפר את כללי הקהילה. כך למשל, סוגיות מרכזיות שרגולטורים דנים בהן הן מתי החלטה להשאיר תוכן צריכה לחשוף את הפלטפורמה לאחריות משפטית וכיצד ניתן להבטיח כי הן מקפידות על קיום זכות טיעון וערעור למשתמשים.^[23]
24. המיקוד הרגולטורי הזה הוא שגוי ולא אפקטיבי.^[24] תהליכי הפיקוח על החלטות אינדיבידואליות של מפקחי תוכן מצויים בקצהו של תהליך ״בירוקרטי״ מורכב שמפעילות הפלטפורמות, וההשפעה הכוללת שלהם על עיצוב מרחב הביטוי המקוון והשאלה אילו תכנים ייראו בו היא שולית.

היכן מוכרעות השאלות החשובות? לא במקום אחד, אלא על ידי שורה של מנגנונים שונים ושחקנים שונים בתוך ומחוץ לפלטפורמה.^[25] אלה הן השכבות החשובות, המצויות מתחת ל-״קצה הקרחון״ של פיקוח תוכן.

תרשים 2. ״קרחון״ עיצוב מדינית תוכן בפלטפורמות מקוונות.

• ההחלטות בחלק העליון של ״הקרחון״ נעשות על ידי מפקחי תוכן אנושיים בדרגות בכירוּת שונות ובהתאם לחשיבות ההחלטה והשלכותיה הציבוריות.
• אך המדיניות הכוללת מעוצבת על ידי גורמים רבים נוספים, בכללם: מערכות בינה מלאכותית (והמהנדסים שבונים אותן) הסורקות ומקבלות החלטות תוכן (לעיתים ללא מעורבות אנושית) ביחס למיליוני פרסומים; צוותי אכיפה ייעודיים בפלטפורמה שמיועדים לזהות התנהגות חתרנית ומבצעי השפעה, ולעיתים פועלים לצורך התמקדות באירוע בעל חשיבות כמו מבצע צבאי או בחירות; שותפויות עם ספקים שונים כגון גופים שמבצעים בדיקת עובדות (fact checking) ועם ממשלות.
• חלק מרכזי בעבודה נעשה בתוך הפלטפורמות על ידי צוותי עיצוב המדיניות האחראים על ניסוח ועדכון הכללים. ולבסוף, אולי החלק החשוב ביותר, הוא הבחירות של העיצוב הטכנולוגי של המוצרים והשירותים, הקובעות את גבולות הגזרה של כל יתר הגורמים המעורבים

25. אסדרה שמתמקדת ב-״קצה הקרחון״ (וכאמור, חלק ניכר מהחקיקה המקודמת בעולם היא כזו) אינה רק הקצאה לא נכונה של משאבים, אלא מוגבלת מאוד ביכולתה להשפיע על המציאות. חופש הביטוי ברשת והיכולת שלנו לקיים סביבה מקוונת בריאה ובטוחה לא נקבעים בעיקרם על ידי ההחלטות בקצה הקרחון, אלא לכל אורכו. ההשפעה הרגולטורית על הפלטפורמות צריכה בהתאם להתייחס ולהשפיע על קבלת החלטות בכל השכבות. במהלך הדיון בעקרונות הבאים נציג מספר דוגמאות להסדרים רגולטוריים שמיועדים להשפיע על השכבות ש-״מתחת לפני המים״.^[26]

עקרון #2. פיקוח על פרסומים בלתי חוקיים: ציות לבית המשפט + מנגנון ״הודעה ופעולה״

26. קיים אינטרס ציבורי שחומר שהצגתו בלתי חוקית (במישור הפלילי או האזרחי) לא יוצג או שיוסר במהירות האפשרית אם הוצג. עם זאת, הטלת האחריות המשפטית לכך על הפלטפורמות מייצרת בתורה סיכונים ומורכבויות.

27. בראש ובראשונה, קיימת אי הסכמה מהותית מתי תוכן הוא אכן בלתי חוקי, ולכן נדרש להכריע מי קובע: האם כל משתמש שטוען כי חומר מוצג הוא בלתי חוקי צריך להעמיד חובה משפטית כלפי הפלטפורמה להסירו? זה כמובן יוביל לפגיעה חריפה בחופש הביטוי ולהסרה של תכנים חוקיים רבים. האם גורמים מערכת האכיפה? בעולם הלא מקוון, ככלל, גורמי אכיפה ותביעה אינם רשאים להטיל צנזורה רחבה ללא פיקוח שיפוטי, מחשש לפגיעה בחירות הביטוי.^[27] האם יידרש צו שיפוטי, ובאילו תנאים? החשש מדרישה כזו הוא כמובן חוסר ההתאמה בין האיטיות של מערכת המשפט לבין הקצב שבו פרסומים הופכים ויראליים ברשת.

28. בתוך מערכת השיקולים המורכבת הזו, מומלץ לשקול מספר הסדרים:

    • חובת ציות כללית לצווים שיפוטיים. מתוך הבנה שבית המשפט הוא הפרשן האולטימטיבי של החוק, יש לקבוע חובה כללית כי פלטפורמה שמוצא כלפיה צו שיפוטי לנקיטת פעולה ביחס לתוכן בלתי חוקי תידרש לפעול בהתאם להוראות הצו ללא דיחוי.^[28]
    • הענקת סמכות מתוחמת לתובע להגיש בקשה לקבלת צו שיפוטי להסרת תוכן. במקביל, יש לשקול חקיקה שתרחיב את סמכות התביעה לפנות לבית המשפט בבקשה להוציא צו ביחס לתכנים שפרסומם מהווה עבירה. כיום, קיימת סמכות מוגבלת כזו בחוק סמכויות לשם מניעת ביצוע עבירות באמצעות אתר אינטרנט, תשע"ז-2017, אך היא אינה מספקת מענה ראוי לסוגי תוכן רבים.^[29] יש לשקול את הרחבת תחולת החוק ביחס לרשימה סגורה של עבירות ביטוי החלות על ביטויים בעלי חומרה או סיכון מיוחדים.
    • מנגנון הודעה ופעולה (notice and action). יש למסד מנגנון שיאפשר למשתמשים לדווח על תוכן בלתי חוקי בצורה נגישה ובעברית, ולאפשר למפרסמים להגיב לטענה נגדם (counter notice).^[30] פלטפורמה שמקבלת פנייה, תהיה מחויבת להידרש אליה בפרק זמן מוגבל על מנת לשמר את חסינותה מאחריות משפטית ביחס לתוכן. יודגש, כי בניגוד למנגנון ״הודעה והסרה״,^[31] הסרת הפרסום אינה תנאי לשמירה על החסינות. מה שנדרש הוא התייחסות עניינית ומנומקת, לרבות שימוש בכלי פיקוח מידתיים יותר מהסרה.^[32] הסיבה לכך היא שהתניית המשך החסינות בהסרת התוכן מייצרת תמריץ יתר לפגיעה בחופש הביטוי – הסרה כמעט תמיד תהיה הדבר הרציונאלי מצד הפלטפורמה כדי להגן על עצמה מאחריות.^[33] ניתן לשקול לאמץ כלים נוספים כגון יצירת מסלול דיוני מהיר לבירור החלטות הודעה ופעולה בבית המשפט או יישום כלים שנועדו להרתיע משתמשים מהגשת הודעות שווא או בחוסר תום לב.
    • (נגד) חובה כללית לניטור אקטיבי. קיימת תמימות דעים בקרב רוב המומחים כי הטלת חובה על פלטפורמות לנטר בעצמן תוכן משתמשים כדי לחפש אי חוקיות אינה רצויה.^[34] בין היתר, חובה כזו מייצרת תרבות מעקב אחר תכני משתמשים, מייצרת תמריצים למחיקת יתר של ביטוי, ניתנת לעקיפה ומניפולציה, יקרה מאוד ליישום ומטילה עול כבד על פלטפורמות קטנות, דבר שעשוי לפגוע בתחרות. כחריג, ניתן לשקול חובת ניטור ביחס לסוג מצומצם ומוגדר היטב של תכנים (דוגמת חומר מיני על קטינים או תוכן המעודד טרור) שתחול רק על הפלטפורמות הגדולות ביותר.^[35]

    • חשיפת פרטים. אחת המעלות הגדולות של רשת האינטרנט בהעצמת חופש הביטוי הוא האפשרות לביטוי אנונימי. הפלטפורמות מאפשרות, ככלל, השתתפות משתמשים בעלי שמות בדויים וקבוצות דיון בהן הדוברים נשארים אנונימיים. למרות מעלותיה, אנונימיות מהווה כר פורה לניצול לרעה ויצירת מכסה מפני אחריות בגין פעילות בלתי חוקית. במספר מדינות אומץ או נשקל הסדר המחייב, כתנאי למתן חסינות, שיתוף עם התובע של פרטי חשבון של המפרסם המזיק בכפוף לצו שיפוטי. ^[36] אנו סבורים כי ניתן לשקול אימוץ הסדר דומה בכפוף לערבויות דיוניות וכללי מידתיות.

עקרון #3. פיקוח על מנגנוני אכיפה עצמיים: הגברת המחויבות הצרכנית לאזרחי ישראל

29. פעילות פיקוח התוכן בפלטפורמות מייצרת יחסי כוח בין הפלטפורמה למשתמש: הפלטפורמה מנסחת ואוכפת כללי קהילה, והמשתמשים נדרשים לציית או להיות נתונים לסנקציות. ריכוזיות השוק לא משאירה להם ברירה אלא ״לקבל את הדין״. האסדרה צריכה להבטיח כי היחסים האלה מתקיימים בהגינות ותוך שמירה על זכויות המשתמשים בישראל.

30. במבט רחב, האסדרה צריכה לדרוש מכל פלטפורמה שרוצה לפעול בישראל להעמיד לטובת הצרכן מספר מנגנונים וכלים להבטחת זכויותיו ולשמירה על מרחב מקוון בטוח וחופשי.^[37] בין היתר, יש לשקול:

    • נציגות חוקית בישראל. פלטפורמות יידרשו למנות נציג בישראל אשר ישמש כאיש קשר לתקשורת עם הרשויות ועם משתמשים מקומיים בשפות העברית והערבית. ^[38]
    • פרסום תנאי שירות/כללי קהילה וחובת מידתיות. פלטפורמות יידרשו לפרסם בעברית ובערבית ובשפה נגישה את מדיניות התוכן שלהם. המדיניות תכלול את כללי הקהילה ואת כלי האכיפה המופעלים, ותחול חובת הגינות ומידתיות ביחס לאכיפתם. ^[39]

    • מנגנון בירור תלונות. פלטפורמות יידרשו למסד מנגנונים נגישים לבירור תלונות על צעדי אכיפה והפרת תנאי השימוש/מדיניות הקהילה. העקרון המנחה הוא כי צעדי אכיפת תנאי שימוש צריכים להיות נתונים להשגה מצד המשתמשים, וכי על הפלטפורמה לברר תלונות באובייקטיביות ובזמן סביר, ולספק הסבר מנומק על החלטתן. בשלב זה, נכון יהיה להימנע מקביעת כללים נוקשים המהווים ניהול-מיקרו של כללי השימוש בפלטפורמה בשל החשש לעכב את ההתפתחות וההתחדשות של הסדרים כאלה, תהליכים שקורים כיום ללא מעורבות רגולטורית.

חשוב לזכור כי למנגנוני בירור תלונות מפורטים יש גם מחירים. השאלה אינה כמה חובות אפשר ״להעמיס״ כדי לדאוג שבכל החלטה של הפלטפורמה זוכה המפרסם למלוא זכויותיו ההליכיות. השאלה היא כזו: אילו חובות הליכיות יאזנו בצורה הטובה ביותר בין הערכים המתחרים. יתרה מכך, יש לזכור כי מנגנוני בירור תלונות מייצרים תיקון אנקדוטלי של שגיאות. על מנת להביא לשיפור עקבי ושיטתי של מנגנוני האכיפה, יש לשקול לחייב את הפלטפורמה בבדיקה מחדש של מדגם קטן של החלטות אכיפה ללא קשר לתלונות קונקרטיות, ולפרסם את התוצאות. תהליך כזה יוכל לחשוף כשלי אכיפה בדרגים הנמוכים ולהוביל לשיפור כולל של המנגנון.^[40]

• מדווחים אמינים (trusted flaggers). השימוש במדווחים אמינים — גורמים שדיווח שלהם על תוכן לא חוקי או בניגוד לכללי הקהילה זוכה לעדיפות על ידי הפלטפורמות — הופך להיות פרקטיקה מקובלת ברחבי הרשת. למנגנונים כאלה יש ערך רב בהיותם מזרימים מידע חשוב למקבלי ההחלטות בפלטפורמות באופן שתורם לאיכות הפיקוח. יחד עם זאת, מדווחים אמינים מייצרים סיכון לאכיפה מוטית או סלקטיבית, וכאשר המדווחים הן רשויות ממשלתיות, קיים חשש לעקיפת מגבלות חוקיות או חוקתיות על ידי אכיפה דרך הפלטפורמה.[⁴¹]

מומלץ: (1) להתנות את המינוי של גורם מדווח כמדווח אמין בתנאים אובייקטיביים שאינם בשליטה או בשיקול דעת מוחלט של הפלטפורמה,^[42] (2) לדרוש חובת פרסום בכל מקרה שהחלטת אכיפה החלה בפעילות של מדווחים אמינים, (3) לחייב פרסום של רשימת מדווחים אמינים שפועלים בישראל, ו- (4) לייצר אסדרה /חקיקה הולמת לפעילותם של מדווחים אמינים מטעם הממשלה (דוגמת יחידת הסייבר של פרקליטות המדינה).

• תוכנית בטיחות שנתית. נדרש לאמץ כלים שיחשפו למאסדר ולציבור את האופן שבו פלטפורמות תופסות את תפקידן בשמירה על מרחב ביטוי מקוון בטוח בישראל ובכלים שהן מפעילות למילוי תפקידן. לשם כך, מומלץ לשקול הטלת חובת פרסום או הגשה למאסדר של תוכנית בטיחות שנתית.^[43] בתוכנית תידרש הפלטפורמה לדווח על הסיכונים שהיא צופה במהלך פעילותה בישראל במהלך השנה הבאה (לרבות התייחסות לאירועים נקודתיים כגון בחירות או מתיחויות ביטחוניות) ולפרט את הפעולות שבכוונתה לבצע בכל שדרות הפעילות שלה (החל מהעיצוב הטכנולוגי וכלה בפעילות מפקחי התוכן) כדי למזער את הסיכונים. בפרט, תוכנית הפעילות תידרש לדווח על משאבים שמופנים לטיפול בתכנים בעברית, לרבות מספר מנטרי התוכן ואופן פעילות מערכות בינה מלאכותית ביחס לתוכן בעברית.

חובה כזו משרתת מספר רציונאלים. ראשית, ניסוח תוכנית שנתית מיועד לעודד את הפלטפורמות לחשוב ולנתח את הסיכונים בישראל ולהביע התחייבות ציבורית ביחס למאמצי הפיקוח שלהן. שנית, תוכניות כאלה יספקו למאסדר מידע חיוני על אופן פעילות הפלטפורמות ואפשרות לנתח את תפקודן לאורך זמן ובין פלטפורמות. לבסוף, מנקודת מבט ריאליסטית, חובה כזו מעודדת להשקיע יותר משאבים בפיקוח תוכן בישראל (בפרט, בעברית).

עקרון #4. שקיפות אפקטיבית

31. שקיפות היא אמצעי חשוב להגברת האחריותיות של גורמים בעלי כוח, ולכן מהווה מרכיב חשוב בתמהיל הרגולטורי של כמה מהסדרי החקיקה המתגבשים המובילים בעולם בתחום אסדרת פלטפורמות תוכן מקוון.[⁴⁴] אכן, היעדר שקיפות על אופן קבלת ההחלטות בפלטפורמות הוא אחד הגורמים המרכזיים המייצרים את כשלי השוק והגירעון הדמוקרטי שנדונו לעיל. הגברת השקיפות תסייע למשתמשים להגן טוב יותר על זכויותיהם ולהבין את קבלת ההחלטות בקשר אליהם, תאפשר לרגולטורים לגבש מדיניות טובה יותר ותשרת את החברה האזרחית כולה על ידי הזרמת מידע חשוב לאקדמיה, עיתונות ובעלי עניין.^[45]

32. אך שקיפות אינה מטרה בפני עצמה. היא מייצרת עלויות ותמריצים שבעיצוב לא זהיר של החובה הרגולטורית עלולים להיות מעוותים ואף להגביר סיכונים שונים בפלטפורמות. דרישות כלליות שנפוצות בחקיקה ברחבי העולם, דוגמת דיווח על מספר החלטות הסרה, הן למעשה כלים ריקים מתוכן. לדוגמה, מה ניתן ללמוד מכך שטיקטוק הסירה עשרה מיליון סרטונים יותר ברבעון 3 2021 לעומת רבעון 2 2021?^[46] ייתכן שהפיקוח שלה השתפר, אך גם ייתכן שהנתונים משקפים גידול כללי במספר המשתמשים, או תוצאה של החמרת כללי הקהילה בפלטפורמה. האם בהכרח המדיניות של החברה השתפרה בין הרבעונים? אין לדעת. מה שברור הוא שסוג כזה של שקיפות מייצר תמריץ עקיף להגדלת כמות הסרות התוכן אבל בפועל לא מלמד אותנו כמעט דבר.
33. בנוסף, שקיפות מייצרת עלויות שמקשות במיוחד על שחקנים קטנים וחדשים ועשויה לחשוף מידע שישרת גורמים עוינים שמבקשים להערים על האלגוריתם לצרכים זדוניים.^[47]

34. לפיכך, בקביעת חובות השקיפות הרגולטוריות, חשוב להגדיר מטרות מדויקות ולעצב כללים שיגשימו אותן. מטרה אחת שראוי לחתור אליה היא קביעת סטנדרט אחיד לדיווח על פעילות אכיפה ופיקוח, באופן שיאפשר להשוות בין פלטפורמות ולייצר תמריץ לשיפור מצד המשתתפות בשוק. בנוסף, יש להבטיח שקיפות גם לפעולות שקורות מתחת לקצה הקרחון.^[48] לדוגמה, התקשרות עם חברות שעושות fact checking צריכה להיות שקופה ולפרט את הסטנדרטים ושיטות העבודה של הספקים. שימוש בכלים רכים יותר מהסרה (דוגמת labelling ו-visibility downgrade) צריך להיות מפורט ויש לדווח על רמת האפקטיביות שלו. לבסוף, ייחודה של העברית מהווה יתרון למאסדר הישראלי. יש לחייב דיווח שיטתי על היבטי אכיפה שונים ביחס לשפה העברית, לרבות שימוש בבינה מלאכותית.

עקרון #5. היקף תחולה מותאם גודל ופעילות

35. לבסוף, האסדרה צריכה להיות מותאמת לגורמים המאוסדרים בהתאם להשפעתם על מרחב הביטוי המקוון, הסיכונים הנובעים מפעילותם, ומשאביהם. ככלל אצבע, יש לייצר הבחנה לצרכי היקף החובות הרגולטוריות על בסיס שני קריטריונים מרכזיים: סוג פעילות וגודל.

36. ההבחנה ביחס לסוג הפעילות הכרחית מכיוון שלפלטפורמות שמשרתות מטרות שונות או מצויות בשכבות תשתיתיות שונות של האינטרנט יש סיכונים שונים וכלים שונים להתמודד עמם. לדוגמה, פלטפורמות לאחסון מידע ואירוח אתרים הן בעלות יכולות פיקוח ״גסות״. הן יכולות לחסום גישה לאתרים ולמנוע שירות לדפים, אך אין להן את כלי האכיפה המידתיים יותר שקיימים ברשתות חברתיות. יש היגיון ברור לייחד יותר רגולציה ופיקוח על פלטפורמות שיש להן כלי אכיפה מדויקים יותר (targeted enforcement) אשר יובילו לפחות צנזורה.
37. הבחנה ביחס לגודל מיועדת למנוע מצב שבו נטל רגולטורי שווה מוטל על שחקנים גדולים וקטנים באופן שמונע כניסה לשוק של שחקנים חדשים ותחרות הוגנת.

38. אנו סבורים כי המודל המתגבש ב-Digital Services Act האירופאי יכול לשמש מודל ראוי לחיקוי. החקיקה מייצרת ארבע קטגוריות של פלטפורמות בהתבסס על סוג השירות הניתן וגודל (האסדרה חלה במלואה רק על פלטפורמות מקוונות גדולות במיוחד – very large online platforms – VLOP), ומתאימה לכל קטגוריה חבילה שונה של חובות רגולטוריות.^[49]

תרשים 3. קטגוריות לתחולת ה-Digital Services Act.

סיכום ומסקנות

39. בנייר זה ביקשנו להאיר מספר סוגיות חשובות בגיבוש תכליות האסדרה של שוק הפלטפורמות המקוונות והחלופות השונות בעיצובה. כאמור בפתח הדברים, במסגרת המגבלות כאן לא התייחסנו לסוגיות רבות נוספות שמחכות במורד הדרך, וביניהן חובות דיווח והעברת מידע לרשויות בשל פעילות בלתי חוקית, מסחר ופרסום בפלטפורמות מקוונות, יצירת חובות auditing חיצוניות, קידום אוריינות דיגיטלית, היחס בין פעילות אכיפה אנושית ומבוססת בינה מלאכותית ועוד. כמו כן, לא התייחסנו לשאלת הצורך ביצירת גוף מאסדר חדש ליישום הרגולציה ולסנקציות הראויות בגין הפרתה.

40. המשימה שעומדת לפניכם היא חשובה ומורכבת. עידן הפלטפורמות מייצר במקביל הזדמנויות נפלאות לכלכלה ולחברה האזרחית וסיכונים בטיחותיים, חברתיים וביטחוניים חמורים. שנים ארוכות העידן הזה התפתח ללא נוכחות המדינה והצמיח עשבים שוטים שיצרו וממשיכים ליצור קרבנות בכל יום – בני נוער שמהווים יעד לבריונות, אנשים שפרטיותם וכבודם נרמסים בכיכר העיר הוירטואלית, וקרבנות טרור.

האתגר אינו מקומי אלא גלובלי. אנו מאמינים כי יש למדינת ישראל הכלים והאמצעים לפתח מתווה רגולטורי שיוכל לשמש מודל לכל העולם הנאור ליצירת אחריותיות בקרב הפלטפורמות תוך שמירה על חופש הביטוי והדינאמיות והחדשנות שמניעים את הכלכלה הדיגיטלית קדימה.

נשמח להרחיב בכל עניין הנוגע לקול הקורא ולנייר עמדה זה, וכן להציג את עמדתנו בעל-פה בפניכם. אנו עומדים לרשותכם בכל שאלה או עניין.

הערות שוליים

[1] ראו למשל, ניבה אלקין קורן, המתווכים החדשים בכיכר השוק הוירטואלית, משפט וממשל ו׳ 381 (תשס״ג, 2003); Jack M. Balkin, Free Speech is a Triangle, 118 Colum. L. Rev.2011 (2018); Kate Klonick, The New Governors: The People, Rules, and Processes Governing Online Speech, 131 Harv. L. Rev. 1598 (2018); Tarleton Gillespie, Custodians of the Internet: Platforms, Content Moderation, and the Hidden Decisions that Shape Social Media (2018).

[2]  ראו David Kaye, Report of the Special Rapporteur on the Promotion and Protection of the Right to Freedom of Opinion and Expression, No. A/HRC/38/35, 13 (Jun. 2018); Dafna Dror-Shpoliansky & Yuval Shany, It’s the End of the (Offline) World as We Know It: From Human Rights to Digital Human Rights – A Proposed Typology, EJIL (Forthcoming, 2021).

[3] ראו 47 U.S.C. § 230.

[4] ראו EU Council Directive 2000/31, art. 14, 2000 O.J. (L 178) (EC).

[5] ראו למשל ת״צ (מחוזי ת"א) 41239-04-18 שטיינקריצר נ' WHATSAPP.LTD (נבו 14.10.2020). חשוב להדגיש כי לאור העדר הכוונה חקיקתית, קיימת אי אחידות בפסיקה ביחס למשטר האחריות על פלטפורמות מקוונות. כך למשל, בעוד חלק מפסקי הדין מדגישים רציונאליים של הדין האמריקאי (לדוג׳, ת"א (שלום ת"א) 37692/03 סודרי נ' שטרליד (נבו 1.8.2005)), אחרים יישמו בדרגות שונות של קפדנות מנגנונים שאומצו באירופה של חובת הודעה והסרה (ע"א (מחוזי ת"א) 144711-11-14 סביר נ' עו"ד בר נוי (נבו 22.6.2015)). אי האחידות בפסיקה והיעדר היכולת המוסדית של שופטים לעצב מדיניות שאינה נגזרת ממאפייניו של המקרה הבודד המופיע בפניהם מהווה כשלעצמה הצדקה ליצירת רגולציה מקיפה.

[6] ראו למשל Tristan Harris, Algorithms and Amplification: How Social Media Platforms’ Design Choices Shape Our Discourse and Our Minds, Hearing before Senate Comm. on the Judiciary, Subcomm. on Privacy, Technology, and the Law (Apr. 27, 2021) https://www.judiciary.senate.gov/meetings/algorithms-and-amplification-how-social-media-platforms-design-choices-shape-our-discourse-and-our-minds.

[7] ראו Jack M. Balkin, How to Regulate (and not Regulate) Social Media, Knight First Amendment Inst. Colum. U., at 12 (2020) (“The result is that markets—even perfectly func­tioning competitive markets—will overproduce the harms of free expression and under-produce the goods of free expression”).

[8] ראו למשל, Top 5 Global Startup Hubs: Industrial Internet Of Things, StartUS Insight Research Blog (accessed, Mar. 13, 2022) https://www.startus-insights.com/innovators-guide/top-5-global-startup-hubs-industrial-internet-of-things-iiot/.

[9] ראו למשל, Rishi Iyengar, Facebook has language blind spots around the world that allow hate speech to flourish, CNN (Oct. 26, 2021) https://edition.cnn.com/2021/10/26/tech/facebook-papers-language-hate-speech-international/index.html.

[10] נקודת המוצא של הדיון בנייר זה היא כי אסדרת פיקוח תוכן בפלטפורמות מיועדת להביא איזון ראוי בין ההגנה על חופש הביטוי, מניעת נזק חברתי מפרסומים מזיקים ופעילות אכיפה שרירותית, והגנה על חדשנות ויוזמה חופשית. ככלל, ליבת האסדרה הזו לא מיועדת לעסוק בהגנה על הפרטיות ובסוגיות של הגבלים עסקיים, נושאים אשר יש לייחד לטיפול בהם מסגרות רגולטוריות אחרות. ראו למשל, Daphne Keller, For platform regulation Congress should use a European cheat sheet, The Hill (Jan. 15, 2021) https://thehill.com/opinion/technology/534411-for-platform-regulation-congress-should-use-a-european-cheat-sheet?rl=1/.

[11] הנה, למשל, ארבעה איזונים שמתבצעים בצורה שגרתית בתהליכי פיקוח תוכן:

• מהירות – דיוק: מאוד היינו רוצים לזהות מהר ככל האפשר תכנים מזיקים כדי למנוע הפצה ויראלית שלהם; גם מאוד חשוב לנו שהפלטפורמות יזהו נכון תכנים מזיקים ולא יצנזרו פרסומים שיש ערך בהפצתם, אפילו אם הם מעוררי מחלוקת. בפיקוח תוכן, מהירות ודיוק באים במקרים רבים זה על חשבון זה.
• אכיפת יתר – אכיפת חסר: פיקוח תוכן תמיד יכלול טעויות, ופלטפורמות שמבצעות ניטור ופיקוח צריכות לבחור האם להגביר אכיפה תוך הסתכנות בצנזורת יתר או האם לנקוט גישה מתירנית יותר שתמקסם את חופש הביטוי אך תסתכן בפרסום יתר של תוכן מזיק.
• הליך נאות – אכיפה אפקטיבית: בעולם אידיאלי, כל החלטה להפעיל אכיפה נגד משתמש בפלטפורמה תכלול הענקה של זכויות דיוניות: הודעה מנומקת, מתן זכות טיעון, בחינת הטיעון על ידי גורם אובייקטיבי, זכות ערעור וכו׳. במציאות, יותר הקפדה על זכויות הליכיות פירושה אכיפה איטית יותר ועל היקף קטן יותר של תכנים.
• שקיפות – בטיחות: שקיפות של מערכות הפיקוח וקבלת ההחלטות בפלטפורמות היא ערך חשוב, אך יש לזכור כי שקיפות רבה מדי מסייעת לגורמים עוינים להבין כיצד לתמרן את המערכת ולנצל אותה לרעה. לפיכך, גם ביחס לשקיפות, אופטימיזציה אינה בהכרח מקסום אלא תוצאה של איזון ערכים.

[12]  ראו באופן כללי, Neil K. Komesar, Imperfect Alternatives: Choosing Institutions in Law, Economics, and Public Policy (1994).

[13] על המגוון הרחב והמידתי של כלי אכיפה שמופעלים בפלטפורמות תוכן מקוונות ראו Eric Goldman, Content Moderation Remedies, 28 Mich. Tech. L. Rev. 1 (2021).

[14] ראו https://blog.youtube/press/ (ביקור אחרון: 25 בפברואר, 2022).

[15] נתונים אלה נמסרו על ידי דרק סלייטר, מנהל גלובאלי של מחלקת מדיניות מידע, ממשל ומדיניות ציבורית בגוגל, בשימוע שנערך בפני הועדה להתאמת המשפט לאתגרי החדשנות והאצת הטכנולוגיה (ועדת דוידי) (16.2.22). זמין ב- https://www.facebook.com/Ministry.of.Justice.IL/videos/925906138124306/.

[16] ראו Evelyn Douek, Content Moderation as Administration (Jan. 10, 2022), at 23* forthcoming, Harv. L.  Rev. Vol. 136, Available at SSRN: https://ssrn.com/abstract=4005326 .

[17] הצעת חוק בעלת הסדר דומה הוצגה בארה״ב וזכתה לביקורת מטעמים דומים. Platform Accountability and Consumer Transparency Act, S.4066, 116th Cong. § 5(2) (2020) (להלן: PACT ACT). לביקורת ראו לדוגמה, Daphne Keller, CDA 230 Reform Grows Up: The PACT Act has Problems, but It’s Talking about the Right Things, CSR Blog (Jul. 16, 2020) http://cyberlaw.stanford.edu/blog/2020/07/cda-230-reform-grows-pact-act-has-problems-it%E2%80%99s-talking-about-right-things

[18] לשם הזהירות, נדגיש כי עמדה זו נכונה בשלב הזה אך ייתכן שתשתנה בעתיד. אפשר ועם הגברת חובות השקיפות של הפלטפורמות, בעתיד יזרום יותר מידע שיאפשר פיקוח רגולטורי צמוד יותר הכולל כללים סובסטנטיביים.

[19] ראו Proposal for a Regulation of the European Parliament and of the Council on a Single Market For Digital Services (Digital Services Act) and amending Directive 2000/31/EC, COM(2020) 825 final (Dec. 15, 2020) (להלן: DSA) (האיחוד האירופאי). למודלים נוספים שמשקפים עמדה דומה ושאבנו מהם השראה ראו PACT ACT, לעיל ה״ש 8 (ארה״ב) ו- Online Safety Bill, CP 405 (2021) (בריטניה).

[20] מודל נוסף שמקודם כיום בארה״ב הוא מעין הכלאה בין המודל הנזיקי לרגולטורי. לפי המודל, שמוצע על ידי פרופ׳ דניאל סיטרון, תנאי לחסינות של פלטפורמות מאחריות תחת ס׳ 230 הוא כי הם נקטו במאמצים סבירים למזעור הסיכונים בפלטפורמה. החיסרון במודל זה הוא כי הוא מטיל אחריות רבה על בתי המשפט לפרש ולפתח את הסטנדרט של מהי סבירות בטיפול באיומים השונים. זוהי משימה שלרגולטור מדינתי יש יותר משאבים לבצע מאשר לשופטים ולכן לדעתנו הוא אינו מיטבי. ראו Danielle Keats Citron, How to Fix Section 230, U. Virginia Public Law and Legal Theory Research Paper Series 2022-18 (March, 2022).

[21] ראו למשל, מכתב שנשלח לקונגרס האמריקאי מפי אקדמאים ומומחים בתחומי הרלוונטיים: Liability for User-Generated Content Online Principles for Lawmakers (Jul. 11, 2019) (“Section 230 ensures that Internet services can carry out this socially beneficial but error-prone work without exposing themselves to increased liability; penalizing them for imperfect content moderation or second-guessing their decision-making will only discourage them from trying in the first place”).

[22] לכותבים שהביעו תמיכה במודל רגולטורי ראו, בין היתר, Tarleton Gillespie, Platforms are not Intermediaries, 2 Geo. L. Tech. Rev. 198, 213 (2018) (“The gift of safe harbor could finally be paired with public obligations—not external standards for what to remove, but parameters for how moderation should be conducted”); Douek, לעיל ה״ש 12; Jack M. Balkin, The Future of Free Expression in a Digital Age, 36 Pepperdine L. Rev. 427, 441 (2009). הכללים המומלצים בנייר זה משקפים גם רעיונות, בשינויים המתאימים שאומצו תחת עקרונות סנטה קלרה (The Santa Clara Principles On Transparency and Accountability in Content Moderation) ועקרונות מנילה (Manila Principles on Intermediary Liability).

[23] לסקירה עדכנית של חקיקה השוואתית ראו Ashley Johnson & Daniel Castro, How Other Countries Have Dealt With Intermediary Liability, ITIF (Feb. 2021). לדוגמאות להצעות חקיקה עכשוויות שנוקטות בגישה הזו ראו למשל, Social Media (Anti-Trolling) Bill 2022 (אוסטרליה); Information Technology Rules 2021 (הודו).

[24] חוקרים מצאו כי תופעה זו נובעת מאנלוגיה בה רגולטורים רבים נוטים לחשוב על הליכי הפיקוח בפלטפורמות במושגים שמוכרים מאופן פעולתם של מחוקקים ובתי משפט. כך, נוצרת תמונה של אוכפי מדיניות תוכן (content moderators) הפועלים בדומה לשופט שמפרש את החוק (באנלוגיה זו, כללי הקהילה או תנאי השימוש) ביחס לפרסומים שסומנו כבעייתיים. לפי תמונה זו, תפקיד המדינה הוא לוודא שהליכים אלה מתנהלים בצורה נאותה, לסייע בתיקון התוצאה במקרים של ״פסיקה״ לא נכונה, ולהטיל סנקציות על הפלטפורמות כשהן לא פועלות כראוי. ראו, Douek, לעיל ה״ש 16, בעמ׳ *22-9.

[25] ראו Monika Bickert, Defining the Boundaries of Free Speech on Social Media, in The Free Speech Century, 257 (Lee C. Bollinger & Geoffrey R. Stone eds., 2018.

[26] ראו למשל, להלן סעיפים 28.4, 28.5, 30.3, 30.4, 30.5 ו-34.

[27] לדין החל בישראל והיקף תחולת החריגים לכלל איסור המניעה המוקדמת ראו אריאל בנדור ומיכל טמיר חופש הביטוי בתקשורת המקוונת: בחינה מחדש של תורת המניעה המוקדמת, משפט ועסקים כ״ו תשפ״ב (צפוי להתפרסם בשנת 2022).

[28] השוו DSA, לעיל ה״ש 19, ס׳ 8; PACT, לעיל ה״ש 17, ס׳ 2. הסדרים דומים מקובלים במדינות נוספות בעולם. ראו למשל Federal Law no. 12.965 ס׳ 19 (ברזיל).

[29] ראו, בג"ץ 7846/19 עדאללה נ׳ פרקליטות המדינה – יחידת הסייבר, פס׳ 7-4 (נבו, 12.4.2021)

[30] השוו, DSA, לעיל ה״ש 19, ס׳ 14; PACT, לעיל ה״ש 17, ס׳ 6(a).

[31] מנגנון זה אומץ בפסיקה בישראל בהקשרים שונים. ראו למשל, עניין סביר, לעיל ה״ש 5.

[32] ניתן לשקול לייצר חריג להענקת החסינות בנסיבות של דחיית הבקשה, אם מצא בית המשפט שהתוכן הנדון היה בלתי חוקי בצורה ברורה ומובהקת (manifestly unlawful). השוו, ס׳ 3 ל- Network Enforcement Act (Netzdurchsetzunggesetz, NetzD) (2017) (גרמניה, להלן: NetzD).

[33] התופעה של הסרת יתר של תוכן תחת משטר של הודעה והסרה תועדה והוכחה אמפירית על ידי חוקרים במדינות שונות, כולל בישראל. לסקירת הספרות המחקרית ראו Daphne Keller, Empirical Evidence of “over-removal” by Internet Companies under Intermediary Liability Laws, CIS Blog (last updated, May 8, 2020) http://cyberlaw.stanford.edu/blog/2015/10/empirical-evidence-over-removal-internet-companies-under-intermediary-liability-laws.

[34] ראו למשל DSA, לעיל ה״ש 19, ס׳ 7. ראו עוד Joris van Hoboken & Daphne Keller, Design Principles for Intermediary Liability Laws, Transatlantic Working Grp. at 4 (Oct. 8, 2019).

[35] לקריאות התומכות ביישום כלים טכנולוגיים לאיתור אקטיבי של תכני טרור ראו למשל, Presidency Conclusions, Brussels European Council ¶ 2 (June 23, 2017), https://www.consilium.europa.eu/media/23985/22-23-euco-final-conclusions.pdf; G7 Taormina Statement on the Fight Against Terrorism and Violent Extremism, ¶ 5 (May 26, 2017) http://www.g7.utoronto.ca/summit/2017taormina/G7-Taormina-Statement-on-the-Fight-Against-Terrorism-and-Violent-Extremism.pdf.  כן ראו את הצעת החקיקה האירופאית למניעת הפצה של תוכן טרוריסטי ברשת, Proposal for a Regulation of the European Parliament and of the Council on Preventing the Dissemination of Terrorist Content Online, COM (2018) 640 final, Art. 6 (Sept. 12,2018).

[36] ראו למשל בגרמניה, NetzD, לעיל ה״ש 32, ס׳ 6 ; באוסטרליה, Social Media (Anti-Trolling) Bill 2022, Art. 16(2)(d) (No. __, 2022); וביפן, Act on the Limitation of Liability for Damages of Specified Telecommunications Service Providers and the Right to Demand Disclosure of Identification Information of the Senders, Art. 4 (Act No. 137 of November 30, 2001).

[37] ה-DSA כולל שורה ארוכה של הסדרים פרוצדורליים וערבויות להגנה על זכויות צרכנים. נייר זה יכלול התייחסות מוגבלת למספר עקרונות מרכזיים. ראו DSA, לעיל ה״ש 19, ס׳ 21-16.

[38] השוו, DSA, לעיל ה״ש 19, ס׳ 11-10; Social Media (Anti-Trolling) Bill 2022, Art. 21-22 (No. __, 2022) (Au.).

[39] השוו DSA, לעיל ה״ש 19, ס׳ 12.

[40] ראו Douek, לעיל ה״ש 16, בעמ׳ 78.

[41] ראו למשל, Daphne Keller, Who Do You Sue? State and Platform Hybrid Power over Online Speech. Aegis Series Paper No. 1902, Hoover Institution (2019); Malcolm J, Stoltz M, Shadow Regulation: the Back-Room Threat to Digital Rights (2016) Electronic Frontier Foundation Sep. 29 https://www.eff.org/deeplinks/2016/09/shadow-regulation-back-room-threat-digital-rights; Rabea Eghbariah & Amre Metwally, Informal Governance: Internet Referral Units and the Rise of State Interpretation of Terms of Service, 23 Yale J. L. Tech. 542 2021).

[42] השוו DSA, לעיל ה״ש 19, ס׳ 19(2).

[43] השוו DSA, לעיל ה״ש 19, ס׳ 27-26; Online Safety Bill, לעיל ה״ש 19, ס׳ 7.

[44] ראו למשל, DSA, לעיל ה״ש 19, ס׳ 13, 24-23; PACT, לעיל ה״ש 17, ס׳ 4(3)-5;

[45] ראו למשל, Nicolas P. Suzor et. al, What Do We Mean When We Talk About Transparency? Towards Meaningful Transparency in Commercial Content Moderation, 13 Int’l J. of Comm. 1526, 1529-30 (2019).

[46] ראו TikTok, Community Guidelines Enforcement Report (Feb. 8, 2022) https://www.tiktok.com/transparency/en-us/community-guidelines-enforcement-2021-3/.

[47] ראו למשל Google, How Google Fights Disinformation 3 (Feb. 2019) https://www.blog.google/documents/37/How_Google_Fights_Disinformation.pdf/ (“we try to be clear and predictable in our efforts, letting users and content creators decide for themselves whether we are operating fairly. Of course, this is a delicate balance, as sharing too much of the granular details of how our algorithms and processes work would make it easier for bad actors to exploit them”).

[48] ראו Douek, לעיל ה״ש 16, בעמ׳ 68.

[49] לניתוח ראו בהערכת ההשפעה (Impact Assessment) של ה- EU Commission על ה- DSA. ראו Impact assessment of the Digital Services Act (Dec. 15, 2020) at 73. https://digital-strategy.ec.europa.eu/en/library/impact-assessment-digital-services-act.