מאת ד"ר טל מימרן ועו"ד עדן פרבר
התייחסות מכון תכלית: התמודדות הרשויות וחברות הטכנולוגיה עם שיח פוגעני והסתה ברשת | דצמבר 2024
לקריאת חוות הדעת המלאה >>>
6 בדצמבר 2024
ה' כסלו התשפ"ה
הרשתות החברתיות הפכו ל״כיכר השוק" החדשה בה לכל אדם יש אפשרות להפוך לבר שיח, 1 אך לצד חיזוק חופש הביטוי של הפרט, תופעה זו יצרה זירה של ביטוי אלים, פוגעני ומסית. מדינת ישראל מודעת לאתגר, וישנו ניסיון להתמודד עם התופעה. ועדיין, ישנם צעדים נוספים הנדרשים על מנת שמדינת ישראל תחיל את ריבונותה כנדרש ממנה גם במרחב המקוון, ותוודא כי לא ייעשה ניצול לרעה של האינטרנט, ובפרט של רשתות חברתיות, על מנת לזרוע פחד ולהגביר קיטוב ברמה החברתית, או באופן אשר מוביל לפגיעה בחירויות הפרט. כמובן, גם חברות הטכנולוגיה צריכות לפעול בצורה משמעותית יותר על מנת להתמודד עם התופעה המדאיגה, אשר מעמיקה ומחריפה בעיות חברתיות וחוסר שוויון. במסמך זה, נבקש להציע כלים ומנגנונים מותאמים להתמודדות עם התופעה של שיח פוגעני והסתה ברשתות חברתיות.
תמצית המלצותינו
א. בעיית ההסתה והשיח הפוגעני היא מרכיב מתוך בעיה יסודית ורחבה יותר בפעילות רשתות חברתיות, לה יש השלכות חברתיות רחבות על רווחתם, ביטחונם, ובריאותם של אזרחי ישראל. משכך, היא דורשת פתרון רגולטורי מקיף הכולל אלמנטים של אסדרה, אכיפה, ורתימת המגזר הפרטי והאזרחי לפעילות משולבת. לשם המיקוד, בדיון זה נעסוק בכלים הקיימים כיום בידי המדינה כדי לצמצם במעט את הבעיות הללו, ובראשם בפעילותה של מחלקת הסייבר בפרקליטות המדינה.
ב. בפרט, בכדי להתמודד עם שיח פוגעני והסתה ברשת, אנו ממליצים על אסדרה בחקיקה של פעילות מחלקת הסייבר, באופן שייצר שלושה מנגנוני בקרה על הפעלת סמכותה:
זכות יידוע לפרט, כאשר מבוצעת נגדו פעילות אכיפה שתחילתה ביוזמה של מחלקת הסייבר
ובכפוף לחריגים ביטחוניים שיוגדרו בחוק.
הגדרת קטגוריות תוכן מזיק שעל פיהן מוסמכת המחלקה לפנות לפלטפורמות המקוונות בבקשות
לפעילות אכיפה.
חובת דיווח עיתית לכנסת, שתאפשר בקרה מתמשכת באמצעות פיקוח פרלמנטרי. במסגרת זו
תחול גם חובת פרסום נתונים מפולחים לציבור אודות פעילות המחלקה.
א. תופעת הביטוי הפוגעני ברשת
הבמה הפתוחה אשר הרשתות החברתיות מאפשרת היא דבר חיובי ביסודה, במובן שהיא מחזקת את חופש
הביטוי, מאפשרת תקשורת בין אנשים ללא קשר למיקומם הפיזי, ובנוסף היא מעצימה עסקים קטנים ומצמצמת פערים חברתיים במובן של גישה לידע.
במבט רחב, מחד, רשתות חברתיות מרחיבות את שוק הדעות ומעצימות את אלו שאין להם פלטפורמה או קול בשגרה . יחד עם זאת, כללי המשחק במרחב זה אינם מוסדרים, ומכאן הרשתות הופכות גם לבמה לניצול, פגיעה, הסתה, ואלימות. כמובן, יש סיבות נוספות לניצול לרעה של רשתות חברתיות, למשל לאור המבנה הארכיטקטוני של האינטרנט, המאפשר לאדם להסתתר מאחורי אמירותיו ברמה מסוימת של אנונימיות בקלות יחסית .
מעבר לביטויים פוגעניים או גילויים של אלימות מקוונת, ישנו חשש כי המרחב המקוון ובפרט זירת הרשתות
החברתיות ינוצלו על מנת לקדם הסתה של ממש, כלומר תמיכה ועידוד אלימות או קריאה לפעול בעולם הפיזי באופן אלים. המחשה לכך קיבלנו לאחר הבחירות בשנת 2020 בארצות הברית, ובפרט עם אירוע ההסתערות על הקפיטול ב- 6 בינואר 2021 אשר תוכנן ברובו ברשתות חברתיות. דוגמה נוספת ניתן לראות בתפקיד שמילא פייסבוק במהלך רצח העם נגד מיעוט הרוהינגיה במיאנמר, בשנת 2017.
במדינת ישראל, כמו במדינות אחרות מסביב לעולם, 3 המדיה החברתית מתאפיינת באלימות מילולית. איגוד האינטרנט הישראלי מצא כי 64% מכל המשתמשים באינטרנט דיווחו כי הביטוי האלים השכיח ביותר שחוו במרחב המקוון הוא תגובות מעליבות או משפילות, ואחריו הסתה לאלימות ) 44% ( והפצת מדיה אישית כמו תמונות או סרטונים מביכים ללא הסכמה ) 43% .) 5 מוקד 105 , מוקד ההגנה על בטיחות ילדים ברשת במשרד לביטחון לאומי, פרסם כי ב- 5 שנים הראשונות בהן הופעל, נפתחו כ- 50,500 אירועים. 6 מתוכם, 8,100 נפתחו בשנת 2023 בלבד.
יודגש כי 33% מן האירועים שמוקד 105 מטפל בהם הם עבירות מין בקטינים. 7 ניכרת גם עלייה בביטוי המסית, מאז מתקפת השבעה באוקטובר, נושא אשר מעסיק את גורמי אכיפת החוק ובתי המשפט בשנה האחרונה.
דוגמה נוספת היא תופעת ניצול הרשתות החברתיות לקידום "מבצעי השפעה". מבצעי השפעה מהווים פעולות מכוונות ונסתרות אשר מטרתן לעורר שינוי התנהגותי או תפיסתי בקרב חברות ופרטים, פעמים רבות בכדי לקדם אינטרסים גאו-פוליטיים, דוגמת התערבות בבחירות או קמפיין בעד או נגד מלחמה. 9 מבצעי השפעה, הכוללים בין היתר הצפה של מידע כוזב או חשבונות מזויפים המקדמים רעיונות מסוימים, מחפשים לנצל חולשה של פרטים, וסדקים ברמה החברתית והרגולטורית, בכדי לייצר בלבול בקרב האוכלוסייה, להעמיס מבחינה רגשית, ולפגוע בעמידות החברתית בפני אתגרים מרובים ותכופים.
ב. הטיה מבנית ברשת
על פניו, העולם הדיגיטלי נראה כמקום המכיל כל אחד והמחזיק מגוון דעות וייצוג נרחב. אולם, גישה למרחב
הדיגיטלי מוגבלת על ידי חסמים גיאוגרפיים )התגוררות באזור נעדר תשתיות מספקות(, כלכליים )בשל עלויות חיבור גבוהות( וחברתיים, תרבותיים או פוליטיים )בשל השתייכות לקבוצה שנמנעת משימוש באינטרנט או התגוררות תחת משטר המגביל את משאב האינטרנט(. 10 חסמים אלו מרכיבים ביחד את מה שמכונה בספרות "הפער הדיגיטלי", כלומר הפער בין מי שמחובר לאינטרנט ומי שאין לו גישה בכלל או גישה משמעותית שמאפשרת לו ליהנות מכל מה שיש למרחב המקוון להציע. בישראל, על פי דו"ח מרכז המידע והמחקר של הכנסת, פערי השימוש באינטרנט קשורים בעיקר למאפיינים כגון השכלה, הכנסה, גיל, דת ולאום.
לפער הדיגיטלי השלכות רבות וקשות. בין היתר, מפאת גישה בלתי אחידה למרחב המקוון, הן השימוש בו והן
עיצובו, נוצרת הטיה מבנית, כאשר דפוס מרכזי בו הינו הטיה אלגוריתמית. 12 לרוב, השורש של הטיה אלגוריתמית הוא ייצוג יתר של אוכלוסיות לעומת תת-ייצוג של אחרות )תופעה הנקראת exnomination .) 13
במדיה החברתית בפרט, יש שתי תופעות עיקריות המבטאות את ההטיה האלגוריתמית: בועת הסינון ותא ההד. "בועת הסינון" נוצרת בשל אלגוריתם אשר מסנן סוגי מידע, 14 לפי ההיסטוריה האישית של הפרט, מגמות שהמחשב מזהה או שיקולים אחרים במטרה ליצור תוצאות מכוונות-אישית. זאת, במקום לחשוף את המשתמש לכלל המידע שיכול להעלות ולאפשר לו לבחור עם מה להיות בממשק. באופן טבעי, בעת ההחלטה המכנית לסנן פריטי מידע מסוימים או להפיץ פריטי מידע אחרים באופן נרחב יותר, חסרה למשתמש היכולת להבחין בהקשר של המידע או לשלוט בסוגי המידע אליהם הוא נחשף. לצד זה, נוצרת אפקט של "תא הד" אשר מגביר את תחושת השייכות לקבוצה מסוימת אך בד בבד מצמצם את מגוון האפשרויות חשיבה או ההשתייכות האחרות שעומדות בפני הפרט )כתוצאה מצמצום הגיוון בשוק הדעות(.
הספרות מצביעה על מספר סיכונים מרכזיים הנלווים לתופעות אלו, 15 בהם פגיעה במרקם הדמוקרטי כתוצאה מסינון יתר של דעות השונות מעמדת המשתמש, פגיעה באוטונומיה לאור השליטה בסוג החומרים אליו אדם נחשף וחשש מ"מיון חברתי" ) social sorting (, כלומר מצב בו נושאים אשר מקבלים פחות תשומת לב ציבורית יורדים בנראות שלהם באופן שיטתי, דבר אשר יכול להעצים חוסר סובלנות ולפגוע באוכלוסיות מוחלשות.
ג. מצב הפיקוח ברשת
כיום, אין בדין הישראלי חקיקה ראשית המסדירה את סמכות המדינה לפעול ביחס לביטויים פוגעניים, ובלתי
חוקיים, ברשתות חברתיות. כמו כן, לא ניתן למצוא הוראות חוק כלליות אשר פורשו כמעניקות סמכות לגורם שיפוטי להורות על הסרה של פרסום פוגעני העולה לכדי עבירת ביטוי.
בתור מנגנון חלופי לאכיפה פלילית קלאסית, בשנת 2015 הוקמה מחלקת הסייבר בפרקליטות המדינה )להלן:
״מחלקת הסייבר״(. מאז הקמתה, פעילותיה לא הוסדרו בדין, וזאת, למרות שמדינות אחרות כמו בריטניה
ואוסטרליה אשר הקימו יחידות דומות אשר סמכותן נקבעה בחקיקה ראשית. למעשה, רק לאחר שהוגשה עתירה ביחס לפעילות המחלקה פורסם לראשונה נוהל עבודה של המחלקה )להלן: "עניין עדאלה"(.
מחלקת הסייבר פועלת בשלושה תחומים: הראשון, המחלקה מהווה את גורם המטה המוסמך בפרקליטות המדינה ביחס לתחום הסייבר ואיסוף מידע אלקטרוני, אשר מלווה ומנחה את הפרקליטים ואת רשויות האכיפה ביחס לתחומים אלו; השני, המחלקה מטפלת בעצמה בתיקים פליליים מסוימים ביחס לעבירות המתבצעות במחשב או באמצעותו; השלישי מבצעת המחלקה מהלכי אכיפה "אלטרנטיביים" במרחב הסייבר ובפרט ברשתות חברתיות. 21 מנגנון האכיפה האלטרנטיבי מהווה מנגנון חלופי לפיו המחלקה מנטרת ומבקשת מפלטפורמות להסיר תוכן אשר מהווה בעיניה פוגעני, גם אם הוא לא עולה לכדי עמידה ברף הפלילי.
להלן נפרט את הקשיים הנובעים מן המצב כפי שהוא כיום.
ג. פגיעה בעיקרון הפרדת רשויות
אי קיומה של הסמכה מפורשת בחוק מובילה, הלכה למעשה, לפגיעה בעקרון הפרדת הרשויות, אדן יסוד של
המבנה השלטוני במדינה הדמוקרטית. בעניין עדאלה, ציין בית המשפט העליון כי שעה שמחלקת הסייבר
מפעילה את סמכויותיה במסגרת מסלול האכיפה הוולונטרי, היא מבצעת אקט שלטוני, בתור רשות מנהלית
האמונה על האכיפה ברשת. בצד זאת, משעה שהמחלקה מפעילה את סמכויות האכיפה שלה –זו מפעילה גם שיקול דעת אשר מגלם בתוכו קביעה שיפוטית. 25 כלומר: כאשר הרשות מחליטה האם יש לבקש את הסרת התוכן או לאו, היא עורכת איזון בין מגוון שיקולים הקשורים בחופש הביטוי והגבלתו, וכן אינטרסים ציבוריים וערכיים שיש לשקול בעת הבחירה בין השניים. 26 מעבר לכך, המחלקה פועלת לפי תנאי השימוש של הפלטפורמות, אשר אינם עומדים בהכרח בסטנדרט הבחינה החוקתי אשר מתחייב לבחינת חוקיות פעילות שלטונית, 27 ומכאן הצורך להתאים את שיקולי המחלקה לתנאי השימוש עלול להוביל לעיוות ביחס למאזן השיקולים בעת אכיפה, באופן שעשוי להוביל להעדפת שיקולים המתיישבים עם השיקולים של הפלטפורמות, על פני חירויות הפרט.
ג. 2 חובת הנמקה וזכות שימוע
מחלקת הסייבר, בתור רשות מנהלית, 28 כפופה לכללי המנהל התקין. אולם, נוהל המחלקה לא דורש ממנה להציג הנמקה לאזרח ביחס להחלטותיה, 29 מה שמפר את חובת ההנמקה ביחס להחלטות שלטוניות. ולמעשה יכול להיות מצב בו פוסט מורד או חשבון נחסם בשל בקשה של מחלקת הסייבר מבלי שאדם יידע על המקור להחלטה )אלא, מנקודת מבטו הוא יבין שמדובר בהחלטה של הרשת החברתית עצמה(. חובת ההנמקה מהווה את אחת האבני היסוד של מערכת היחסים הראויה והתקינה בין האזרח לבין הרשות, שכן זו מסייעת במניעת תחושת שרירותיות ביחס להחלטות שלטוניות. 30 מעבר לכך, בהיעדרה של הנמקה מופרת ממילא גם זכות הטיעון המוקנית לכל אדם אשר עשוי להיפגע מפעולה מנהלית.
ג. 3 חוסר שקיפות
היעדר חקיקה המגדירה את תחומי הפעילות של המחלקה פוגעת בשקיפות ביחס לאופן פעילותה. שקיפות היא אמצעי חשוב להגברת האחריותיות של גורמים בעלי כוח, ולפיכך מהווה מרכיב חשוב בתמהיל הרגולטורי של כמה מהסדרי החקיקה המתגבשים המובילים בעולם ביחס למרחב המקוון. 31 הגברת השקיפות תסייע למשתמשים להגן טוב יותר על זכויותיהם ולהבין את קבלת ההחלטות בקשר אליהם, כפי שהוכר למשל על ידי ועדת הנדל.
ג. 4 פגיעה בחופש הביטוי
חופש הביטוי מהווה חירות מרכזית בכל משטר דמוקרטי, 33 ובישראל גם כן. 34 בהתאם, הכיר בית המשפט העליון כי לחופש ביטוי ״מקום של כבוד בהיכל זכויות היסוד של הדמוקרטיה״. 35 בצד זאת, ברור כי חופש הביטוי לא מהווה זכות מוחלטת אלא ניתן להגביל אותו בשם תכליות ראויות אחרות. 36 בבואנו לבצע איזון בין זכויות, יש מקום לבחינה שתאזן בין חופש הביטוי לבין ערכים ואינטרסים אחרים הרלוונטיים למקרה הספציפי, כדוגמת כבוד האדם, שמו הטוב, קניינו, פרטיותו וכן אופייה הדמוקרטי של המדינה, ותבחן את מידתיות ונחיצות הפעולה. בעוד אכיפה אלטרנטיבית מקודמת על ידי רשות מדינתית, האכיפה בפועל )כלומר, הסרת התוכן או חסימת המשתמש( נעשית על ידי הפלטפורמות המקוונות – המונעות משיקולים מסחריים. מצב דברים זה יוצר, בפועל, הפרטה של שיקול הדעת המדינתי ביחס לשאלה מתי ראוי, נכון ומותר להגביל את חופש הביטוי – וכיצד יש לעשות זאת.
ג. 5 פגיעה באוכלוסיות מיעוט עם תת ייצוג מבני
כידוע, אחד ממוקדי פעילות האכיפה הוא הסתה לטרור בחברה הערבית. 41 בדיון בפני ועדה מכובדת זו, בנושא השפעת הרשתות החברתיות על פשיעה בחברה הערבית, נציג מחלקת הסייבר לא הציג נתונים המבחינים בין הזהות הלאומית של מפרסמי התוכן שהמחלקה פעלה להסיר. 42 משכך, מתעורר חשש של אכיפה בררנית.
לשם ההמחשה, ניתן להסתכל על אשר מתרחש במלחמת חרבות ברזל. 44 חודש לתוך המלחמה, פורסם
בתקשורת כי מעל ל- 70 כתבי אישום הוגשו בגין עבירות תמיכה בטרור, ומאז המספר רק עולה. 45 בעוד יש לא מעט פרסומים המהווים הסתה לטרור, יש גם פרסומים רבים ברשת אשר רק מבקשים להביע הזדהות עם תושבי עזה והנזק של המלחמה כלפיהם. נדגיש כי אין זו הפעם הראשונה שבה מתעורר חשש זה, אלא בתקופת מבצע שומר חומות התגלה בדו"ח של מטא כי מנטרי תוכן כשלו בביצוע תפקידם וגרמו לאכיפת יתר ביחס לערבים.
לסיכום, העדר ההסמכה המפורשת בחוק לפעול במרחב המקוון גורם לאשליה לפיה הזירה מוסדרת. אלא,
במציאות, הזירה אינה מוסדרת, המחוקק לא נתן את דעתו לעניין היקף ואופן הפיקוח וייתכנו פגמים
מנהליים משמעותיים בפעילותה של המחלקה. כמו כן, מאחר ותופעות ההטיה המבנית יכולות להביא
להדרה תודעתית של החוויות, או הקשיים, של קבוצות מסוימות, בתוך שדה השיח הציבורי של הרשתות
החברתיות, חשוב לשים לב לאופן פעילות האכיפה או הניטור, במיוחד בקרב אוכלוסיות מוחלשות.
ד. המלצות
מבלי להיכנס לכלל סוגיית אסדרת הרשתות החברתיות, נרצה להדגיש כי הקמתה והפעלתה של מחלקת הסייבר בפרקליטות המדינה מהווה צעד נחוץ לקידום החלת המשילות של מדינת ישראל במרחב המקוון. יחד עם זאת, על פעולות האכיפה להיעשות בשקיפות, על פי דין, ותוך עמידה בחובות מנהליות מקובלות. בהתאם, אנו מאמינים כי חשוב להסמיך את פעילות המחלקה בחוק ולקבוע קווי פעולה ברורים המאזנים בין האינטרסים על השולחן.
בפרט, המלצתנו היא לפעול כדלהלן:
א. ראשית, על המחוקק להגדיר את פעילות מחלקת הסייבר בחוק. בפרט, מוצע כי החוק יחייב את המחלקה לפעול בשקיפות תוך איסוף ופרסום נתונים מפולחים אודות האכיפה. במיוחד לאור החשש של אכיפת בררנית, חשוב כי פעילות האכיפה תתבצע באופן שקוף וברור ותאפשר לציבור וודאות ביחס להיקפה ומטרתה. כמו כן, מוצע לקבוע חובת יידוע על מעקבים, פעולות הסרה ופעולות אכיפה אחרות, אשר תבטיח למשתמשים וודאות, שקיפות ומימוש זכותם להליך הוגן, בדומה להסדר באיחוד האירופי ביחס לפעולות הנוגעות במידע אישי. זכות היידוע נדרשת בשביל לאפשר שקיפות ביחס למה שנעשה עם המידע האישי של אדם, וגם כדי לאפשר לו לממש את זכותו לפרטיות מתוך מודעות למצב.
ב. שנית, יש לקבוע מנגנון פיקוח פרלמנטרי על פעולות האכיפה של מחלקת הסייבר, בדומה למלאכת הפיקוח המבוצעת על ידי ועדת חוק, חוקה ומשפט ביחס להיקף האזנות הסתר המבוצעות על ידי המשטרה.
פיקוח פרלמנטרי על הממשלה הוא מאבני היסוד של כל מבנה דמוקרטי באשר הוא, אשר לא רק מסמיך את רשויות השלטון להפעיל סמכות, אלא מייצר מבנה של פיקוח בין-מוסדי הדדי ונמשך. חשיבותו הגדולה של הפיקוח הפרלמנטרי מצויה בכך שהוא מהווה בלם פנים-פוליטי: הוא מאפשר לאוורר את עבודת הממשלה, אשר לרוב נעדרת שקיפות; הוא מסייע להגנה על עקרונות מנהל תקין; והוא מסייע לפתור את בעיית הנציג. לפיקוח הפרלמנטרי יש חשיבות יתרה בעת הנוכחית, אשר מתאפיינת – בעולם כולו ובכלל זה גם בישראל – במגמות פוליטיות כדוגמת פרסונליזציה של הפוליטיקה , "נשיאותיזציה" של ראשי ממשלות והתכווצות ממדיהן של המפלגות המרכזיות. מגמות אלה נקשרות זו בזו, ומחזקות את מידת השליטה של מעטים בפוליטיקה כולה
לקריאת חוות הדעת המלאה >>>
Comments