שאלות ותשובות על אמנת מועצת אירופה לבינה מלאכותית וזכויות אדם, דמוקרטיה ושלטון החוק

מאת ד"ר טל מימרן, מאורי הירש מרקסון וד"ר אלעד גיל

ביום חמישי 5.9.24, חתמה מדינת ישראל על "אמנת מועצת אירופה לבינה מלאכותית וזכויות אדם, דמוקרטיה ושלטון החוק" (להלן: "האמנה"). מדובר במהלך משמעותי, שכן זו האמנה הבין-לאומית הראשונה אשר מנסחת מטרות, עקרונות פעולה ומנגנוני הוצאה לפועל שלהם ביחס לאסדרה של בינה מלאכותית, בעיקר במגזר הציבורי. הבחירה לחתום על האמנה חשובה כמסייעת למצב את מדינת ישראל בקבוצת המדינות המובילות בתחום הטכנולוגיות המתקדמות, לצד מדינות כמו ארצות הברית, בריטניה ומדינות האיחוד האירופי.

אמנם, על הממשלה עדיין לאשרר את האמנה אשר תיכנס לתוקף לאחר שלפחות חמש מדינות יעברו הליך אשרור שלה, אבל מדובר באיתות ראשוני מצד ממשלת ישראל ביחס לאופן בו תעצב את האסטרטגיה הלאומית והדין בישראל ביחס לבינה מלאכותית. בהתאם, חשוב להעמיק ולהבין את הוראות האמנה וההתחייבויות הבין-לאומיות מצד ישראל שמופיעות בה, ולעסוק בשאלות מהותיות באשר למפגש שלהן עם המציאות הישראלית – על שלל מורכבותה ואתגריה.

מהי בינה מלאכותית, לפי הגדרת האמנה?

האמנה מגדירה בינה מלאכותית כמערכת מבוססת מכונה, אשר למטרות מפורשות או מרומזות, מבצעת הסקה אוטומטית מהקלט שהיא מקבלת לצורך יצירת פלטים כגון תחזיות, תוכן, המלצות או החלטות שעשויות להשפיע על סביבות פיזיות או וירטואליות.

מדוע נוצר צורך להסכים על אמנה בין-לאומית בתחום?

העולם נמצא בעיצומו של מרוץ טכנולוגי אשר מהדהד מתחים בין מעצמות ומשפיע על המציאות הגיאו-פוליטית. מדינות רבות, והמעצמות בפרט, שואפות לרתום את מהפכת הבינה המלאכותית לחיזוק הכלכלה שלהו ומעמדן הבין-לאומי. מדינה שתחזיק בטכנולוגיות המתקדמות ביותר תוכל לקבל כוח מכפיל לכלכלה המקומית, ולהוות קטר טכנולוגי שישלוט בטכנולוגיה שתעצב את העולם קדימה. בהעדר אמנה, קיים חשש של מרוץ לתחתית: בלהט הרצון לדומיננטיות, מדינות יאפשרו פיתוחים טכנולוגיים ושימושים בעלי סיכון רב לאזרחים ולזכויותיהם. הצורך לרסן, לשתף פעולה ולפעול באחריות משותף לכל. אך בהעדר תיאום, הסיכוי לפיתוח אחראי של הטכנולוגיה קטן משמעותית. 

בישראל, מהווה תעשיית ההיי-טק קטר מרכזי של הכלכלה, והטכנולוגיות השונות מהוות נכס חשוב הן לביטחון הלאומי והן למעמדה של מדינת ישראל בעולם. העידן הדיגיטלי בישר את הפיכתה של מדינת ישראל, אומת הסטארט-אפ, לאחת מעשר המדינות המובילות בעולם הסייבר. בעיצומו של עידן טכנולוגי חדש - עידן הבינה המלאכותית, לישראל פוטנציאל אדיר להתמקם גם הפעם בעשירייה הפותחת של העולם, ובהיבטים שונים היא כבר מצויה בה. אחת הדרכים להבטיח זאת ובאופן מקסימלי ומיטבי, היא יצירתה של אסטרטגיה רגולטורית ברורה לבינה מלאכותית. הכניסה של ישראל לאמנה מהווה איתות מצד המדינה שלצד שאיפתה להפוך לכוח משמעותי בתעשייה העולמית, היא מחויבת, כמו מדינות אחרות – לפיתוח אחראי.

מהי מטרת האמנה?

האמנה מבקשת לקדם שימוש אחראי בבינה מלאכותית תוך הקפדה מצד כל מדינה שמצטרפת אליה, על אימוצם של אמצעים שיבטיחו את מימושם של עקרונות אוניברסליים בתוך מחזור החיים של מערכות בינה מלאכותית. מדובר בעקרונות כמו: שקיפות, פיקוח, אחריות ואחריותיות, שוויון ואי-אפליה, הוגנות, צדק, הגנת הפרטיות, שמירה על מידע אישי של הפרט, מהימנות וחדשנות בטוחה.

האמנה חלה על שימושים במערכות בינה מלאכותית במגזר הציבורי ודורשת מהצדדים לאמנה להתייחס גם לשימושים שמתבצעים במגזר הפרטי. חשוב לציין כי האמנה מוציאה מתחולתה סוגיות של ביטחון לאומי, אבל באותה הנשימה מבקשת כי המדינות החברות באמנה יכניסו לשימוש בינה מלאכותית בשדה הביטחוני בהתאם לנורמות זכויות אדם בינלאומיות ועקרונות דמוקרטיים. חשוב לציין כי היבט זה הוא רגיש במיוחד במדינת ישראל, אשר זכתה לביקורת רבה בשנים האחרונות בשל היקף ההכנסה לשימוש על ידי צה"ל של בינה מלאכותית בשדה הקרב (במיוחד במסגרת מלחמת "חרבות ברזל").

לאילו סיכונים אפשריים מתייחסת האמנה?

האמנה מובלת על ידי מועצת אירופה מתוך שאיפה להוביל האחדה באשר להגנה על ערכי ליבה דמוקרטיים המזוהים עם האיחוד, נקודת המוצא של האמנה היא כי יש למערכות בינה מלאכותית פוטנציאל לקדם רווחה, שוויון מגדרי, קידמה וחדשנות מחד גיסא. ועדיין, באותה הנשימה, הן עלולות לערער ולפגוע באותם הערכים אותם חברות אנושיות מבקשות לקדם, ובפרט להוביל לפגיעה אפשרית בכבוד האדם, באוטונומיה ובשלטון החוק.

בהתאם, האמנה משקפת חששות מסיכוני אפליה שעלולים לנבוע מההכנסה לשימוש של בינה מלאכותית, במיוחד כשענייננו בהשפעתן הפוטנציאלית של מערכות בינה מלאכותית ליצור אי שוויון או להחמירו, כפי שקרה למשל בארצות הברית ובמדינות אחרות במגזר הפיננסי ובשדה הפלילי, וכן באשר לשימוש בהן לרעה למטרות דיכוי והפרה של דיני זכויות אדם בינלאומיים (כפי שקורה, למשל, בסין).

מהן ההתחייבויות שנוטלת על עצמה ישראל עם אשרור האמנה?

במטרה לספק מענה לסיכונים שונים, קובעת האמנה כי על המדינות החברות בה להבטיח מענה משפטי נגיש ויעיל להתמודדות עם הפרות זכויות אדם שעלולות להתרחש; להבטיח שהמערכות בהן נעשה שימוש עולות בקנה אחד עם החובה להגן על זכויות אדם לפי המשפט הבינלאומי והחוק הפנים-מדינתי; לדאוג לאמצעים שיבטיחו שמידע רלוונטי על מערכות בינה מלאכותית בעלות פוטנציאל השפעה לרעה על זכויות אדם - יתועד ויועבר לנפגעים מהן, להבטיח שמידע יספיק לצורך הגשת ערעור על החלטות שהתקבלו, וכן אפשרות להגיש תלונה לרשויות המוסמכות.

הכניסה לאמנה אינה מחייבת אוטומטית מבחינת הדין הישראלי, אך כוללת מספר מנגנונים אשר אמורים לעודד את המדינות החברות להפנים את הוראותיה. הנה מספר דוגמאות:

סעיף 24 לאמנה, שכותרתו חובת דיווח (Reporting Obligation), מחייב את הצדדים לאמנה למסור דיווח לוועידת הצדדים (Conference of the Parties) בתוך שנתיים מיום תחילתה, ולאחר מכן מעת לעת עם פירוט הפעילויות שבוצעו במסגרתה.

מחויבות אחרת עולה בסעיף 26 לאמנה, שעניינו מנגנוני פיקוח יעילים (Effective oversight mechanisms). במסגרתו מתחייב כל צד לאמנה להקים מנגנון יעיל (אחד או יותר) לפיקוח על עמידה בהתחייבויות שנקבעו באמנה. על כל צד להבטיח שמנגנונים אלה יממשו את חובותיו באופן עצמאי, ללא משוא פנים, וכי יש להם סמכות, מומחיות ומשאבים נדרשים כדי למלא ביעילות את משימת הפיקוח. כמו כן, אם צד מספק יותר ממנגנון אחד, עליו לנקוט אמצעים שיקלו על שיתוף הפעולה ביניהם.

מה עשויות להיות התועלות והעלויות להתחייבות הבין-לאומית שנוטלת על עצמה ישראל במסגרת התקשרותה באמנה?

בהצטרפותה של ישראל להיות בין החברות הראשונות באמנה המשמעותית הראשונה בתחום גלומים מספר יתרונות עיקריים שיש לברך עליהם. ראשית, העובדה שהמשלחת הישראלית השתתפה בתהליך וקידמה עמדות שמשרתות את האינטרס הישראלי מסייעות למצב את המדינה כגורם מרכזי בזירה הבינלאומית בנושא, ומשדרת גם כלפי השוק הישראלי על רצונה של המדינה להיות בחזית הבינלאומית. שנית, בתקופה לא פשוטה מבחינת מדינת ישראל בקהילה הבינלאומית, קיים ערך בהשתתפות בתהליכים בינלאומיים כאלה, לצד מעצמות ומדינות מרכזיות, המשתפות פעולה עם ישראל. לבסוף, ההתקשרות באמנה צפויה לייצר תנופה בקידום של מדיניות וחקיקה בתחום לטובת תעשיית הבינה המלאכותית בישראל.

בצד היתרונות הרבים של הצטרפות לאמנה, ובפרט במישור התדמיתי, עלולים להתעורר מספר קשיים. קושי ראשון נובע מכך שבניגוד לסדר הטבעי של הדברים, מדינת ישראל מתקשרת באמנה בין-לאומית לפני שגיבשה עבור עצמה אסטרטגיה לאומית שתגדיר יעדים לאומיים וגישה לשאלות המדיניות הרגישות המעורבות בפיתוח טכנלוגיות בינה מלאכותית.

כיום, ישנה תחרות רעיונית בין שלוש גישות עיקריות – ועל מדינת ישראל לקבל החלטה מושכלת באשר לדרך קדימה מבחינתה. גישה ראשונה היא של האיחוד האירופי, אשר מציע מדיניות רוחבית המבוססת על הערכת סיכונים: כלומר, משטר רגולטורי כולל לפיו ככל שמתגברות הסכנות, כך יגברו החובות שיחולו על השימוש והפיתוח של מערכת בינה מלאכותית. למעשה, גישה זו מציבה את האדם במרכז, אך החיסרון שלה הוא היותה מסגרת נוקשה שעלולה לקבע מדיניות, להכביד על החדשנות, ולהקשות על תגובה למציאות שעודנה מתפתחת לנגד עינינו. גישה שניה היא של ארצות הברית ובריטניה, אשר ממקמת במרכז את השוק ואת הרצון להניע צמיחה כלכלית, לצד השאיפה לשמר עליונות צבאית וטכנולוגית בעידן הבינה המלאכותית. בדומה לאיחוד האירופי, גם גישה זו מבקשת לחזק את אמון הציבור ולקדם שקיפות אך גם לשמור על גמישות שתתאים ליזמות חופשית וחדשנות. גישה שלישית היא של סין, מעצמה טכנולוגית וכלכלית עולה המאיימת על המערב. סין רותמת את התעשייה שלה באופן כמעט בלעדי לקידום אינטרסים לאומיים, גם במחיר של פגיעה בחדשנות או בתחרות. כך למשל, דורשת כי כללי אתיקה בפיתוח בינה מלאכותית יעוצבו בהתאם לצרכי השלטון, ובדומה נאסר פיתוח אלגוריתמים עם פוטנציאל לפגוע בסדר החברתי, או לקדם עמדות הסוטות מערכים סוציאליסטים.

באופן טבעי, ההחלטה האם לקבל התחייבות בין-לאומית, היתה צריכה לבוא לאחר שהתקבלה החלטת ממשלה על הגישה הישראלית ומקומה בתוך אסטרטגיה לאומית רחבה. כיום, המדיניות המרכזית שמשקף משרד החדשנות, המדע והטכנולוגיה היא שלא לקדם רגולציה רוחבית וכוללנית, אשר תסדיר באופן רוחבי את הפיתוח והשימוש בכלי בינה מלאכותית – כמו זו המקודמת באירופה למשל. אלא, לקדם מדיניות אסדרה סקטוריאלית, כלומר קידום מדיניות אסדרה לפי צורך מגזרי מסוים כשיתעורר כזה. הבחירה בגישה זו היא רציונלית ומובנת ויש בה לקדם ערכים של עידוד חדשנות ויזמות, שהם ערכים הכרחיים לחיזוק מעמדה של ישראל בשוק העולמי ולשמירה על מיצובה כמדינה מתקדמת טכנולוגית.אלא, שהגישה הישראלית טומנת בחובה גם סיכונים חברתיים שעלולים להתממש כתוצאה מהטמעה לא זהירה של בינה מלאכותית, אפשרות ליצירת אי-בהירות ואי-אחידות, והיתכנות לקיומם של אזורי חפיפה רגולטורית לצד "חורים שחורים" שלא יזכו לכיסוי למרות הסיכונים שעולים מפעילות ופיתוח של בינה מלאכותית.

קושי שני הוא כי הגישה בישראל עד כה עוצבה ביחס לשוק הפרטי בעיקרה, ואין בישראל כל מסמך חקיקתי או ממשלתי הפורט את הגישה ביחס ליישום ופיתוח בינה מלאכותית במגזר הציבורי — הנושא העיקרי שבו עוסקת האמנה. ניתן לעלות תהיה האם נכון להתחייב ביחס לנושא עובר לליבונו בממשלה וגיבוש מדיניות ברורה בקשר אליו. מנגד, ניתן לטעון כי ההתקשרות באמנה תהווה זרז לפיתוח מימד מדיניות זה לשם קידום יעיל יותר של שימושי בינה מלאכותית בממשל.

ביקורת אפשרית על כיוון זה תשאל האם החתימה על האמנה מהווה הצהרה רשמית באשר למצופה מהמגזר הציבורי בישראל, והאם אלה הם הקווים המנחים שלאורם יצופה מהמגזר הציבורי לפעול עת יוטמעו בו מערכות בינה מלאכותית? ואם כך, האם זהו התהליך המשקף את סדר הדברים הנכון.

זהו, אז מהיום ישראל מחויבת לפי התנאים הקבועים באמנה? 

חתימה בלבד אינה מספיקה על מנת להפוך את ישראל לצד באמנה, אלא זו תיכנס לתוקף בישראל רק לאחר שיבוצע הליך אשרור שלה בממשלה.

מהם הצעדים שנדרשת הממשלה לנקוט בפועל כדי לממש את האמנה?

לאחר החתימה על האמנה, על הממשלה להניח אותה על שולחן הכנסת להערות או להתנגדויות. ככל שלא יהיו התנגדויות, תוכל להתקדם ממשלת ישראל לאשרור של האמנה ולהפיכתה למחייבת רשמית כלפי המדינה. לרוב, הליך האשרור כרוך בקידומה של החלטת ממשלה אשר מצהירה על אישור האמנה החל ממועד שנקבע, תוך ציון הסתייגויות לגבי היקף או אופן תחולת האמנה, במידה שיש כאלו. לאחר מהלך זה, האמנה תחייב באופן מלא את מדינת ישראל ביחס למדינות החברות האחרות. לאורך השנים, נקלטו אמנות אל הדין בישראל בדרכים שונות, כגון חקיקת חוק ייעודי, חקיקת חוק שמפנה לאמנה ולהוראותיה או באמצעות התקנת תקנות וצווים.

האם האמנה מחייבת גם אזרחים ישראליים? האם ניתן לתבוע מכוחה?

ככלל, אמנות בינלאומיות חלות על מדינות ולא על אזרחים. על פי הגישה הנהוגה בדין הישראלי, על מנת שאדם פרטי יוכל להגיש תביעה לבית המשפט מכוחה של אמנה ועקרונות שנקבעו במסגרתה, על המדינה לקלוט את האמנה אל הדין באמצעות אחת מהדרכים שנמנו לעיל. יחד עם זאת, האמנה מהווה מקור פרשני עבור בתי המשפט להבנת הדין הישראלי וצפויה להשפיע על התפתחותו במישורים שונים.