ממלא מקום מנכ"ל ועדת הבחירות המרכזית, דין ליבנה, הזהיר מפני השפעתם הגוברת של צ'אטבוטים ומערכות בינה מלאכותית על הבוחרים לקראת הבחירות. במאמר שפרסם במגזין "האקונומיסט", קרא ליבנה לחברות הטכנולוגיה לאמץ צעדים מיידיים שימנעו פגיעה בטוהר הבחירות וביכולתם של האזרחים לקבל החלטות עצמאיות בקלפי.
לדברי ליבנה, אף שכלי בינה מלאכותית יכולים להנגיש מידע ציבורי ולסייע בהבנת המערכת הפוליטית, השימוש בהם לקבלת המלצות הצבעה מעורר חשש. בניגוד לתעמולה פוליטית גלויה, תשובות של צ'אטבוט מוכר עשויות להיתפס כעצה אובייקטיבית, אף שהן עשויות לשקף הטיות והכרעות ערכיות.
החשש: הטיה פוליטית ושימוש במידע אישי
ליבנה מצביע על הסיכון להטיות מובנות במודלי שפה, שעלולים להסתמך על מידע מיושן או להעדיף עמדות פופולריות. לדבריו, מקרים שתועדו באירופה ובמחקרים אקדמיים הראו כי מערכות בינה מלאכותית נטו באופן שיטתי לטובת מפלגות מסוימות.
סכנה נוספת שעליה התריע היא האפשרות שגורמים זדוניים ינסו להשפיע על תשובות המערכות באמצעות החדרת מידע מטעה למקורות שעליהם הן מסתמכות. כך, לדבריו, עלולות תעמולה זרה ופעולות השפעה להגיע ישירות אל הבוחרים באמצעות העוזרים הווירטואליים.
ליבנה הזהיר גם מפני שימוש במידע אישי רגיש שנאסף בשיחות קודמות עם צ'אטבוטים, לרבות מצב כלכלי, מידע רפואי וחרדות אישיות. לדבריו, ניצול מידע כזה לצורך שכנוע פוליטי עלול לפגוע בפרטיות הבוחרים ובשיקול דעתם.
הקריאה לחברות הטכנולוגיה: להימנע מהמלצות הצבעה
כדי לצמצם את הסיכונים, מציע ליבנה לחברות הבינה המלאכותית לאמץ קוד התנהגות שיכלול הימנעות מהמלצות הצבעה ומדירוג מפלגות, הסתמכות על מקורות רשמיים ומעודכנים בנושאי בחירות והגנה על מקורות המידע מפני מניפולציות.
בנוסף, הוא קורא לאסור שימוש בפרופילים אישיים לצורכי שכנוע פוליטי ולהעמיד את מנגנוני ההגנה של המערכות לבדיקה עצמאית בשפות שונות, ובהן עברית, ערבית, רוסית ואנגלית.