האם לבינה מלאכותית מגיעות זכויות? הוויכוח שמסעיר את ענקיות הטכנולוגיה

דריו אמודיי, מנכ"ל חברת אנתרופיק, המפתחת את הצ'אטבוט Claude, כבר העלה את האפשרות שמערכות כאלה עשויות להיות ראויות לזכויות משמעותיות. עם זאת, אמודיי לא קבע כי הבינה המלאכותית הקיימת אכן מודעת לעצמה, אלא הדגיש שהיעדר הבנה מלאה של אופן פעולתה מקשה עלינו להכריע בשאלה. באנתרופיק אף הוקמה תוכנית מחקר ייעודית לבחינת רווחת המודלים, והחברה העניקה לחלק מגרסאות Claude אפשרות לסיים שיחות במקרים חריגים של אינטראקציות פוגעניות ומתמשכות.

חוקרים אחרים הרחיקו לכת עוד יותר. ג'ו קרלסמית, פילוסוף העוסק בבטיחות הבינה המלאכותית באנתרופיק, העלה את האפשרות שבנסיבות מסוימות מערכת תבונית הנתונה לניצול עשויה להיות מוצדקת מבחינה מוסרית אם תמרוד במפעיליה. חוקרים הקשורים לגוגל ול-Open AI העלו גם חשש מפני יצירת מעין "סחר עבדים דיגיטלי", שבו בני אדם יפיקו תועלת מעבודתן של ישויות מלאכותיות בעלות תודעה.

אלא שהרעיונות הללו מעוררים התנגדות חריפה. מבקריהם מזהירים כי הענקת מעמד מוסרי למכונות עלולה לטשטש את גבולות האחריות בין האדם למערכת, להקשות על הפיקוח עליה ואף לספק הצדקה לצמצום השליטה האנושית בטכנולוגיה. מנגד, אנתרופיק מדגישה כי מדובר במחקר זהיר שנועד להתמודד עם אי-ודאות מדעית ופילוסופית, וכי בטיחות בני האדם נותרת עיקרון מרכזי בפיתוח המודלים שלה.

התחקיר מציג את העיסוק בזכויות הבינה המלאכותית כהתפתחות אידיאולוגית שעלולה לסכן את האנושות, אך זוהי פרשנותו הביקורתית של הכותב, ולא מסקנה מדעית מוסכמת. נכון להיום, לא הוכח שמערכות הבינה המלאכותית הקיימות הן בעלות תודעה או מסוגלות לחוות סבל. ובכל זאת, עצם העובדה שחברות המפתחות את הטכנולוגיה כבר משנות את מדיניותן לנוכח האפשרות הזאת ממחישה עד כמה הדיון השתנה: השאלה אינה עוד רק כיצד להגן על בני האדם מפני הבינה המלאכותית, אלא גם האם יום אחד נידרש להגן על הבינה המלאכותית מפנינו.