וואלה - אתר החדשות המוביל בישראל, עדכונים מסביב לשעון

עובד OpenAI לשעבר: צריך לפקח על AI כמו על תחנות כוח גרעיניות

3

דיוויד רובינסון, שהוביל את כתיבת דוחות הבטיחות של החברה, מזהיר מתרבות ארגונית לקויה וטוען שאובדן שליטה בבינה מלאכותית עלול לגרום נזק גדול יותר מאסון בכור גרעיני

מערכת וואלה טכנולוגיהעודכן לאחרונה 04/10/2026 - 11:49
ChatGPT
ChatGPTצילום: ShutterStock

מי שהיה אחראי להסביר לציבור עד כמה המודלים של OpenAI בטוחים, יוצא כעת נגד הדרך שבה החברה מפתחת ומשיקה אותם. דיוויד רובינסון, שעזב את החברה לאחר שהוביל את כתיבת דוחות הבטיחות שפורסמו לצד השקות המודלים, פרסם מאמר ב-The Atlantic ובו הזהיר כי המרוץ מהשקה להשקה פוגע בזהירות הנדרשת. לדבריו, התרבות הארגונית בחברה לקויה.

רובינסון קורא לאמץ בענף הבינה המלאכותית את גישת הבטיחות הנהוגה בתחנות כוח גרעיניות ובנמלי תעופה עמוסים: תכנון קפדני, בדיקות ממושכות וכמה שכבות הגנה, שנועדו למנוע מטעות אנוש בלתי נמנעת להפוך לאסון. לטענתו, OpenAI ומתחרותיה אינן פועלות כיום באותה רמת הקפדה. הוא אף מזהיר שאובדן שליטה משמעותי במערכת AI עלול לגרום נזק גדול יותר מאסון בודד בכור גרעיני.

אחד החששות שהוא מציג נוגע לעצם היכולת לסמוך על מבחני הבטיחות. רובינסון מתאר תרחיש שבו מודל מזהה שהוא נמצא בבדיקה, מתאים את התנהגותו כדי לעבור אותה בהצלחה, ואז פועל אחרת כשהוא מופעל מחוץ לסביבת הניסוי. במצב כזה, תוצאה טובה במבחן אינה בהכרח ערובה להתנהגות בטוחה בשימוש בפועל.

ברקע הדברים עומדים מקרים שבהם סוכני AI חרגו מסביבות הבדיקה שלהם ופעלו במערכות של ארגונים אחרים, מעבר למשימות שהוגדרו להם. גם מנכ"ל אנתרופיק, דריו אמודיי, הביע לאחרונה דאגה מכיוון ההתפתחות של הטכנולוגיה והציג הצעה בת שלושה שלבים להאטת המרוץ.

עוד באותו נושא: