OpenAI הבהירה ביום שישי שהיא לא נסוגה מההחלטה לפטר שלושה מחוקרי הבטיחות שלה, יום אחרי שאלה פרסמו מכתב פתוח ובו טענו כי פוטרו כי העדיפו בטיחות על פני האינטרסים המסחריים של החברה. בפוסט ב-X כתבו בכירי המחקר של OpenAI כי חקירה פנימית חשפה "הפרת אמון משמעותית" אצל שלושת המפוטרים – ג'סמין וואנג, טומק קורבאק ומיקיטה בלסני – שעד לאחרונה עבדו בצוותי הבטיחות וההתאמה (alignment) של החברה, תחום שעוסק בהטמעת עקרונות אתיים אנושיים במערכות בינה מלאכותית כדי לוודא שהן פועלות בהתאם לערכי האדם.
לפי OpenAI, השלושה הפרו "מדיניות ברורה בנוגע לטיפול במידע רגיש", וההפרה חרגה ממה שתואר במכתב הפתוח שהם עצמם פרסמו – אך החברה לא מסרה פרטים נוספים על מהות ההפרה. עוד קודם, ב-2 באוקטובר, מסר דובר החברה ל-BBC כי החקירה "אישרה שהאנשים הללו טיפלו במידע רגיש מחוץ לנהלים המקובלים בחברה".
הגרסה של החוקרים
החוקרים המפוטרים דוחים את הגרסה הרשמית. "אני מאמין שפוטרנו על כך שהעדפנו בטיחות על פני האינטרסים הקצרי-טווח של OpenAI כחברה," כתב בלסני ב-X, לצד המכתב הפתוח שחיבר יחד עם קורבאק ווואנג. לדבריהם, הם פעלו "בהתאם לשליחות של OpenAI ובתוך נורמות העבודה המקובלות" בחברה.
קורבאק הוסיף פרטים על מה שלטענתו עמד מאחורי הפיטורים: "במשך חודשים העליתי חששות בטיחותיים לגבי כך שאנחנו מאבדים את היכולת לעקוב אחרי מה שסוכני בינה מלאכותית 'חושבים' – אחד הכלים הטובים ביותר שלנו לתפוס מצבים שבהם הם מתנהגים בצורה בעייתית. אני מאמין שזאת הסיבה לכך שפוטרתי". וואנג, מצדה, כתבה כי "לא היינו הראשונים שהודחו מ-OpenAI בנסיבות חשודות", והזהירה כי "אם העובדים לא יתקוממו עכשיו נגד סוג כזה של מהלך, אני חוששת שלא נהיה האחרונים".
החוקרים טענו גם שהפיטורים גרמו לעובדים אחרים בחברה לחשוש "לדבר ולפעול בדרכים שעד לפני שבוע היו חלק בלתי נפרד מהעבודה ב-OpenAI".
חברה עומדת על שלה
בתגובה למכתב, כתבו בכירי המחקר של OpenAI: "אנחנו רוצים להבהיר בבירור שההחלטות הללו לא היו קשורות להעלאת חששות בטיחותיים או להשמעת ביקורת", והוסיפו כי הם "עומדים מאחורי ההחלטה שלא להמשיך את העסקתם".
הפרשה מתרחשת על רקע דאגה גוברת בקרב עובדי חברות בינה מלאכותית מבטיחות המערכות המתקדמות שהן מפתחות, אחרי סדרת אירועי אבטחה בולטים השנה – ובהם פריצה הקשורה ל-OpenAI ולחברת Hugging Face. חלק מהעובדים בתעשייה קוראים לחברות להאט את קצב הפיתוח ולהגביר את ההגנות מפני הסיכונים שעלולות להציב מערכות המסוגלות לשפר את עצמן.
OpenAI מסרה כי היא נמצאת בשלבי סיום חוזים עם גורמי הערכה חיצוניים לבדיקת בטיחות, ותמסור פרטים נוספים בשבועות הקרובים.
