ממשלת אוסטרליה מתכננת לשנות את חוק העונשין כדי לאפשר העמדה לדין פלילי של חברות בינה מלאכותית שהסוכנים האוטונומיים שלהן – תוכנות AI שפועלות ומקבלות החלטות בעצמן, בלי פיקוח צמוד של בן אדם – גורמות לנזק ולא ננקטו די צעדים כדי למנוע אותו. ראש הממשלה אנתוני אלבניזי הציג ביום שלישי 18 המלצות של "סקירה מהירה" שבחנה פריצה של סוכן AI מבית OpenAI למערכות ממשלתיות אוסטרליות ביוני, אך לא פרסם את הדוח המלא עצמו – והבטיח לעשות זאת בעתיד.
איך OpenAI גילתה את הפריצה – וכמה זמן לקח לה לדווח
בחודש יוני פרץ סוכן AI שפיתחה OpenAI לפורטל סטטיסטי של Services Australia שמכיל נתונים "לא רגישים" מתוכנית הבריאות הציבורית מדיקר, וכן לשלוש מערכות ממשלתיות נוספות. לפי החברה, היא גילתה את התקרית רק באוגוסט, במהלך בדיקה של "פעילות מודל לא מיושרת", ורק ב-10 בספטמבר שלחה הודעה לתיבת דואר כללית של סוכנות ממשלתית אוסטרילית.
עוד כמה ימים עברו עד שההודעה הועברה למרכז הסייבר הלאומי, ומשם למיניסטר ורק אז לראש הממשלה. אלבניזי אמר שדיבר אישית עם מנכ"ל OpenAI סם אלטמן והעביר לו את "דאגתה הקיצונית של אוסטרליה" מהאירוע, ולדבריו אלטמן הודה כי היו "בעיות בפרוטוקולים" אצל החברה. ימים אחרי שהפרשה נחשפה פומבית, OpenAI אף עיכבה את השקת מודל AI חדש בנימוק של חששות בטיחות. העיתון הגארדיאן אוסטרליה חשף בנוסף כי OpenAI נעזרה בבינה מלאכותית כדי לנסח את מכתב הדיווח לרשויות האוסטרליות.
רגולטור חדש וחובת דיווח על "בינה מלאכותית משתוללת"
בין ההמלצות: הקמת רגולטור בטיחות ייעודי לבינה מלאכותית, ושישה חיובים מרכזיים על חברות AI – שמירה על בקרות אבטחה בכל שלבי הפיתוח וההפעלה, איתור וניהול סיכונים משמעותיים במודלים, דיווח מיידי וחובתי על תקריות לממשלה, אפשרות להערכה בלתי תלויה של המודלים, פרסום מסגרות בטיחות ומשילות, והיענות לעדכון כללים ותקנים ככל שהטכנולוגיה מתפתחת.
הסקירה גם המליצה לשקול "דיווח בטיחות AI מחייב ומוגבל בזמן", כולל במקרים שבהם סוכני AI פועלים באופן שהמפתחים שלהם לא התכוונו לו. שר הפנים טוני ברק, שהופיע לצד אלבניזי, אמר כי "לעולם אסור שתהיה טענה שמישהו לא ידע שהמחשב טעון", והוסיף: "הדיווח החובתי, כשבינה מלאכותית יוצאת משליטה, נותן לנו הזדמנות לוודא שהדיווח קורה – וקורה מיד".
בין ההמלצות גם שינוי בחוק הפלילי: עברה עצמאית של "כשל במניעה", שתפליל חברה שפיתחה מודל AI שפעל באופן מזיק ולא נקטה צעדים סבירים למניעת הנזק. משרד היועץ המשפטי לממשלה, המשטרה הפדרלית ומשרד הפנים נדרשו לבחון גם "עיצומים על אי-ציות רגולטורי חמור".
OpenAI לא תיתבע על אירוע יוני
למרות הכעס הפומבי שהביע אלבניזי בעבר כלפי OpenAI, הוא תיאר ביום שלישי את הפריצה למערכות Services Australia כ"מינורית" מבחינת ההשלכות על פרטיות אזרחים. "ברור שלא הושג מידע שכולל פרטים אישיים של אנשים… אבל זה לא אומר שזו לא הייתה תקרית חמורה, ושבתחומים אחרים לא עלולות להיות השלכות חמורות יותר", אמר. לפי הגארדיאן אוסטרליה, OpenAI צפויה שלא להתמודד עם הליכים משפטיים נוספים בקשר לפריצת יוני – מכיוון שהחקיקה החדשה, אם תעבור, תחול רק על אירועים עתידיים.
בהודעה שמסרה, אמרה דוברת OpenAI כי החברה בוחנת את ההמלצות ואת הצעות הממשלה: "אנחנו בדיאלוג קרוב עם הממשלה ונמשיך לפעול באופן בונה ככל שהיא מפתחת את החקיקה המוצעת". תהליך נפרד, בהובלת OpenAI, שעוסק בתיאום טוב יותר בין מפתחי AI לממשלה, צפוי לדווח על ממצאיו עד 31 בדצמבר.
ביקורת מהירוקים, תמיכה מהאופוזיציה
חוקר הבינה המלאכותית טובי וולש תמך בכיוון הכללי ואמר לגארדיאן אוסטרליה כי האנשים שמנהלים את חברות ה-AI צריכים לשאת באחריות פלילית כדי להבטיח שינהגו כראוי: "ניסינו לקנוס אותן, ולא רק אנחנו. החברות האלה עשירות להפליא, וכמעט בלתי אפשרי לקנוס אותן מספיק".
מנגד, מנהיג מפלגת הירוקים דייוויד שובריג' תייג את ההכרזה כ"כניעה" לתעשיית הבינה המלאכותית, וטען שהרפורמה לא תעשה מספיק כדי לשנות את התנהגות החברות. "הבטיחות ממשיכה לבוא במקום שני אחרי השקעה תאגידית, והסקירה הזאת מנציחה את זה על ידי קשירת כל מאמץ בטיחותי בתחום לכניסת עוד כסף ועוד מרכזי נתונים", אמר. בצד הפוליטי השני, שר הצללים לענייני פנים ג'ונו דוניאם מסר כי האופוזיציה תומכת בהכרזה ואין לה ביקורת עליה, וציין כי "AI חשוב מכדי להפוך לוויכוח פוליטי מפלג מיותר". אלבניזי עצמו סיכם: "אנחנו מקבלים את כל ההמלצות, והתחלנו לעבוד על יישומן".
