חברת הבינה המלאכותית OpenAI הציגה את GPT-6 Cyber, מודל חדש שפותח במיוחד כדי לאתר פרצות אבטחה בתוכנה, לפתח עבורן ניצולים (exploits – קוד שמנצל את הפרצה כדי לתקוף מערכת בפועל) ולהציע תיקונים. לפי החברה, המודל כבר הוכיח את עצמו בשטח: בקמפיין ממוקד הוא איתר 81 פרצות קריטיות שלא היו מוכרות קודם לכן בדפדפן פיירפוקס, שכבר נבדק בעבר בעזרת מודלים קודמים של בינה מלאכותית. מוזילה, החברה שמפתחת את פיירפוקס, קיבלה את הדיווחים והוציאה כבר תיקונים. המודל גם הראה ש-30 פרצות ידועות היו חמורות יותר משחשבו.
בגרעין מערכת ההפעלה לינוקס התוצאות היו דרמטיות עוד יותר: GPT-6 Cyber שחזר 1,724 פרצות אבטחה ופיתח ניצולים פעילים ל-948 מהן – פי חמישה בערך מה-166 שהדגם הקודם, GPT-5.6 Sol, הצליח לפתח בתנאים דומים. 304 מהממצאים הקריטיים דווחו למתחזקי לינוקס יחד עם הצעות תיקון. לפי OpenAI, כל הקמפיין עלה 1,213,430 דולר בעלויות מחשוב – כ-1,279 דולר לניצול בודד, נמוך משמעותית מהסכומים של 20,000 עד 70,000 דולר שתוכניות פרסים כמו Pwn2Own ו-TyphoonPWN נוהגות לשלם על ממצא דומה. החברה טוענת שהסוכנים השתמשו בלפחות עשר שיטות תקיפה חדשות, שלא היו מוכרות אפילו למומחי אבטחה חיצוניים בתחום הלינוקס – אם כי חוקרים עדיין חלוקים בשאלה האם מודלים כאלה אכן מגלים דברים חדשים, או רק משחזרים בדרכים שונות את מה שלמדו באימון.
סיווג חמור יותר, פחות חריגות מהכללים
OpenAI מדרגת את GPT-6 Cyber ברמת "קריטי" בתחום הסייבר, הדירוג הגבוה ביותר במסגרת הבטיחות הפנימית שלה (Preparedness Framework) – אותה רמה שקיבל גם GPT-6 Astra, המודל הראשי והכללי של החברה. קודמו, GPT-5.6 Cyber, סווג ברמה נמוכה יותר, "גבוה". לפי ההגדרה של OpenAI, מודל ברמת "קריטי" מסוגל לזהות ולפתח ניצולי יום-אפס פעילים – פרצות שאיש מלבד התוקף אינו מודע להן – בכל רמות החומרה, במערכות מוקשחות ומורכבות, בלי צורך בהתערבות אדם.
בבדיקות פנימיות, בלי הנחיות בטיחות מיוחדות, GPT-6 Cyber נשאר בגבולות שהוגדרו לו ב-99.93% מהמקרים, לעומת 94.49% בלבד אצל קודמו. כשהופעלו הנחיות בטיחות, שיעור הציות עלה ל-100%. פואד מתין, ראש צוות המוכנות והבטיחות בתחום הסייבר ב-OpenAI, אמר בתדרוך לעיתונאים כי "עם מודל ה-6 סייבר הצלחנו לחולל שיפור עצום במבחן הזה… הוא עושה את מה שמבקשים ממנו ביותר מ-99 אחוז מהמקרים". במבחן ExploitGym, שבודק אם מודל מסוגל לנצל בפועל פרצה במערכת מרוחקת, GPT-6 Cyber קיבל ציון של 48.5%, לעומת 32.1% אצל הדגם הקודם ו-42.4% אצל GPT-6 Astra.
מודל שמבין שהוא נבדק
בצד ההישגים, ב-OpenAI מודים שנותר אתגר: לעיתים המודל מזהה שהוא נמצא בתהליך בדיקה, ומשנה את התנהגותו בהתאם – תופעה שמכונה "מודעות להערכה". "זה נושא שעומד לנו ממש בראש", אמר מתין, והוסיף שבשרשרת החשיבה הפנימית של המודל אפשר לפעמים לראות סימנים לכך. כדי לצמצם את הבעיה, OpenAI מנסה להעדיף בדיקות שמדמות סביבת עבודה אמיתית, שבהן המודל פועל על קוד אמיתי לצורך מטרה אמיתית.
ההשקה מגיעה אחרי גל של אירועי אבטחה שקשורים בבינה מלאכותית, ובעקבותיו OpenAI השהתה לזמן קצר את אימון המודלים המתקדמים שלה והחילה הגבלות גישה לאינטרנט עליהם. אחד האירועים ששימש השראה למבחן הבטיחות החדש הוא מקרה שבו סוכני AI של OpenAI פרצו בעבר לקהילת הבינה המלאכותית הפתוחה Hugging Face בניסיון למצוא פתרון למשימה שהוטלה עליהם.
גישה מוגבלת, והגנה מיוחדת על תשתיות קריטיות
בשלב זה GPT-6 Cyber זמין רק דרך ה-API ודרך Codex, לקבוצה נבחרת של לקוחות בתוכנית Daybreak Red – מסגרת שמעניקה לחברות ולארגונים גישה למודלי הסייבר של OpenAI לצורך עבודת אבטחה הגנתית מורשית. הגישה צפויה להתרחב בהדרגה לכלל לקוחות התוכנית בשבועות הקרובים. במקביל, הדגם הקודם GPT-5.6 Cyber נפתח לכלל משתמשי Daybreak Red, וגישת האלפא לתוכנית המקבילה Daybreak Blue עבור GPT-6 Astra מורחבת לארגונים נוספים ולחוקרי אבטחה עצמאיים.
OpenAI אומרת שהיא שמה דגש מיוחד על הגנה על תשתיות קריטיות כמו תחנות כוח ומתקני טיהור מים, וחוסמת פעילות שמסווגת כ"בסיכון גבוה" נגדן. בין אמצעי ההגנה הנוספים שהחברה מונה: בדיקות שמוודאות שפעולות המודל תואמות להרשאות המשתמש, ניטור ממוקד אחרי פרצות שפורסמו לאחרונה, בדיקות בטיחות אוטומטיות, הגבלות גישה לפי כתובת IP בתוכנית Daybreak Red, והמלצה להריץ את המודל בסביבות מבודדות ותחת פיקוח אנושי. החברה גם מפעילה תוכנית מימון בהיקף של מיליארד דולר בשם "Daybreak for Frontline Defenders", ותת-קבוצה חדשה בשם "Daybreak Red for Critical Infrastructure" לבדיקות מורשות.
כל נתוני הביצועים שפורסמו מגיעים מ-OpenAI עצמה, וטרם פורסמה עליהם בדיקה חיצונית ובלתי תלויה. השאלה אם גישת OpenAI באמת תשרת את המגנים ולא רק את התוקפים גם היא פתוחה: חוקרים מ-Epoch AI הראו לאחרונה שגם מודל פתוח בשם GLM היה יכול לנצל פרצות ידועות בפיירפוקס שעדיין לא תוקנו.
