אמש (רביעי) שיגר ראש מערך הסייבר הלאומי, יוסי כראדי, מסמך אסטרטגי דרמטי למנהיגים ולראשי ארגוני הגנת סייבר ברחבי העולם. במסמך מזהיר כראדי מפני אובדן שליטה בסוכני ומודלי בינה מלאכותית, וקורא למדינות להגדיר בדחיפות גבולות ריבוניים ברורים. לדבריו במסמך, "אנחנו מתקרבים למציאות שבה מערכות הגנת סייבר יצטרכו לקבל החלטות בקצב שאינו מאפשר מעורבות אנושית בכל פעולה".

אזהרתו של כראדי מגיעה על רקע מקרים אחרונים בעולם שבהם פרצו סוכני AI למאגרים ממשלתיים, ועוד מקרים רבים שבהם חברות איבדו שליטה על פעולות הסוכנים. לכן קורא כראדי למנהיגי מדינות ולראשי גופי סייבר בעולם לקבוע כבר כעת אילו סמכויות ניתן להעביר למערכות בינה מלאכותית, ואילו החלטות חייבות להישאר באופן מוחלט בידי אדם. לדבריו, קצב ההתפתחות של מערכות AI מהיר הרבה יותר מקצב ההתאמה של מנגנוני המדיניות, הרגולציה והבקרה של המדינות.

מהירות של מכונה והפרדוקס הביטחוני

האזהרה המרכזית במסמך נוגעת לעולם הביטחוני: ככל שמתקפות סייבר הופכות מהירות, אוטומטיות וממוקדות יותר, מערכות ההגנה יידרשו גם הן לזהות, להחליט ולפעול במהירות של מכונה – מהירות שתהיה מעבר ליכולת להפעיל אישור אנושי לכל פעולה. אלא שהפרדוקס הוא שככל שמעניקים למערכת יותר אוטונומיה, כך קשה יותר להבין את החלטותיה, לעצור אותן בזמן ולקבוע מי נושא באחריות במקרה של טעות.

במסמך מציג כראדי תרחיש שטח שממחיש את הסיכון הקריטי: מערכת הגנת סייבר אוטונומית מזהה מתקפה שאין לה תיקון אבטחה ("יום אפס") ונדרשת לבודד תשתית בתוך שניות ספורות. החלטה נכונה עשויה לבלום מתקפה קטלנית, אך זיהוי שגוי עלול לגרום להשבתת רשת חיונית כמו חשמל או בית חולים.

המשולש האסטרטגי ומדרג הסמכויות

לצורך כך מציע כראדי למדינות לאמץ את המשולש האסטרטגי של הבינה המלאכותית, המאזן בין שלושה אינטרסים מרכזיים: חדשנות, ביטחון ושליטה אנושית. השאלה, לפי המודל, אינה אם לאמץ AI אלא איפה להאיץ את השימוש בו, איפה תלות בספקים ובתשתיות חיצוניות יוצרת סיכון לאומי, ואילו סמכויות אינן יכולות לעבור למכונה.

כראדי מציע למדינות לקבוע מדרג ברור בן ארבע דרגות: פעולות שניתן להעביר באופן מלא ל-AI; פעולות שמותרות רק תחת מגבלות שהוגדרו מראש; פעולות המחייבות אישור אנושי; ופעולות בעלות השלכות לאומיות בלתי הפיכות שאסור להאציל למערכת אוטונומית כלל, שיתויגו כ"סמכות ריבונית שאינה ניתנת להאצלה".

ראש מערך הסייבר הלאומי חותם את פנייתו בקריאה נחרצת ללקיחת אחריות לאומית וריבונית: "מנהיגים אינם צריכים להפוך למהנדסי AI, הם צריכים להחליט היכן תלות היא מקובלת, היכן חוסן אינו נתון למשא ומתן, והיכן הסמכות האנושית חייבת להישאר מכרעת". כראדי מסכם בפנייה למנהיגי העולם: "אל תשאירו לאחרים להגדיר את העתיד שלכם, רתמו אותם לבנות את העולם שאתם מאמינים בו".