בימים האחרונים יצא לאקרנים בחו"ל, ואף זכה בפרס בפסטיבל הסרטים בוונציה, הסרט הבזוי והשערורייתי נז"א (נזק אגבי), שמשחיר את לוחמי צה"ל ומדינת ישראל ללא הוכחות שניתנות לבדיקה ובהסתמכות על ראיונות אנונימיים עם 24 חיילי מודיעין לכאורה. 

הסרט מאשים את ישראל ברצח עם ובזלזול בחיי אדם ברצועת עזה, והוא עוסק בגורמי המודיעין שמספקים מטרות לכוחות ובחיל האוויר ובכוחות הקרקע והים, שמשתמשים במודיעין המטרות המדויק הזה לחיסול איומי טרור מיידיים על אוכלוסיית ישראל ולהצלת חיים בישראל.

מובן שלא צפיתי בסרט, איני מתכוון לצפות בו, ואני לא ממליץ לשום ישראלי המכבד את עצמו לצפות בסרט הבזוי הזה. הסרט, על פי הפרסומים ברשתות ובכמה ערוצי תקשורת לא-אחראיים בישראל שמהדהדים אותו לחיוב, מפנה אצבע מאשימה לצה"ל, ללא ספק הצבא המוסרי ביותר בעולם, וגם לבינה המלאכותית (AI) , המשמשת לטענתו להכוונת האש ולפגיעה ללא הבחנה בחפים מפשע, המהווים לטענתו נז"א. לפיכך חשוב מאוד להבהיר את תפקידי הבינה המלאכותית במערכת הצבאית, בדגש על מערכות המודיעין המושמצות בסרט, ומדוע הטענות המועלות בסרט המגמתי הזה מופרכות מיסודן. 

טוב עשו הגורמים המוסמכים, ובראשם הרמטכ"ל, הפצ"ר, שר התרבות והספורט וגורמים רשמיים נוספים, שיצאו באופן חד נגד הפרסום, וחלקם אף הודיע שינקוט את הצעדים המתבקשים האפשריים לפי החוק כדי לבדוק את התגובה האפשרית נגד מבאישי שמה של ישראל בעולם.

בשבוע הבא אפרוס במאמר המשך את עיקרי המלצות ועדת נגל להאצת תחום הבינה מלאכותית, שהוגשו לראש הממשלה נתניהו לקראת סוף שנת 2025, והתמקדו בעיקר במגזר הממשלתי האזרחי ולא הביטחוני. בעקבות ההמלצות הוקם במשרד ראש הממשלה מטה ה- AIהממשלתי, בראשות תת-אלוף (במיל') ארז אסקל, שעושה עבודת קודש רצינית, ובתקופה קצרה הצליח להקים גוף מהותי וחשוב מאוד.

החלטה לתקוף אינה מתקבלת ובשנים הקרובות כנראה לא תתקבל רק על ידי אלגוריתמים מבוססי AI; היא תתבצע רק על ידי גורמים אנושיים מוסמכים, כולל ליווי משפטי הדוק, בדיוק כמו שנעשה לדוגמה באפליקציות AI המערבות חיי אדם ברפואה.

הבינה המלאכותית היא כלי חשוב מאוד, במגבלות המתחייבות, במספר רב של אפליקציות צבאיות, מסווגות (שעליהן כמובן לא ארחיב) ולא-מסווגות. בעזרת כלי AI אפשר לטפל טיפול מיטבי (קריאה, כתיבה, עיבוד) בשפה טבעית. מכיוון שחלק ניכר מהתוצר המודיעיני הוא טקסט על סמך קונטקסט עשיר ודינמי, ה-AI מצליח לספק תוצאה טובה יותר מהאלגוריתמיקה הקלסית הישנה, שלרוב טובה בטיפול במשימות יציבות, חוזרות על עצמן ומעוטות קונטקסט. 

אפשר להשתמש ב-AI כדי לסקור את הידיעות הקיימות ולאתר פערים בין הידיעות ובין ההערכה המודיעינית, וכך לצמצם את הסיכוי לשגיאה חמורה בהערכה (כגון זו שייתכן שהייתה לפני 7 באוקטובר).

כפי שנרמז בסרט המדובר לעיל, אפשר להשתמש ב-AI להאצת תהליך איתור האויב והפללת מטרות. חשוב מאוד להבין במקרה הזה את התפקיד המיוחד של האדם במערכת (man in the loop), שכן הגורם היחיד שמקבל החלטה על חיים ומוות הוא אדם.

ה-AI משמש גם להאצת תפקודי עיבוד מידע שדורשים קונטקסט גבוה או שילוב בין סוגי חומר שונים. מודולי שפה טבעית גדולים ((LLM נוטים להצטיין במשימות עיבוד והיתוך מידע מסוגים שונים (מולטי-מודאליות), וכך לקשור בין פריטי טקסט, שמע, תמונה ומידע מובנה בצורה נוחה ואגב יכולת משופרת להיתוך המידע ושיפור ההבנה. 

לכלי AI שימושיות גם באיתור סימנים חלשים במיוחד וחיבור ביניהם – משימה קשה במיוחד למודיעין האנושי באופן מסורתי, ובפרט בתחום ההתרעה. תכונה זו נובעת מיכולת ה-AI לסקור כמויות גדולות במיוחד של נתונים ולמצוא סימנים מעידים שלבן אנוש יהיה קשה להבחין בהם. 

ל- AI שימושים מרכזיים נוספים בצה"ל ובמערכת הביטחון, וכולם מנוטרים ומופעלים בזהירות הראויה: 

AI לפיתוח תוכנה: בעזרת כלי AI אפשר לכתוב קוד למערכות הצה"ליות במהירות וביעילות, כיוון שמדובר בשפה מובנית ועשירה בדאטה בשונות די נמוכה. כך אפשר להוזיל עלויות תוכנה ולפתח מהר יותר, בהתאמה לצרכים המבצעיים הדינמיים שאופייניים לצבא. מכיוון שהצבא עוסק במשימות קריטיות לחיי אדם, חשוב מאוד לוודא (באמצעות תהליכי בקרה מקצועיים ואנושיים), וכך אכן נעשה בפועל, כי התוכנה הנכתבת, ובסופו של דבר משולבת במערכות המבצעיות, היא ברמת ביצוע טובה, עומדת בעומסים ובמקרי קצה ומספקת תוצאה יציבה ורובוסטית גם בתנאי קיצון. בתחום זה יש הבדלים בין צה"ל לארגונים אחרים בעולם, אך הם קטנים למדי. 

עם התחזקות המודלים והפיכתם לבעלי יכולות מרחיקות לכת, הטכנולוגיה (חומרה ותוכנה) כבר אינה רק טכנולוגיה גלובלית שהפצתה מתבצעת לפי עקרונות של היצע, ביקוש ויעילות כלכלית, והופכת לנכס לאומי לכל דבר, שיש מגבלות על הייצוא שלו, וייצור כל מרכיביו מקודם על ידי ממשלות

 AI פיזי Physical AI)): חלק גדול מהמשימות הצבאיות עוסק בעיצוב המרחב הפיזי, בדרך כלל בתנאי סכנה ובעומק. AI פיזי מאפשר לדוגמה ניווט, הפעלת רובוטים (Robotic and Autonomous Systems), תגובה מהירה על איומים (זיהוי, מיטיגציה) ועוד. גם במקרים אלו יתקבלו ההחלטות הקשורות לחיי אדם רק לאחר הפעלת גורם אנושי בחוג, שידע לקבל את ההחלטות המושכלות בהתחשבות בתנאי הסביבה המיוחדים ובמגבלות האתיות. תחום זה ייחודי לצבאות, וצה"ל הוא מהמתקדמים בנושא.

AI לסייבר: מכיוון שכלי AI מצטיינים בכתיבת קוד, הם מצטיינים באופן טבעי גם באיתור באגים (חולשות) בקוד ובהשמשתם לטובת התוקף, לצד רכיבי פיתוח אחרים שנדרשים בתחום זה. מובן שכלי AI שמזהים חולשות ומשמישים אותם יכולים לסייע גם באיתור תוקפים. 

תחום זה היה שנים ארוכות ייחודי לצבאות ולגופים ביטחוניים, אך לאחרונה כלי AI מובילים, כדוגמת מיתוס של אנטרופיק, פיתחו כלים "מסוכנים" של גילוי חולשות והפניית תשומת הלב של מפתחי התוכנה לסגירת הפרצות, מה שיקשה על גופי הביון בעולם, וגם על צה"ל.

מכל הנכתב לעיל אפשר לראות בבירור כי בשונה מהנאמר בסרט המדובר, השימוש ב-AI במערכות הצה"ליות מלווה במתודולוגיות הפעלה ברורות וזהירות מאוד ושומר על מוסריותו של צה"ל במאה אחוז.

הפקודות והנהלים קובעים חד-משמעית שלא יהיה שימוש בלעדי באפליקציות בינה מלאכותית במקרים הקשורים לחיי אדם ללא מעורבות אנושית. החלטה לתקוף אינה מתקבלת ובשנים הקרובות כנראה לא תתקבל רק על ידי אלגוריתמים מבוססי AI; היא תתבצע רק על ידי גורמים אנושיים מוסמכים, כולל ליווי משפטי הדוק, בדיוק כמו שנעשה לדוגמה באפליקציות AI המערבות חיי אדם ברפואה.

מקבלי ההחלטות בהחלט נעזרים ב-AI כדי למצות את מקסימום המידע וההמלצות, כולל הצגת תקדימי העבר, על מנת לקבל את ההחלטה המושכלת ביותר, וטוב שכך. אף שזה נשמע מפתה, מערכות ה-AI אינן מיועדות להחליף את אנשי המקצוע.

מעבר למחקר המדעי גרם השימוש בכלי AI להתפתחות רחבה של מתודולוגיות בחינה (אבלואציה) להבטחת דיוק המוצר ביחס לסף הביצועים שהוגדרו, כדי שיהיה אפשר להשתמש במערכות שימוש מבצעי. התהליך כולל בחינת יציבות האלגוריתמים לאורך זמן ובתנאים שונים על ידי יצירת מדגמים אקראיים ופיתוח מנגנוני רגולציה ואישורים רבים לפני שתוסמך מערכת ה-AI להציג המלצות לשימוש אנושי, אף שמדובר רק בהמלצות ולא בקבלת ההחלטות. הפללה שתגרור תקיפה, תכלול בכל מקרה לפחות שתי אינדיקציות נפרדות ממקורות בלתי תלויים ותתבצע רק בהחלטה של גורם אנושי.

הבינה המלאכותית: יכולת אסטרטגית בצה"ל

עם התחזקות המודלים והפיכתם לבעלי יכולות מרחיקות לכת, הטכנולוגיה (חומרה ותוכנה) כבר אינה רק טכנולוגיה גלובלית שהפצתה מתבצעת לפי עקרונות של היצע, ביקוש ויעילות כלכלית, והופכת לנכס לאומי לכל דבר, שיש מגבלות על הייצוא שלו, וייצור כל מרכיביו מקודם על ידי ממשלות באופן מקומי כדי לתמוך בצרכים הלאומיים תחילה.

בתקופה האחרונה גם המודלים עצמם הופכים לנכס אסטרטגי לאומי, ובתנאים אלה נשאלת השאלה מהי מידת העצמאות שישראל זקוקה לה בענייני המודלים, גם במודלים האזרחיים וגם במודלים שנעשה בהם שימוש לצרכים צבאיים. נושא זה נדון בהרחבה בוועדת נגל, שטיפלה ב-AI במערכות הממשל והאקדמיה בישראל, ועל כך ועל הצורך בהכשרות המתאימות נרחיב במאמר הבא. אומר רק שתוכניות עילית צה"ליות כמו אלונים או ברקת נועדו בדיוק על מנת להכשיר לצה"ל את כוח האדם הנדרש לו למיזמי Data Science בכל הרמות, ובוגרי התוכניות הללו מבוקשים מאוד בכל יחידות החוד הטכנולוגיות בצה"ל, בכל החילות.

כמו במערכות הצבאיות, גם במערכות האזרחיות אפשר למצוא יישומים שמערכות AI עלולות למצוא בהן את עצמן מחליטות בנושאים של חיים ומוות, בדרך כלל באופן עקיף. במערכות האזרחיות הניטור והפיקוח דרקוניים יותר, וזו כנראה אחת הסיבות שמערכות אוטונומיות אזרחיות, כמו הרכב האוטונומי, נכנסות לשימוש בקצב איטי בהרבה מהתחזיות, אך מצד שני יכולות הפיקוח קשות יותר לאכיפה, וייתכן שנראה בעתיד מערכות אזרחיות הנעזרות ב-AI שטעויות בהפעלתן עלולות לגרום לאובדן חיי אדם.

לצערי ישראל עדיין אינה המובילה העולמית בתחומי ה-AI כפי שהיא מובילה בסייבר, במיוחד בתחומים האזרחיים אבל לא רק בהם, והקמת מטה ה-AI במשרד ראש הממשלה נועדה בין השאר להביא את ישראל לצמרת העולמית בתחום חשוב זה.

תא"ל (במיל') פרופ' יעקב נגל שימש היועץ לביטחון לאומי של ראש הממשלה נתניהו וראש המל"ל בפועל. הוא משמש פרופסור אורח בטכניון ועמית בכיר (senior fellow) במכון המחקר FDD בוושינגטון