עשרים שנות מאסר. לא על רצח, לא על סחר בסמים ולא על תכנון פיגוע טרור. אם תתקבל הצעת חוק חדשה בארצות הברית, גם מי שיפתח בינה מלאכותית מתקדמת בניגוד לאיסורים שתקבע הממשלה עלול להישלח לכלא לתקופה כזאת. מי שחשב שהוויכוח על עתיד הבינה המלאכותית מתנהל בעיקר בין מהנדסים, מדענים ויזמים בעמק הסיליקון, מוזמן להכיר את התוכנית של הסנטור היהודי (והאנטי-ישראלי) ברני סנדרס.
ב-23 בספטמבר הציג סנדרס, המזוהה עם האגף הפרוגרסיבי של המפלגה הדמוקרטית, הצעת חוק עם חבר הקונגרס הדמוקרטי גרג קסאר מטקסס. השניים מבקשים לאסור פיתוח של בינה מלאכותית על-אנושית, להקפיא זמנית פיתוח של מערכות מתקדמות נוספות ולהקים גוף ממשלתי חדש שיפקח על התעשייה. לפי ההצעה, גוף פיקוח חדש יוכל לבדוק מערכות, להגביל יכולות מסוכנות ואף להורות על השמדתן. הפרת האיסורים עלולה לגרור עונשי מאסר של עד עשרים שנה, ובמקרים מסוימים גם סנקציות שיובילו לפירוק חברות.
הנימוק דרמטי לא פחות מההצעה. סנדרס מזהיר מפני טכנולוגיה שעלולה לצאת משליטת האנושות, לגרום למותם של המונים ואף לאיים על עצם קיומה. בדבריו הבינה המלאכותית כבר אינה מוצגת כעוד פיתוח טכנולוגי המחייב זהירות אלא כאיום פוטנציאלי בסדר גודל של נשק גרעיני, ואולי אף חמור ממנו.
אלא שבניגוד לנשק גרעיני, שפיתוחו מחייב מתקנים עצומים, חומרים מיוחדים ותשתיות תעשייתיות יקרות, חלק ממערכות הבינה המלאכותית ניתנות להפעלה באמצעות מחשבים ושרתים מסחריים. ככל שהטכנולוגיה משתכללת והעלויות יורדות, גם חברות קטנות, אוניברסיטאות וקבוצות מפתחים עצמאיות מסוגלות להפעיל מערכות שהיו בעבר נחלתן הבלעדית של חברות הענק.
מבחינת סנדרס מדובר בסכנה המחייבת התערבות ממשלתית. אלא שאותה התפתחות בדיוק יכולה להיחשב לאחד ההישגים הגדולים של מהפכת הבינה המלאכותית: טכנולוגיה שהייתה מרוכזת בידי קומץ תאגידים מתחילה להגיע לידי הציבור הרחב.
האזהרות האפוקליפטיות אינן חידוש של עידן הבינה המלאכותית, גם לא של סנדרס. בעשורים האחרונים הפכו תחזיות על אסונות מתקרבים לחלק בולט מהשיח הפרוגרסיבי, בעיקר סביב משבר האקלים. בשנת 2019 לדוגמה הזהירה חברת הקונגרס הדמוקרטית אלכסנדריה אוקסיו-קורטז כי העולם יגיע לקיצו בתוך 12 שנים אם לא יינקטו צעדים לבלימת ההתחממות הגלובלית. סנדרס היה נחרץ אף יותר: בעימות המועמדים הדמוקרטים לנשיאות בפברואר 2020 הזהיר כי אם האנושות לא תפעל בנחישות בתוך שש עד שבע שנים, ייגרם לכדור הארץ נזק בלתי הפיך.
עצם העובדה שהאנושות לא נכחדה אינה מפריכה את הסכנות הכרוכות בשינויי האקלים, אבל היא ממחישה את הבעייתיות שבהפיכת תחזיות מדעיות מורכבות לשעון חול פוליטי
שש שנים וחצי חלפו מאז, והעולם עדיין עומד על תילו. כמובן, עצם העובדה שהאנושות לא נכחדה אינה מפריכה את הסכנות הכרוכות בשינויי האקלים, אבל היא ממחישה את הבעייתיות שבהפיכת תחזיות מדעיות מורכבות לשעון חול פוליטי. כאשר כל משבר מוצג כאיום קיומי מיידי, קל יותר להצדיק צעדים מרחיקי לכת ולהציג את המתנגדים להם כמי שמסכנים את עתיד האנושות.
כעת, כשסנדרס מזהיר מפני סכנת הכחדה חדשה ודורש סמכויות ממשלתיות חריגות כדי להתמודד עימה, קשה להתעלם מהדמיון שבין שני המאבקים: תחזיות קטסטרופליות, תחושת חירום והצגת רגולציה נרחבת כתנאי להצלת האנושות. השאלה אינה אם יש סיכונים אמיתיים אלא אם הפחד מפניהם הופך לכלי פוליטי בפני עצמו.
וכאן מתעוררת שאלה: האם המאמץ להציל את האנושות מפני הבינה המלאכותית עלול להסתיים דווקא בהפקדת עתידה בידי קומץ חברות ופקידים ממשלתיים בעלי אג'נדה פרוגרסיבית?
כשהיצרנים מבקשים מהממשלה לעצור אותם
כדי להבין את הפרדוקס צריך לחזור כמה שנים לאחור, לתקופה שבה הבינה המלאכותית הפכה מתחום מחקר המוכר בעיקר למומחים למוצר צריכה עולמי. עם השקת צ'אט ג'יפיטי בסוף 2022 נפתחה תחרות חסרת תקדים בין חברות הטכנולוגיה. מיקרוסופט, גוגל, מטא (חברת האם של פייסבוק), אופן איי-איי (OpenAI) ואנתרופיק השקיעו סכומי עתק בפיתוח מודלים מתקדמים, בהקמת חוות שרתים ובגיוס חוקרים.
במקביל למרוץ העסקי החלו כמה מראשי התעשייה להשמיע אזהרות חריפות מפני הטכנולוגיה שהם עצמם מפתחים.
סם אלטמן, מנכ"ל אופן איי-איי, קרא להקמת מנגנוני פיקוח בין-לאומיים על מערכות מתקדמות במיוחד. דריו אמודיי, מנכ"ל אנתרופיק, הזהיר מפני יכולות מסוכנות המתפתחות במהירות ותמך בפיקוח שיאפשר למנוע השקה של מודלים מסוימים. דמיס הסביס, העומד בראש גוגל דיפמיינד – חטיבת הבינה המלאכותית של גוגל, האחראית בין היתר לפיתוח ג'מיני, המתחרה של צ'אט ג'יפיטי – תמך אף הוא בהקמת מנגנוני פיקוח ובטיחות.
השימוש בבינה המלאכותית בישראל – בצה"ל ומערכת הביטחון | חלק א
האזהרות אינן מופרכות מעיקרן. מערכות בינה מלאכותית מסוגלות לסייע בביצוע מתקפות סייבר, ליצור הונאות משכנעות, להפיץ מידע כוזב בהיקפים עצומים ולשמש כלי עזר לפיתוח אמצעי לחימה. ככל שמתרחבת יכולתן לפעול באופן עצמאי, מתעוררות גם שאלות רציניות על היכולת לפקח על החלטותיהן.
עם זאת יש מחלוקת מדעית עמוקה בנוגע לסיכוי שמערכות כאלה יפתחו יכולות שיאיימו על עצם קיום האנושות, ובוודאי לגבי לוחות הזמנים שבהם תרחיש כזה עלול להתממש. האזהרות האפוקליפטיות הן תחזיות לגבי העתיד, לא תיאור של סכנה שכבר הוכחה.
גם שאלת האינטרסים אינה פשוטה. חברות הטכנולוגיה הגדולות אינן פועלות כמקשה אחת, ולעיתים האינטרסים שלהן מנוגדים. ובכל זאת דווקא כמה מהשחקניות החזקות בענף קוראות להטיל מגבלות ממשלתיות על פיתוח מערכות בינה מלאכותית מתקדמות. לכאורה מדובר בדרישה תמוהה: מדוע שחברות הנמצאות בעיצומו של מרוץ טכנולוגי יבקשו מהממשלה להציב בפניהן מכשולים? אלא שמה שנראה כחיסרון לחברה גדולה ומבוססת עלול להפוך למחסום בלתי עביר למתחרותיה הקטנות.
בעולם העסקים רגולציה אינה בהכרח אויבת של החברות הגדולות. לפעמים היא דווקא בעלת הברית הטובה ביותר שלהן.
נניח שהממשל האמריקאי יחליט כי כל חברה המבקשת לפתח מודל מתקדם חייבת להעסיק צוותי בטיחות, לערוך בדיקות מקיפות, לשכור עורכי דין, לעמוד בדרישות דיווח ולהשיג אישור ממשלתי לפני השקת המוצר. לגוגל או למיקרוסופט מדובר בהוצאה נוספת, אולי ניכרת, אך כזאת שאפשר לספוג. לחברת הזנק קטנה אותן דרישות עלולות להפוך את הפיתוח לבלתי אפשרי.
התופעה מוכרת היטב בכלכלה הפוליטית ונקראת שבי רגולטורי: מצב שבו מנגנון הפיקוח הציבורי מושפע מהאינטרסים של הגופים שהוא אמור לפקח עליהם. אין הכרח להוכיח מזימה חשאית או שחיתות לנכונות התאוריה. די שהרגולטור מסתמך על מומחים מהתעשייה, מאמץ תקנים המותאמים ליכולותיהן של החברות הגדולות ומטיל דרישות שמכבידות במיוחד על מתחרות קטנות.
במקרה של הבינה המלאכותית החשש מקבל משמעות מיוחדת לנוכח שינוי דרמטי המתחולל בשוק.
בפברואר חצה לראשונה לפרק זמן קצר נתח הטוקנים של המודלים הפתוחים את רף חמישים האחוזים. באפריל הפכה המגמה ליציבה יותר, ובתחילת יולי הגיע נתח השימוש במודלים הפתוחים לשיא של 79%
המהפכה השקטה של המודלים הפתוחים
מרבית הציבור מכיר את הבינה המלאכותית באמצעות שירותים כמו קלוד, צ'אט ג'יפיטי, ג'מיני ודומים להם. המשתמש נכנס לאתר או לאפליקציה, מקליד שאלה ומקבל תשובה. מאחורי הקלעים פועלת מערכת מורכבת הנשלטת בידי החברה המפתחת. החברה מחליטה אילו יכולות יהיו זמינות, כמה יעלה השימוש, אילו בקשות ייענו ואילו ייחסמו.
אבל יש גם דרך אחרת: מודלים פתוחים, המאפשרים למפתחים להוריד את מערכת הבינה המלאכותית ולהפעיל אותה על מחשבים ושרתים משלהם בלי להיות תלויים בחברה שפיתחה אותה. כך יכולים גם עסקים קטנים, חוקרים ומפתחים עצמאיים להשתמש בטכנולוגיה מתקדמת, להתאים אותה לצורכיהם ולעיתים אף לשפר אותה, בלי לשלם בעבור כל פעולה לחברות הענק ובלי להיות כפופים לכל מגבלות השימוש שהן קובעות.
לא כל מודל כזה הוא קוד פתוח במובן המלא. לעיתים החברה מאפשרת לציבור להוריד את המודל ולהפעילו באופן עצמאי, אך אינה חושפת את המידע שאומן עליו או את מלוא הקוד ששימש לפיתוחו. למרות ההבדלים עצם האפשרות להפעיל מודלים מחוץ לשליטת היצרן משנה את כללי המשחק.
כדי להבין את היקף השימוש במודלים הפתוחים כדאי לבחון את נתוני אופן ראוטר, פלטפורמה המאפשרת להשתמש במגוון רחב של מערכות בינה מלאכותית. היקף הפעילות נמדד בטוקנים, שהם מעין יחידות מידה של כמות הטקסט שהמערכת קוראת וכותבת. למשל, כשאדם מבקש מהבינה המלאכותית לתכנן לו חופשה משפחתית באיטליה, המערכת מעבדת את הבקשה, הכוללת את היעדים הרצויים, את התקציב ואת מספר ימי החופשה ויוצרת בתגובה מסלול טיול הכולל המלצות על מקומות לינה ועל אטרקציות. גם עיבוד הבקשה וגם כתיבת התשובה נספרים בטוקנים. לכן הנתונים אינם מלמדים כמה אנשים משתמשים בכל מערכת אלא מה היקף הפעילות שלה לעומת מערכות האחרות בפלטפורמה.
לפי נתונים שפרסמה אופן ראוטר, מתרחש שינוי דרמטי בדפוס השימוש בטוקנים. בתחילת השנה עדיין נהנו המודלים הסגורים מיתרון ברור בנפח השימוש. בפברואר חצה לראשונה לפרק זמן קצר נתח הטוקנים של המודלים הפתוחים את רף חמישים האחוזים. באפריל הפכה המגמה ליציבה יותר, ובתחילת יולי הגיע נתח השימוש במודלים הפתוחים לשיא של 79%. בשבוע שבין 14 ל-20 בספטמבר עמד הנתון על כ-72%.
הנתונים גם אינם כוללים את מלוא הפעילות המתבצעת ישירות בשירותים של החברות הגדולות, אבל הם מצביעים על מגמה חשובה בשוק המפתחים: מערכות פתוחות, שבעבר נתפסו כחלופה נחותה למוצרים המובילים, תופסות נתח ממשי מהפעילות.
לענקיות הטכנולוגיה השאלה החשובה אינה רק כמה הן מרוויחות כיום. אם יוכלו עסקים ומפתחים לקבל תוצאות טובות במחיר נמוך יותר, ייחלש בהדרגה כוחן לקבוע מחירים ותנאי שימוש. זו בדיוק התחרות שרגולציה יקרה ומורכבת עלולה להקשות עליה.
למהפכה הזאת יש גם צד גאופוליטי מפתיע. לפי אותם נתונים, כ-69% מהטוקנים שעובדו באופן ראוטר בשבוע שבין 14 ל-20 בספטמבר הגיעו ממודלים שפותחו במעבדות סיניות. למעשה, כמעט כל הזינוק בשימוש במודלים פתוחים קשור להתקדמות של חברות מסין. דיפסיק הסינית היא הדוגמה המוכרת ביותר, אבל אינה היחידה. חברות סיניות נוספות מציעות מודלים מתקדמים במחירים נמוכים, לעיתים באפשרות להפעלה עצמאית. הפער הטכנולוגי בינן ובין המודלים האמריקאיים המובילים הצטמצם בתחומים מסוימים, והיתרון במחיר הופך אותן לאטרקטיביות במיוחד למפתחים ולעסקים.
לנתונים הללו יש גם משמעות מדינית. אם ארצות הברית תטיל מגבלות נוקשות על פיתוח והפצה של מודלים פתוחים, האם תצליח להגן על הציבור, או שמא תדחוף מפתחים ולקוחות דווקא לעבר חלופות סיניות?
אין תשובה פשוטה. הפצת מודלים חזקים ללא מגבלות עלולה להקשות על מניעת שימוש פלילי או ביטחוני. מנגד, חסימת התחרות המקומית אינה מבטיחה שהטכנולוגיה תיעצר גם מחוץ לגבולות ארצות הברית.
הדילמה כבר אינה רק טכנולוגית. מדובר בשאלה הנוגעת לעליונות הכלכלית והאסטרטגית של המעצמה האמריקאית.
כשביקשו משתמשים תמונות של חיילים גרמנים משנת 1943, הופיעו בין היתר חיילים שחורים ונשים ממוצא אסייתי במדים גרמניים. בקשות לתמונות של האבות המייסדים של ארצות הברית הניבו דמויות של גברים שחורים, אסייתיים ואינדיאנים
מלחמת התרבות מגיעה לבינה המלאכותית
הדיון על הסכנות הטכנולוגיות והאינטרסים הכלכליים משתלב במאבק פוליטי עמוק הרבה יותר. בארצות הברית של 2026 שאלת עתידה של הבינה המלאכותית כבר אינה מנותקת מהעימות בין הימין השמרני לשמאל הפרוגרסיבי. לחלקים ניכרים בימין החשש אינו רק מפני מחשבים שיהפכו לחכמים מדי, אלא מפני בני האדם שיקבעו מה מותר למחשבים לומר.
שנים טענו שמרנים אמריקאים כי חברות הטכנולוגיה הגדולות מפעילות כללים המעניקים עדיפות לעמדות ליברליות ופרוגרסיביות. הוויכוחים על חסימת חשבונות בטוויטר לפני רכישתה בידי אילון מאסק, על מדיניות הסרת התכנים בפייסבוק ועל האופן שבו ויקיפדיה מציגה סוגיות פוליטיות שנויות במחלוקת, הפכו לחלק בלתי נפרד ממלחמת התרבות האמריקאית.
מידת ההטיה בכל אחת מהפלטפורמות נתונה לוויכוח, אבל החשש השמרני ברור: כאשר קומץ חברות שולט בנתיבי הגישה למידע, החלטות שנראות טכניות או מקצועיות עלולות להשפיע על גבולות השיח הציבורי.
בניגוד למנוע חיפוש מסורתי, המציג למשתמש קישורים למקורות שונים, מערכות בינה מלאכותית מסוגלות לנסח תשובה אחת, סדורה ומשכנעת. למשתמשים רבים התשובה המתקבלת כבר אינה נקודת פתיחה למחקר אלא המסקנה הסופית.
ומי מחליט כיצד תיראה התשובה? במידה רבה החברות המפתחות את המודלים. באמצעות בחירת נתוני האימון, ההנחיות הניתנות למערכות, תהליכי הבטיחות וההגבלות על תכנים אפשר להשפיע על אופן ההתייחסות לנושאים רגישים.
ההשפעה אינה חייבת להיות תוצאה של הוראה מפורשת להעדיף מועמד דמוקרטי על פני מועמד רפובליקני. לעיתים די בבחירת המילים, בהצגת עמדה מסוימת כעובדה מוסכמת או בהגדרת טענה אחרת כמסוכנת כדי לעצב את גבולות הדיון.
מבחינת הימין האמריקאי לא מדובר בחשש תאורטי בלבד. בפברואר 2024 התברר כי מחולל התמונות של ג'מיני, מערכת הבינה המלאכותית של גוגל, מציג לעיתים היסטוריה חלופית ומשונה במיוחד: כשביקשו משתמשים תמונות של חיילים גרמנים משנת 1943, הופיעו בין היתר חיילים שחורים ונשים ממוצא אסייתי במדים גרמניים. בקשות לתמונות של האבות המייסדים של ארצות הברית הניבו דמויות של גברים שחורים, אסייתיים ואינדיאנים, ואפילו האפיפיורים לאורך ההיסטוריה הוצגו לעיתים כנשים וכבני מיעוטים. הסיבה לא הייתה גילוי היסטורי מרעיש אלא ניסיון של גוגל להבטיח ייצוג מגוון של קבוצות אוכלוסייה בתמונות שהמערכת מייצרת, גם במקרים שבהם הגיוון בא על חשבון הדיוק ההיסטורי. המבוכה הייתה גדולה כל כך עד שגוגל התנצלה והשעתה זמנית את האפשרות לחולל תמונות של בני אדם באמצעות ג'מיני.
ביולי 2025 הפך טראמפ את המאבק למדיניות רשמית. בצו נשיאותי שכותרתו "מניעת בינה מלאכותית ווקית בממשל הפדרלי" הורה הנשיא לסוכנויות הממשל לרכוש מערכות בינה מלאכותית בהתאם לעקרונות של חתירה לאמת ולניטרליות אידאולוגית. הצו תקף במיוחד את תוכניות הגיוון, השוויון וההכלה, המוכרות בראשי התיבות DEI, בטענה שהן עלולות לגרום למערכות לעוות עובדות כדי להתאימן לתפיסות פוליטיות.
במילים אחרות, ממשל טראמפ אינו מסתפק בטענה שצריך להניח לתעשייה להתפתח. הוא מבקש למנוע מצב שבו ערכים פרוגרסיביים יהפכו לברירת המחדל של המערכות שישמשו בעתיד מאות מיליוני בני אדם.
מכאן נובע גם הקשר למאבק על המודלים הפתוחים. ככל שהציבור תלוי במספר קטן של מערכות סגורות, כך גדלה יכולתן של החברות לקבוע את כללי השימוש. לעומת זאת האפשרות להפעיל מודלים באופן עצמאי, להתאים אותם ולפתח חלופות יכולה לצמצם את התלות ב"שומרי סף" מרכזיים.
אין פירוש הדבר שמודלים פתוחים נקיים מהטיות. גם מערכות כאלה נוצרות בידי בני אדם, מתאמנות על מידע שנבחר בשבילן ומושפעות מהחלטות המפתחים. אולם התחרות מאפשרת לפחות לבחון חלופות, להשוות תוצאות ולהימנע מתלות מוחלטת בספק יחיד.
שתי תפיסות של עתיד אמריקה
הפער הפוליטי קיבל ביטוי בולט בדבריו של יושב ראש בית הנבחרים (הבית התחתון בקונגרס), הרפובליקני מייק ג'ונסון. בנאום שנשא במרץ האחרון בכנס העוסק בטכנולוגיה ובביטחון לאומי הבהיר ג'ונסון כי ארצות הברית אינה יכולה להרשות לעצמה להאט את המרוץ לפיתוח בינה מלאכותית. לדבריו, חלון ההזדמנויות לשימור העליונות האמריקאית לא יישאר פתוח לנצח. הוא סיכם את גישתו בקריאה לפשט הליכים ככל האפשר, להטיל רגולציה רק כשחייבים ולסלול את הדרך לדומיננטיות אמריקאית.
בספטמבר חזר ג'ונסון על העמדה ביתר חריפות כאשר התנגד להקפאת פיתוח הבינה המלאכותית והזהיר שמהלך כזה יעניק יתרון אסטרטגי לסין. יושב ראש בית הנבחרים אינו שולל אמצעי בטיחות, שקיפות או בדיקות עצמאיות. ההתנגדות מתמקדת בהפיכת הממשלה לגוף שיכול לעצור את התקדמות התעשייה בשם סכנות עתידיות.
גם טראמפ אימץ קו דומה. עם חזרתו לבית הלבן בינואר 2025 פעל לביטול חלק ממדיניות הבינה המלאכותית של ממשל ביידן, בהצגתה של הסרת החסמים כתנאי לשימור ההובלה האמריקאית. המאבק בסין הפך לאחד הנימוקים המרכזיים להתנגדות לרגולציה מכבידה.
אלא שלא נכון לתאר את המחלוקת כהתנגשות מוחלטת בין דמוקרטים המעוניינים בפיקוח לרפובליקנים המתנגדים לו. גם בימין יש ביקורת חריפה על כוחן של חברות הטכנולוגיה. לדוגמה, מושל פלורידה הרפובליקני והאהוד רון דה-סנטיס קידם הגנות על משתמשים ועל ילדים, ובכירים רפובליקנים במדינה אף פעלו משפטית נגד אופן איי-איי.
מנגד, גם במחנה הדמוקרטי נשמעות עמדות שונות באשר למידת ההתערבות הרצויה. החששות מאובדן מקומות עבודה, מפגיעה בפרטיות ומהשפעת הבינה המלאכותית על ילדים אינם נחלתו של צד פוליטי אחד.
למעשה, סקר רויטרס ואיפסוס שפורסם החודש מצא כי 57% מהמצביעים הרשומים סבורים שממשל טראמפ אינו מתייחס ברצינות מספקת לסיכוני הבינה המלאכותית. 62% מהנשאלים סבורים שהטכנולוגיה מסוגלת לסכן את עתיד האנושות. הנתונים מלמדים שהחשש מפני AI רחב בהרבה מבסיס התמיכה של סנדרס וכי הדרישה לפיקוח עשויה לזכות לתמיכה גם בקרב מצביעים רפובליקנים.
אין דרך להבטיח שמודל פתוח יהיה הוגן יותר ממודל סגור, אך ריבוי מערכות מאפשר לחוקרים ולמשתמשים לבדוק הטיות, להשוות תשובות ולפתח חלופות
מי ישלוט במכונה שתעצב את העתיד?
כל הוויכוחים הללו מתנהלים בעיתוי פוליטי רגיש במיוחד. ב-3 בנובמבר ילכו האמריקאים לקלפיות לבחירות האמצע, שיוכרע בהן הרכב חלק מהקונגרס: בית הנבחרים כולו ושליש ממושבי הסנאט (הבית העליון של הקונגרס).
עד לאחרונה נתפסה הבינה המלאכותית בעיקר כסוגיה של מדיניות טכנולוגית. אולם ככל שהשימוש מתרחב, הופכות השלכותיה למוחשיות לציבור: החשש מפיטורים, העלייה בצריכת החשמל של חוות השרתים, השימוש בתמונות ובקולות מזויפים, הפגיעה האפשרית בפרטיות והחשש מפני הטיות פוליטיות.
אבל המציאות מסבכת את שני הסיפורים. גם ממשל טראמפ אינו מסתפק בהיעדר פיקוח. בתחילת אוקטובר הקים הנשיא כוח משימה חדש לבינה מלאכותית בראשות ג'יי קלייטון, שתפקידו לבחון את הסיכונים וההזדמנויות ולהמליץ על מדיניות ממשלתית. לצד זאת הממשל מקדם התחייבויות בטיחות וולונטריות של חברות הטכנולוגיה, ובהן בדיקות עצמאיות ודיווח על סיכונים.
כאן טמון הפרדוקס: סנדרס מבקש לרסן את כוחם של אוליגרכים טכנולוגיים, אבל כללים שייקרו את הכניסה לשוק עלולים דווקא לבצר את מעמדם. מבחינת ישראל, שאפתנות טכנולוגית תלויה לא רק בהשקעות ממשלתיות אלא גם בשאלה אם השוק העולמי יישאר פתוח למתחרים חדשים.
שנים נסב הוויכוח על הבינה המלאכותית על השאלה אם מחשבים יצליחו לחשוב כמו בני אדם, אך כעת מתברר שהשאלה הפוליטית החשובה עשויה להיות אחרת לגמרי: מי יקבע מה מותר להם לחשוב, מה מותר להם לומר ומי בכלל יהיה רשאי לפתח אותם. ייתכן שהאנושות אכן תידרש בעתיד להגן על עצמה מפני מכונות חכמות ממנה. בינתיים הסכנה המוחשית יותר היא שהפחד מפני העתיד ישמש להצדקת ריכוז חסר תקדים של כוח כלכלי, טכנולוגי ואידאולוגי בהווה.
הנתונים חושפים: העסקים בישראל מאמצים את הבינה המלאכותית בקצב שיא
המבחן הישראלי
ההכרעות שיתקבלו בוושינגטון עשויות להשפיע גם על עתידה הכלכלי והביטחוני של ישראל. ראש הממשלה נתניהו מציג בשנה האחרונה את הבינה המלאכותית כאחד ממנועי הצמיחה והעוצמה המרכזיים של המדינה ומצהיר על שאיפתו להפוך את ישראל למעצמה עולמית בתחום. באוגוסט האחרון השיק עם ראש המטה הלאומי לבינה מלאכותית תא״ל במילואים ארז אסקל תוכנית לאומית שנועדה לתרגם את החזון הזה למהלכים מעשיים.
לא מדובר רק בהצהרות. הממשלה הציבה יעד להקמת תשתית של 100,000 מעבדים המיועדים לבינה מלאכותית בשנים הקרובות ומקדמת הקמת חוות שרתים, הרחבת המחקר באוניברסיטאות והכשרת עובדים. היא גם מבקשת למנף את היתרונות שכבר צברה ישראל בסייבר, בתעשיות הביטחוניות ובפיתוח מערכות המשלבות תוכנה עם מכונות הפועלות בעולם הפיזי. אלא שבין ההכרזה על מעצמה טכנולוגית לבנייתה בפועל מפרידים משאבים אדירים, ובמיוחד גישה לשבבים מתקדמים, לחשמל, למרכזי מחשוב ולכוח אדם מיומן.
וכאן בדיוק נכנס לתמונה הוויכוח האמריקאי. ישראל אינה מפתחת את הטכנולוגיה בחלל ריק. חלק ניכר מהתשתיות, מהמעבדים, משירותי הענן ומהמודלים שנשענות עליהם חברות ישראליות באים מארצות הברית. אם תקשיח וושינגטון את תנאי הפיתוח, ההפצה או השימוש במערכות מתקדמות, גם חברות ישראליות עלולות להידרש לעמוד בדרישות חדשות. סטארט-אפ ישראלי שמבקש להתחרות בשוק העולמי יתקשה הרבה יותר מגוגל או ממיקרוסופט לשאת בעלויות משפטיות, בבדיקות בטיחות ובתהליכי אישור ממושכים.
הסוגיה רגישה במיוחד במערכת הביטחון. צה״ל והתעשיות הביטחוניות משתמשים בטכנולוגיות מתקדמות לצורך עיבוד מידע, זיהוי איומים ופיתוח מערכות מבצעיות. תלות מוחלטת בספק זר עלולה להפוך לנקודת תורפה כאשר מתעוררת מחלוקת מדינית, כשחברה משנה את תנאי השימוש או כאשר שירות חיוני מוגבל. בדיון בכנסת ביולי האחרון אף הוזכרו שיבושים בשירותי ענן שניתנו ליחידות בצה״ל כאחת הסיבות לראות בתשתיות מחשוב עצמאיות צורך של ביטחון לאומי.
עם זאת עצמאות טכנולוגית אינה מחייבת שכל רכיב יפותח בישראל מאפס. מדינה קטנה אינה יכולה בהכרח להתחרות לבדה בתקציבי העתק של מעבדות הבינה המלאכותית הגדולות בעולם. דווקא היכולת להשתמש במודלים פתוחים ולהתאים אותם לעברית, לצרכים ביטחוניים ולמערכות רפואיות וממשלתיות, עשויה לאפשר לישראל להתמקד בתחומים שיש לה בהם יתרון.
יש גם ממד מדיני שקשה להתעלם ממנו. כאשר מערכות בינה מלאכותית הופכות למתווך מרכזי בין הציבור ובין המידע, האופן שבו הן מציגות את ישראל, את הסכסוך ואת ההיסטוריה היהודית עשוי להשפיע על דעת הקהל בעולם. אין דרך להבטיח שמודל פתוח יהיה הוגן יותר ממודל סגור, אך ריבוי מערכות מאפשר לחוקרים ולמשתמשים לבדוק הטיות, להשוות תשובות ולפתח חלופות. תלות במספר מצומצם של חברות משאירה הרבה יותר כוח בידי מי שמעצבים את המערכות הללו.
לכן מבחינת ישראל שאלת הרגולציה אינה בחירה פשטנית בין הפקרות ובין פיקוח. האתגר הוא לשמור על בטיחות ועל קשר הדוק עם ארצות הברית בלי לוותר על תחרות, על חופש הפיתוח ועל יכולת פעולה עצמאית. אם נתניהו אכן ינצח בבחירות הקרובות ויקדם את תוכניתו להפיכת ישראל למעצמת בינה מלאכותית, המבחן לא יהיה רק כמה שרתים יוקמו או כמה מיליארדים יושקעו. הוא יהיה גם בשאלה אם לחוקרים, ליזמים ולמערכת הביטחון הישראלית תהיה גישה לטכנולוגיה שאינה תלויה לחלוטין ברצונו הטוב של קומץ תאגידים זרים.
Leads:
עצם העובדה שהאנושות לא נכחדה אינה מפריכה את הסכנות הכרוכות בשינויי האקלים, אבל היא ממחישה את הבעייתיות שבהפיכת תחזיות מדעיות מורכבות לשעון חול פוליטי
בפברואר חצה לראשונה לפרק זמן קצר נתח הטוקנים של המודלים הפתוחים את רף חמישים האחוזים. באפריל הפכה המגמה ליציבה יותר, ובתחילת יולי הגיע נתח השימוש במודלים הפתוחים לשיא של 79%
כשביקשו משתמשים תמונות של חיילים גרמנים משנת 1943, הופיעו בין היתר חיילים שחורים ונשים ממוצא אסייתי במדים גרמניים. בקשות לתמונות של האבות המייסדים של ארצות הברית הניבו דמויות של גברים שחורים, אסייתיים ואינדיאנים
אין דרך להבטיח שמודל פתוח יהיה הוגן יותר ממודל סגור, אך ריבוי מערכות מאפשר לחוקרים ולמשתמשים לבדוק הטיות, להשוות תשובות ולפתח חלופות
