בריאיון נוקב שהעניק לרשת טלוויזיה בארצות הברית, הציג מייסד מיקרוסופט ביל גייטס תרחיש קודר לגבי עתיד הטכנולוגיה. גייטס חושש כי אם לא נראה בקרוב חקיקה הדוקה, הבינה המלאכותית עלולה לגרום למותם של מיליארד בני אדם. הוא לא מדבר על סרטי מדע בדיוני שבהם מחשבים מפתחים תודעה ומשתלטים על כדור הארץ, אלא מתריע מפני מציאות שבה גורמים פליליים או ארגוני טרור משתמשים בכלים החדשים כדי לחולל נזק עצום.
לדבריו, הסכנה הגדולה היא שהטכנולוגיה מורידה את רף הקושי עבור אותם גורמים עוינים. בקלות רבה וללא עלויות גבוהות, מדינות סוררות יוכלו לייצר פתוגנים, לתכנן נשק ביולוגי ולהוציא לפועל מתקפות סייבר מתוחכמות שישתקו בתי חולים, תשתיות מים ורשתות חשמל ברחבי העולם. החיבור בין אנשים רעים לכלים טכנולוגיים מתקדמים ללא שום בקרה הוא מתכון לאסון עולמי. גייטס הסביר זאת היטב: "מעולם לא היה נשק כה עוצמתי כמו השילוב של אנשים בעלי כוונות זדון המשתמשים בכלים המתקדמים ביותר".
מאבק של מעצמות
האזהרה הזו מצטרפת לקולות של בכירים אחרים בתעשייה, כמו מנכ"ל חברת OpenAI סם אלטמן ומנכ"ל חברת Anthropic דריו אמודיי, אך היא מציבה אותם במסלול התנגשות ישיר מול המדיניות שמוביל הנשיא דונלד טראמפ. הממשל חושש לאבד את היתרון הגיאופוליטי מול סין, ולכן מסרב לכבול את הפיתוח הטכנולוגי.
קובעי המדיניות מאמינים שארצות הברית חייבת להוביל את המהפכה הזו, אבל גייטס חושב שגישה של תחרות לאומנית בלתי מרוסנת היא טעות חמורה. הוא דורש הכנסת "מתגי חירום" למערכות, ותוקף את החשש מהסינים: "זה חוסר אחריות מוחלט שלא לחייב כל מערכת בינה מלאכותית באמצעי הגנה וניטור… והשאלה היחידה היא האם עושים זאת עכשיו".
בוושינגטון ובשוק ההון הדעות חלוקות סביב שאלת הפיקוח. ננסי טנגלר, מנכ"לית של חברת השקעות גדולה, תקפה את גייטס וקראה להמשיך להילחם כדי לנצח בתחרות בדיוק כפי שארצות הברית עשתה במלחמה הקרה. לעומתה, חברת הוועדה הרפובליקנית הלאומית איימי קרמר גיבתה את האזהרות והבהירה שאפילו ביל גייטס מודה בסכנות של הטכנולוגיה הזו.
בתוך כל הסערה, יש מי שמציע גם דרך אמצע הגיונית. ג'וליה קרטרייט, חוקרת מהמכון האמריקני למחקר כלכלי, מסבירה שהדרך להתמודד עם איומי הסייבר והנשק הביולוגי היא לא לעצור את הקידמה. אפשר להמשיך לפתח את הטכנולוגיה, אבל חובה לקבוע כללים ברורים שיטילו אחריות על החברות המפתחות.
בינתיים, המחוקקים בקונגרס מתקשים להכריע, וכל עוד הממשל נותן עדיפות לניצחון על סין, נראה שהוויכוח על גבולות הבינה המלאכותית רק ילך ויחריף.
