מנכ"ל אנת'רופיק דריו אמודיי קורא לתעשיית הבינה המלאכותית להאט את קצב שיפור המודלים המתקדמים, בטענה שהיכולות מתפתחות מהר יותר מהיכולת להבין אותן, לפקח עליהן ולבנות מנגנוני הגנה מתאימים. במאמר בן כמעט 4,000 מילים כתב אמודיי: "אנחנו חייבים להאט את הקצב שבו אנו משפרים את היכולות של מודלי בינה מלאכותית. ההתקדמות עדיין תיראה מהירה, ועלינו לעשות שימוש נבון בזמן שנרוויח".
לדבריו, בחודשים האחרונים השתנתה עמדתו והוא סבור שנדרשת זהירות גדולה יותר מזו שחשב שנחוצה בשנת 2023. אחת הסיבות המרכזיות היא האפשרות שמערכות AI ישתתפו בעצמן בפיתוח הדורות הבאים של מערכות AI, תהליך המכונה "שיפור עצמי רקורסיבי". אמודיי הזהיר: "אם התהליך יישאר ללא פיקוח, הוא עלול לעקוף את יכולתנו להבין את המערכות האלה ולשלוט בהן, ולכן יש לקדם אותו בזהירות רבה, אם בכלל".
הסיבה השנייה היא תקרית שבה נחיל של כ-1,200 סוכני AI אוטונומיים, שפעלו על בסיס מודל של OpenAI, פרץ ביולי למערכות של פלטפורמת Hugging Face. אמודיי כתב כי אפשר לפטור את האירוע משום שלא היו נפגעים והנזק הכספי היה קטן, אך הזהיר כי "נחיל בעל יכולות חזקות יותר ורמת חוסר התאמה דומה היה עלול לגרום נזק קטסטרופלי". לדבריו, מערכת מתקדמת מסוג זה עלולה להגיע ליכולת להשתלט על חלקים נרחבים מהאינטרנט בתוך כשנה.
גם אלטמן מצטרף – מאסק: "דריו צודק"
הקריאה של אמודיי זכתה במהירות לתמיכה מצד בכירים נוספים בתעשייה. מנכ"ל OpenAI סם אלטמן כתב: "אני מסכים עם דריו שעלינו להאט את ההתקדמות בחזית", והוסיף כי הנושא עומד במרכז הדיונים שנערכו בחברה בשבועות האחרונים. אילון מאסק הסתפק בתגובה קצרה וברורה: "דריו צודק".
אחד הצעדים המעשיים שאמודיי מציע הוא הכנסת מעריכים חיצוניים קבועים לתוך חברות ה-AI. אנת'רופיק התחייבה להעניק לבודקים עצמאיים גישה למודלים, לכלים פנימיים ולחוקרי החברה ברמה הדומה לזו של עובדים, כדי שיוכלו לבדוק את אמצעי הבטיחות, לדווח על תקריות ולבחון את התנהגות המודלים במהלך האימון. אלטמן הודיע שגם OpenAI תאמץ את העיקרון הזה, וכתב: "אנחנו נעשה אותו דבר. יהיה לנו עוד מה לשתף בקרוב".
אמודיי אינו מציע לעצור את הפיתוח לחלוטין, אלא לבצע "האטה מבוקרת" שתאפשר לחוקרים להרוויח עוד שנה או שנתיים להבנת המערכות ולפיתוח אמצעי הגנה. התוכנית שהציג כוללת שלושה שלבים: פיקוח חיצוני קבוע בתוך החברות, קביעת סטנדרטים ונקודות ביקורת במדינות דמוקרטיות תוך הגבלת גישתה של סין לשבבים מתקדמים, ובהמשך ניסיון להגיע להסכמות גם עם מדינות אוטוריטריות בנוגע לשימושים מסוכנים בבינה מלאכותית.
כשה-AI כבר מגיע לרקטות ולמעקב אחרי ישראלים
האזהרות אינן עוסקות רק בתרחישים עתידיים. לפי דוח מודיעין איומים שפרסמה אנת'רופיק, גורמים באזור שבשליטת החות'ים בתימן השתמשו במודל קלוד כדי לסייע בפיתוח תוכנה לרקטה מונחית, לטיל בליסטי ולדאון היפרסוני. חשבונות שנקשרו לאיראן השתמשו במערכת לצורך מעקב אחר ספינות אמריקניות, הפצת תעמולה ואיסוף מידע על מאות ישראלים ויהודים. אמודיי אף הודה כי גרסאות מוקדמות של קלוד פרצו בעבר למערכות חיצוניות.
לדיון הצטרף גם ג'ייקוב קוקסון, חוקר בטיחות לשעבר שעבד בתעשייה והתפטר. בציוץ שזכה לעשרות מיליוני צפיות הוא הזהיר כי "האנשים שבונים AI באמת מאמינים שהוא עלול להרוג את כולנו עד סוף העשור", ובהודעה פנימית שהגיעה לידי NBC News תיאר את הגישה של החברות כ"הימור על החיים שלנו". לדבריו: "אף אחת מהחברות אינה מתנהלת באחריות. הן דוהרות לעבר בינה על-אנושית שמשפרת את עצמה ומהמרות על החיים שלנו".
אלא שלא כולם מקבלים את הקריאות להאט כפשוטן. ממשל הנשיא דונלד טראמפ שם דגש על שמירת היתרון האמריקני מול סין, ובמקביל אנת'רופיק נערכת להנפקה לפי שווי מוערך של כשני טריליון דולר. יועצו של טראמפ, דייוויד סאקס, האשים את אמודיי ואלטמן כי מאחורי הקריאות שלהם מסתתרים גם אינטרסים עסקיים ורצון להקשות על המתחרים: "המטרות שלכם לא אלטרואיסטיות".
כך או כך, העובדה שמנהלי שתיים מחברות ה-AI המשפיעות בעולם מדברים כעת בפומבי על האטת המרוץ מסמנת שינוי בטון בתוך התעשייה עצמה. אמודיי סיכם כי הזמן שתרוויח התעשייה לא יוכל להיות רק תרגיל יחסי ציבור: "ההימור גבוה מדי בשביל שהקציבה תהיה תרגיל ריק – אנחנו צריכים להשתמש בזמן שהיא נותנת לנו בחוכמה".
