חברת OpenAI הודיעה ביום שישי כי היא מחמירה את ההגבלות על מידע שצ'אט GPT מוסר לבני נוער בנושא נשק חם – גם כאשר השאלה נשמעת תמימה לחלוטין. לפי ההודעה, הצעד מצטרף למדיניות קיימת שאוסרת על הצ'אטבוט לסייע למשתמשים לבצע מעשי אלימות או לעזור לבני נוער להשיג נשק.

אילו שאלות ייחסמו

לפי OpenAI, החברה תצמצם מידע מעשי על נשק ועל מערכות אבטחה שעלול לשמש לאלימות, גם כשאין שום סימן לכוונה אלימה אצל המשתמש הצעיר. ההגבלה תחול באופן רחב – לא רק על שאלות שמעוררות חשד ברור, אלא גם על פניות שנראות על פניהן סתמיות לגמרי.

עם זאת, בני נוער עדיין יוכלו להשתמש בצ'אט GPT כדי למנוע או לעצור אלימות, לבקש תמיכה נפשית או להתחבר למבוגר אמין. ההגבלות על בני הנוער יפעלו לצד בקרת ההורים שהחברה השיקה בשנה שעברה, שבמסגרתה נשלחת התראה להורים כאשר חשבון מקושר של בן נוער מפר מדיניות הקשורה לאיומי אלימות או למעשי אלימות.

האם GPT יחזור להוביל? OpenAI משיקה מודל חדש וגם השקעת ענק

הגבלות חדשות גם למבוגרים

ההחמרה אינה מוגבלת לבני נוער בלבד. OpenAI מסרה שהיא מחזקת את גבולות המדיניות עבור כלל המשתמשים, בעיקר סביב שחזורים מפורטים של פיגועי ירי המוניים מהעבר – כולל פרטים על הנשק והציוד ששימשו את התוקפים ועל האופן שבו השיגו אותם, וכן השוואות מפורטות על היקף הנזק שעלולות להאדיר את תהילתו של תוקף. משתמשים עדיין יוכלו לשאול על פיגועים מהעבר, על ההשפעה שלהם על הקורבנות ועל דרכים למנוע אלימות עתידית.

הצעד מגיע אחרי שOpenAI נתבעה בשנה שעברה בתביעת מוות בעוולה, ולאחר שמנכ"ל החברה סם אלטמן התנצל בפומבי על כך שלא הזהיר את המשטרה על יומני שיחה מדאיגים שהיו קשורים לאירוע ירי בעיירה טמבלר ريدج מוקדם יותר השנה.

תביעות נוספות על בטיחות קטינים

בנפרד, התובע הכללי של טקסס, קן פקסטון, הגיש תביעה נגד OpenAI ונגד אלטמן אישית, בטענה שצ'אט GPT מסכן ילדים. לפי התביעה, הצ'אטבוט עודד פגיעה עצמית, מסר מידע לתוקפי ירי המוני וחשף קטינים לאינטראקציות ממכרות. פקסטון דורש פיצוי של יותר ממיליון דולר, הגבלות שימנעו מקטינים להשתמש בצ'אט GPT בטקסס, וביקורות בטיחות עצמאיות למודלים חדשים לפני השקתם במדינה. OpenAI מסרה בעבר כי היא פועלת עם מומחים כדי לחזק את הגנות הבטיחות של הצ'אטבוט.

OpenAI הודיעה שבתחילת 2027 היא תפרסם את דו"ח הבטיחות הקהילתי הראשון שלה, שיפרט כיצד היא מזהה ומטפלת באיומים פוטנציאליים, לצד נתונים על יעילות מנגנוני ההגנה. הדו"ח יתעדכן אחת לחצי שנה.