חברת הבינה המלאכותית אנתרופיק (Anthropic) מתחייבת להטמיע "סימני מים" מוטמעים ומטא-נתונים חתומים דיגיטלית בטקסטים ובקבצים שייווצרו על ידי מודלי ה-AI העתידיים של החברה. המהלך מגיע כחלק ממאמצי החברה לעמוד בכללי התוכן והשקיפות המחמירים של חוק ה-AI החדש באיחוד האירופי (EU AI Act).
במסמך הסברה שפרסמה החברה, הובהר כי הטכנולוגיה תוחל ברמת המודל ולא ברמת הממשק. משמעות הדבר היא שסימון המקור יופיע בכל תוצר של המודל – הן בפלטפורמות הישירות של החברה, כגון Claude, Claude Code ו-Claude Cowork, והן דרך ספקיות צד שלישי המארחות את המודלים, בהן AWS, Google Cloud ו-Microsoft Foundry.
איך מנגנון הזיהוי יעבוד בפועל?
בגזרת הטקסטים, המודל ישזור סימן מים בלתי מורגש ישירות לתוך התוכן. באנתרופיק מבהירים כי הסימן לא ישנה את המשמעות, האיכות או הקריאות של הטקסט, וימשיך ללוות אותו גם לאחר פעולות "העתק-הדבק" או עריכה חלקית.
מנגד, בעבור קבצים שייוצרו על ידי המודלים, החברה תסתמך על תקן C2PA המוכר, אליהם יצורפו מטא-נתונים של מקור המופק כשהם חתומים דיגיטלית. באנתרופיק ציינו כי הסימון יוחל ברחבי העולם בכל מקום שבו מודל קלוד זמין, וכי החברה עובדת במקביל על הגדרת פתרונות קיימים גם עבור המודלים שכבר הופצו, במסגרת תקופת המעבר המותרת בחוק.
ספקות טכנולוגיים וחשש מזליגת לקוחות
למרות הצהרות החברה, הצעד החדש מעורר ספקות רגישים בתעשייה. מחד, קיימים ספקות לגבי אמינות היכולת הטכנולוגית, שכן חוקרים כבר הוכיחו בעבר כי ניתן לעקוף או לבטל בקלות סימני מים המבוססים על תמונות או מטא-נתונים. בנוסף, בהיעדר שינוי בבחירת המילים של הטקסט, מומחים מעריכים כי יהיה ניתן לפתח פתרונות טכנולוגיים פשוטים שיידעו לזהות ולהסיר את תווי הסימון הנסתרים.
מאידך, קיים חשש מוחשי מנטישת משתמשים. ענף ה-AI מציג תחרות עזה מצד מודלים בקוד פתוח (Open Weight), וחברות ויוצרי תוכן רבים מעדיפים שצרכני הקצה שלהם לא ידעו שהתוכן נוצר על ידי AI. הגבלה זו, המצטרפת לביקורת עבר של משתמשי קלוד על שינויי תמחור, בעיות אמינות ומנגנוני הגנה נוקשים מדי, עשויה להבריח לקוחות לפתרונות מתחרים.
באנתרופיק מודים: "זה לא פתרון מושלם"
בצעד כמעט יוצא דופן, אנתרופיק עצמה מסייגת את יעילות המנגנון ומציינת כי הימצאות סימן מים אינה מהווה ראיה חותכת לכך שקלוד יצר את התוכן, כשם שהיעדר סימן אינו מבטיח ש-AI לא היה מעורב ביצירתו.
עם זאת, נראה כי מבחינת אנתרופיק, מטרת המהלך אינה בהכרח הגנה מוחלטת מסימנים, אלא סימון "וי" רגולטורי שיחשב כציות מספק לדרישות החוק האירופי.
