צ'אטבוטים של בינה מלאכותית עשויים לצבור מידע אישי ורגיש על המשתמשים ולבנות לאורך זמן פרופילים פסיכולוגיים מפורטים, לעיתים קרובות בלי שהמשתמשים כלל מודעים להיקף המידע שנשמר עליהם. מחקר חדש שבחן את מנגנון הזיכרון של ChatGPT מעלה שאלות נוקבות בנוגע לשליטה במידע שנאסף ובסיכונים שנובעים מהתאמה אישית. המחקר נערך בידי קבוצת חוקרים מגרמניה, הודו והולנד, והוצג בכנס ACM Web Conference 2026, אחרי שניתוח היסטוריות שיחה של 80 משתמשים חשף תמונה מפתיעה.
החוקרים ניתחו את הנתונים שהתקבלו באמצעות מנגנוני הגישה למידע הקבועים בחוקי הפרטיות האירופיים, ומתוך השיחות זיהו 2,050 פריטי זיכרון שנאספו מתוך שיחות של 65 משתמשים. הממצא המרכזי מראה כי 96% מפריטי הזיכרון נוצרו ביוזמת הצ'אטבוט עצמו, ולא בגלל בקשה מפורשת של המשתמש לשמור את המידע. בנוסף, כ-28% מפריטי הזיכרון כללו מידע אישי לפי תקנות הגנת המידע האירופיות, וכ-52% מהם כללו תובנות פסיכולוגיות של ממש על המשתמשים.
לא רק מה שאמרתם – אלא מה שהמערכת מסיקה
אחד הממצאים הבולטים נוגע לאופן שבו המערכת מסיקה מסקנות עצמאיות מתוך שיחות יומיומיות פשוטות. בחלק מהמקרים, הזיכרונות שנשמרו כלל לא שיקפו דברים שהמשתמשים אמרו במפורש, אלא פרשנות ישירה של המערכת. כך למשל, כאשר משתמש ביקש המלצות ללהקות שדומות לנירוונה, המערכת תיעדה מיד בזיכרון כי המשתמש אוהב את הלהקה, אף על פי שהבקשה הנקודתית לא העידה בהכרח על העדפה כזו, והמערכת אף סימנה זאת כמסקנה שנשענת על ראיות חלשות.
הדוגמה הזו ממחישה איך פנייה בודדת יכולה להפוך לפריט מידע קבוע שמשפיע על אופי התשובות לאורך זמן, ובונה פרופיל רחב בהרבה ממה שהמשתמש התכוון לחשוף. הסיכון מקבל משמעות מיוחדת בגלל האופי השונה של שיחות עם צ'אטבוט לעומת רשתות חברתיות רגילות. בעוד שברשתות איסוף המידע מתבצע לרוב דרך מעקב אחרי פעילות, בשיחות עם בינה מלאכותית אנשים נוטים לשתף פרטים אינטימיים על רגשות, עבודה, מערכות יחסים והתלבטויות אישיות.
אבהיסק דאש, החוקר הראשי במחקר, אמר לאתר Gizmodo כי בעבר פלטפורמות דיגיטליות התמקדו בעיקר בתיווך בין משתמשים למפרסמים, בעוד שכיום מערכות הבינה המלאכותית מנהלות שיח ישיר עם האדם, ולכן שואפות להכיר אותו לעומק כדי לתת מענה מותאם. לדבריו, טשטוש הגבולות בין כלי טכנולוגי לבין דמות שנתפסת כחבר, עמית או יועץ אישי יוצר סיכונים חדשים. כאשר המערכת מתאימה את תשובותיה לאמונות של המשתמש כדי לעודד המשך שימוש, הדבר עלול להוביל להשלכות רחבות, החל מהעמקת קיטוב פוליטי ועד לחיזוק הטיות ודעות קדומות.
היתרונות של הזיכרון – והשליטה שבידי המשתמש
לצד השאלות על הפרטיות, לחוקרים ברור כי למנגנון הזיכרון יש גם יתרונות מעשיים משמעותיים שמקלים מאוד על העבודה השוטפת. הזיכרון מאפשר למערכת להתאים תשובות מדויקות, לזכור את תחום העיסוק של המשתמש ולחסוך את הצורך לחזור שוב ושוב על אותם פרטים טכניים. בנוסף, חשוב לדעת כי למחקר יש מגבלות מסוימות: הנתונים שנבדקו שייכים לגרסה קודמת של מנגנון הזיכרון, ומאז חברת OpenAI כבר עדכנה את המערכת.
בחודש ינואר הציגה החברה מערכת משופרת לניהול ולסינתזה של זיכרונות, ובנוסף לכך המשתמשים יכולים לבחור לכבות תכונות זיכרון מסוימות אם הם מעוניינים בכך. עם זאת, החוקרים מדגישים כי היכולת של כלי דיגיטלי לבנות פרופיל אישי מעמיק מחייבת בחינה מעמיקה יותר של מנגנוני השמירה. השאלה המרכזית אינה מסתכמת רק במידע שהמשתמש בחר למסור, אלא גם במה שהמערכת מסיקה ממנו ואיך היא שומרת זאת, דווקא כאשר הבינה המלאכותית הופכת לחלק בלתי נפרד מחיי היום-יום.
