پژوهشگران هشدار می‌دهند که چت‌بات‌ها با ذخیره اطلاعات کاربران، در حال ساخت خودنگاره‌های الگوریتمی صمیمانه‌ای از آن‌ها هستند تا تجربه‌ای کاملاً شخصی‌سازی‌شده ارائه دهند. پژوهشی جدید که به‌وسیله گروهی از دانشمندان آلمانی، هندی و هلندی انجام شد و در کنفرانس جهانی وب ۲۰۲۶ متعلق به انجمن ماشین‌های محاسباتی ارائه شد، بررسی کرد که OpenAI چگونه
پژوهشگران هشدار می‌دهند که چت‌بات‌ها با ذخیره اطلاعات کاربران، در حال ساخت خودنگاره‌های الگوریتمی صمیمانه‌ای از آن‌ها هستند تا تجربه‌ای کاملاً شخصی‌سازی‌شده ارائه دهند.
پژوهشی جدید که به‌وسیله گروهی از دانشمندان آلمانی، هندی و هلندی انجام شد و در کنفرانس جهانی وب ۲۰۲۶ متعلق به انجمن ماشین‌های محاسباتی ارائه شد، بررسی کرد که OpenAI چگونه از طریق ChatGPT ورودی‌های کاربران را ردیابی و تحلیل می‌کند تا پروفایل‌های دیجیتالی جامعی از آن‌ها بسازد.
در دورانی که الگوریتم‌های پیشنهاددهنده مبتنی بر داده، زندگی دیجیتال را هرچه بیشتر شخصی‌سازی کرده‌اند، این پژوهش نشان می‌دهد حافظه چت‌بات‌ها شکل تازه‌ای از شخصی‌سازی را به وجود آورده که بر اطلاعاتی تکیه دارد که کاربران در گفت‌وگوهای خصوصی درباره خودشان افشا می‌کنند. به باور پژوهشگران، این وضعیت خطراتی برای حریم خصوصی به همراه دارد و بررسی دقیق‌تر سازوکارهای زیربنایی چنین شخصی‌سازی‌ای را ضروری می‌سازد.
پژوهشگران برای انجام این مطالعه، گزارش گفت‌وگوهای ۸۰ کاربر واقعی ChatGPT را که تاریخچه مکالمات خود را با استفاده از قوانین حفاظت از داده‌های اتحادیه اروپا دریافت کرده و در اختیار محققان گذاشته بودند، بررسی کردند. آن‌ها در تعاملات هوش مصنوعی مربوط به ۶۵ نفر از این کاربران، موفق به شناسایی ۲ هزار و ۵۰ مورد اطلاعات ذخیره‌شده در حافظه شدند.
بر اساس یافته‌های این مطالعه، ۹۶ درصد از خاطرات ذخیره‌شده را خود چت‌بات و بدون درخواست مستقیم کاربران ایجاد کرده بود. این موضوع نشان می‌دهد کاربران هنگام ادامه گفت‌وگوها، کنترل آشکار و چندانی بر اطلاعاتی نداشتند که ChatGPT ثبت می‌کرد. محتوای این حافظه‌ها نیز اطلاعات قابل‌توجهی درباره کاربران آشکار می‌ساخت. حدود ۲۸ درصد از موارد بررسی‌شده شامل داده‌های شخصی مطابق با معیارهای سخت‌گیرانه مقررات عمومی حفاظت از داده‌های اتحادیه اروپا بودند و ۵۲ درصد نیز حاوی بینش‌های روان‌شناختی عمیقی درباره کاربران می‌شدند.
آبیشک دش، نویسنده اصلی پژوهش، در مصاحبه با گیزمودو گفت:
در گذشته، پلتفرم‌ها یک هدف داشتند؛ تبلیغات به شما بفروشند و تعامل میان شما و تبلیغ‌کننده را مدیریت کنند. اما اکنون این پلتفرم‌ها مستقیماً با شما صحبت می‌کنند و به همین دلیل ممکن است بخواهند اطلاعات بیشتری درباره‌تان به دست آورند تا بتوانند گفت‌وگویی مؤثرتر داشته باشند.
پژوهشگران همچنین دریافتند که برخی از اطلاعات ذخیره‌شده در حافظه ChatGPT گاهی بر پایه برداشت‌ها و فرضیات شکل می‌گیرند. برای نمونه، هنگامی که یکی از کاربران از چت‌بات خواست گروه‌های موسیقی مشابه نیروانا معرفی کند، ChatGPT این نتیجه را ثبت کرد که کاربر به نیروانا علاقه دارد. بااین‌حال، همان‌طور که در پژوهش توضیح داده شده، کاربر چنین علاقه‌ای را به‌صراحت بیان نکرده بود و این نتیجه‌گیری صرفاً بر یک فرض استوار بود. طبق گزارش محققان، ChatGPT این برداشت را با برچسب پشتیبانی ضعیف از سوی شواهد مشخص کرده بود.
این پژوهش محدودیت‌هایی نیز دارد که مهم‌ترین آن‌ها به تغییرات سیستم حافظه OpenAI مربوط می‌شود. همان‌طور که گیزمودو اشاره کرده، این شرکت سامانه حافظه خود را به‌روزرسانی کرده است. OpenAI در ماه ژانویه از آنچه سامانه‌ای توانمندتر و مقیاس‌پذیرتر برای ترکیب و سازمان‌دهی خاطرات نامید، رونمایی کرد. کاربران همچنین می‌توانند قابلیت ذخیره‌سازی اطلاعات در حافظه را غیرفعال کنند.
حافظه هوش مصنوعی کاربردهای مفیدی دارد. برای مثال، افرادی که مرتب از هوش مصنوعی استفاده می‌کنند، احتمالاً نمی‌خواهند هنگام نوشتن ایمیل بارها اطلاعات مربوط به شغل خود را برای چت‌بات توضیح دهند. بااین‌حال، این قابلیت می‌تواند به عاملی قدرتمند برای افزایش وابستگی کاربران به پلتفرم نیز تبدیل شود و گاهی پیامدهای نامطلوبی به همراه داشته باشد. وب‌سایت فیوتوریسم پیش‌تر گزارش داده بود که ارتقای عمده حافظه ChatGPT در آوریل ۲۰۲۵، ارتباط نزدیکی با موارد متعددی از روان‌پریشی هوش مصنوعی داشت؛ وضعیتی که در آن افراد در تعامل با ChatGPT و سایر ربات‌ها وارد چرخه‌ای از باورهای هذیانی می‌شوند.
به گفته دش، نقش چت‌بات‌ها به‌عنوان فناوری‌هایی برای شکل‌دادن به روابط انسانی، خطرات تازه‌ای برای حریم خصوصی ایجاد می‌کند. بسیاری از کاربران ممکن است با این سامانه‌ها مانند ابزارهای ساده برخورد نکنند و در عوض، آن‌ها را همکار یا حتی دوست خود بدانند. افراد معمولاً جزئیات بسیار شخصی زندگی‌شان را با دوستان خود در میان می‌گذارند و همین موضوع می‌تواند حجم و حساسیت اطلاعاتی را که در اختیار چت‌بات‌ها قرار می‌گیرد، افزایش دهد. دش گفت:
این همان خطر مربوط به حریم خصوصی است که اکنون در حال ظهور می‌باشد، زیرا دیگر مرز مشخصی وجود ندارد. سامانه نقش مشاور، دوست، پزشک و وکیل شما را ایفا می‌کند و در نتیجه، درباره همه جنبه‌های زندگی‌تان اطلاعات دارد. اگر سامانه شما را به‌خوبی بشناسد و هدفش این باشد که با تأیید چاپلوسانه باورها و افکارتان، شما را راضی نگه دارد و وادار کند بارها و بارها به آن بازگردید، پیامدهای گسترده و فاجعه‌باری به دنبال خواهد داشت؛ پیامدهایی که می‌توانند از تشدید قطبی‌شدن شدید سیاسی تا تقویت پیش‌داوری‌ها و سوگیری‌ها را در بر بگیرند.