استفاده از چت‌بات‌های هوش مصنوعی به‌عنوان دفتر خاطرات شخصی ممکن است آن‌قدرها هم خصوصی نباشد که کاربران تصور می‌کنند. در تازه‌ترین نمونه، یک زن در فلوریدا پس از نوشتن تهدیدی علیه دفتر کلانتری در کلود (Claude)، با گزارش این پیام از سوی شرکت آنتروپیک (Anthropic) به پلیس، با اتهام جنایی سنگینی روبه‌رو شده است.
یک زن در فلوریدا پس از استفاده از چت‌بات هوش مصنوعی کلود به‌عنوان دفتر خاطرات، با اتهام جنایی مواجه شده است.
به گزارش
به نقل از
، کارلی میشل هلر (Carli Michelle Heller) از شهر بونیتا اسپرینگز در تاریخ ۲۶ سپتامبر در گفت‌وگویی با کلود ظاهراً نوشته بود که قصد دارد به دفتر کلانتری حمله کند. سامانه‌های ایمنی کلود این پیام را به‌عنوان تهدید بالقوه شناسایی کردند و آن را برای بررسی به یک ناظر انسانی ارجاع دادند.
پس از بررسی پیام، ناظر انسانی تهدید را معتبر تشخیص داد و موضوع را به نیروهای انتظامی گزارش کرد. آنتروپیک اعلام کرده است که در شرایط اضطراری محدود، در صورتی که افشای اطلاعات برای جلوگیری از مرگ یا آسیب جسمی جدی ضروری باشد، ممکن است اطلاعات کاربران را در اختیار مراجع قانونی قرار دهد.
مأموران پس از شناسایی هلر به خانه او مراجعه کردند و وی بدون درگیری بازداشت شد. پرونده سپس در اختیار کارآگاه اطلاعاتی اداره کلانتری شهرستان لی (LCSO) قرار گرفت. هلر اکنون با اتهام تهدید کتبی به خشونت مواجه است؛ جرمی که طبق قوانین فلوریدا می‌تواند در سطح جرم جنایی درجه دوم قرار گیرد. این قانون تهدیدهای مکتوب یا الکترونیکی برای قتل، آسیب‌رساندن، تیراندازی جمعی یا انجام اقدامات تروریستی را شامل می‌شود.
این پرونده بار دیگر بحث مهمی درباره حریم خصوصی چت‌بات‌های هوش مصنوعی را مطرح کرده است. اگرچه برخی کاربران با تصور محرمانه بودن، اطلاعات شخصی یا افکار خود را با چت‌بات‌ها در میان می‌گذارند، محتوای این سرویس‌ها الزاماً مانند یک دفتر خاطرات شخصی در نظر گرفته نمی‌شود.
این اتفاق همچنین در شرایطی رخ داده که شرکت‌های هوش مصنوعی درباره نحوه برخورد با تهدیدهای بالقوه با فشار بیشتری روبه‌رو هستند. در نمونه‌ای دیگر، گزارش‌هایی درباره مشاهده محتوای کاربران توسط ناظران انسانی مایکروسافت کوپایلوت منتشر شده است؛ محتوایی که گاهی شامل مطالب جنسی، آزاردهنده یا حتی بالقوه غیرقانونی بوده است.