فهرست مطالب
متا و OpenAI با معرفی Muse و Dots وعده امنیت بیشتر داده‌اند، اما آسیب‌پذیری‌ها و دسترسی گسترده به اطلاعات شخصی، نگرانی‌های حریم خصوصی را افزایش داده است.
به گزارش سرویس هوش مصنوعی تک‌ناک،سم آلتمن، مدیرعامل OpenAI، در رویداد DevDay امسال از عامل هوش مصنوعی جدید این شرکت با نام Dots رونمایی کرد. او اعلام کرد که OpenAI می‌خواهد «استاندارد تازه‌ای برای حفظ حریم خصوصی در هوش مصنوعی پیشرفته» تعیین کند. این شرکت در جریان رویداد، به‌طور غیرمستقیم از رقیب اصلی خود، متا، به دلیل ناتوانی در حفاظت از داده‌های کاربران انتقاد کرد.
با این حال، متا نیز چند ماه پیش Muse را به‌عنوان جایگزینی امن‌تر برای OpenClaw معرفی کرده بود. مارک زاکربرگ، مدیرعامل متا، هنگام معرفی این ابزار گفت که Muse از ابتدا با تمرکز بر حریم خصوصی و امنیت ساخته شده است.
در شرایطی که شرکت‌ها حجم زیادی از اطلاعات شخصی مشتریان را جمع‌آوری می‌کنند و حملات سایبری به تهدیدی روزمره تبدیل شده‌اند، آزمایشگاه‌های هوش مصنوعی می‌کوشند کاربران را به اشتراک‌گذاری اطلاعات بیشتری با عامل‌های هوش مصنوعی ترغیب کنند.
یکی از راهبردهای آن‌ها، متمایز کردن محصولات از رقبا با وعده محافظت بهتر از داده‌ها است. با این حال، مسئله اصلی این است که آیا این وعده‌ها در عمل نیز محقق می‌شوند؟
وعده‌های متا درباره امنیت Muse
نت فریدمن، مدیر محصول در آزمایشگاه‌های ابرهوش متا، در شبکه اجتماعی ایکس نوشت که هدف این شرکت از ساخت Muse، توسعه ابزاری مشابه OpenClaw بوده است که بتوان آن را برای میلیاردها نفر ایمن، امن و آسان برای استفاده کرد.
متا داده‌های کاربران را در یک ماشین مجازی امن ذخیره می‌کند. زاکربرگ این محیط را «یک کامپیوتر لینوکسی ایزوله با مرورگر، پردازنده، حافظه و فضای ذخیره‌سازی» توصیف کرده است. به گفته متا، بخش عمده تلاش این شرکت برای ساخت Muse صرف طراحی دقیق و مهندسی سامانه‌هایی شده است که عملکرد آن را ایمن‌تر می‌کنند.
متا در وبلاگ خود تأکید کرده است که Muse همچنان ممکن است اشتباه کند، اما انتظار می‌رود سامانه‌های حفاظتی تعبیه‌شده در آن، تعداد خطاها و میزان آسیب ناشی از آن‌ها را کاهش دهند.
با وجود این وعده‌ها، Muse نتوانسته است نگرانی‌ها درباره امنیت و حریم خصوصی را به‌طور کامل برطرف کند. این برنامه در رتبه‌بندی اپ‌استور به جایگاه بالایی رسید و طبق داده‌های شرکت Apptopia، تنها طی چند هفته در آمریکا به ۶۰۰ هزار کاربر فعال روزانه دست یافت. با این حال، گزارش‌های منتشرشده از مشکلات امنیتی و دسترسی به اطلاعات کاربران حکایت دارند.
آسیب‌پذیری‌های امنیتی و جمع‌آوری گسترده داده‌ها
اگرچه اطلاعات کاربران Muse از داده‌های دیگر کاربران جدا نگه داشته می‌شود، متا همچنان امکان دسترسی به داده‌های ذخیره‌شده در ماشین مجازی را دارد. این شرکت اعلام کرده است که قصد دارد تا پایان سال قابلیتی را معرفی کند که از طریق روش‌های رمزنگاری، دسترسی متا به داده‌های داخل ماشین مجازی را به‌صورت قابل‌راستی‌آزمایی مسدود کند.
در همین حال، یک پژوهشگر امنیتی به‌سرعت آسیب‌پذیری روز صفر را در Muse شناسایی کرد که می‌توانست امکان کنترل این ابزار را برای مهاجمان فراهم کند. این آسیب‌پذیری بعداً اصلاح شد، اما کشف آن نگرانی‌هایی را درباره احتمال حملات خارجی افزایش داد.
وب‌سایت 404 Media نیز گزارش داد که چند مشکل امنیتی جدی در روزهای پایانی پیش از عرضه Muse شناسایی شده بود. یکی از این مشکلات می‌توانست دسترسی کاربران به پایگاه‌های داده داخلی متا را امکان‌پذیر کند.
نحوه جمع‌آوری و به‌اشتراک‌گذاری داده‌ها در Muse نیز انتقادهایی را به دنبال داشته است. این ابزار به‌صورت پیش‌فرض اجازه می‌دهد متا از اطلاعاتی که کاربران وارد می‌کنند برای آموزش مدل‌های خود استفاده کند، هرچند کاربران می‌توانند این گزینه را غیرفعال کنند.
یک خبرنگار نشریه Inc. اعلام کرد که Muse بدون درخواست او پیام‌های خصوصی‌اش را بارگذاری و مطالعه کرده است. یک یوتیوبر نیز گفت این ابزار نشانی محل زندگی او را از طریق Marketplace در اختیار فردی غریبه قرار داده است. در هر دو مورد، ظاهراً Muse مطابق طراحی خود عمل کرده بود، اما کاربران از گستره دسترسی آن آگاه نبودند.
نشریه وایرد نیز گزارش داد که این پلتفرم پروفایل‌های مفصلی از دوستان و اعضای خانواده کاربران ایجاد می‌کند. این رفتارها لزوماً با سابقه متا در جمع‌آوری داده‌ها بی‌ارتباط نیستند، اما با این ادعا که Muse محصولی ویژه و متمایز در زمینه حفاظت از حریم خصوصی است، همخوانی ندارند.
پاسخ OpenAI با معرفی عامل هوش مصنوعی Dots
OpenAI در اواخر سپتامبر و هنگام معرفی Dots بر همین نگرانی‌ها تمرکز کرد. الکساندر امبیریکوس، مدیر محصول Codex در OpenAI، در رویداد DevDay گفت این شرکت برای ساخت «قابل‌اعتمادترین، ایمن‌ترین و امن‌ترین دستیار» تلاش می‌کند.
آلتمن نیز نمونه‌هایی از کنترل کاربران بر رفتار Dots را نمایش داد. برای مثال، کاربران می‌توانند قانونی تعیین کنند که دستیار هرگز خریدی بالاتر از مبلغ مشخصی انجام ندهد.
گلن کوتس، رئیس پلتفرم اپلیکیشن OpenAI، گفت این شرکت از نظر شرایط عرضه با متا تفاوت دارد، زیرا متا محصول هوش مصنوعی‌ای با ۱٫۲ میلیارد کاربر ندارد. او افزود OpenAI تلاش می‌کند با دقت بیشتری از بروز خطاهایی که هنگام عرضه Muse گزارش شده‌اند، جلوگیری کند.
OpenAI برای جلب مشتریان سازمانی نیز چارچوبی برای کنترل بیشتر بر داده‌ها معرفی کرده است. این چارچوب شامل گزینه‌هایی برای نگهداری صفر داده می‌شود، به این معنا که اطلاعات در سرورهای OpenAI ذخیره نشوند.
تا این زمان، Dots با رسوایی‌های گسترده‌ای در زمینه حریم خصوصی مواجه نشده است. البته این ابزار تنها در طرح‌های اشتراکی ChatGPT با قیمت ۱۰۰ دلار یا بیشتر در دسترس قرار دارد و احتمالاً شمار کاربران آن نیز کمتر است.
با این حال، حتی اگر شرکت‌ها تدابیر امنیتی بیشتری در نظر بگیرند، ممکن است کاربران همچنان برای ارائه اطلاعات شخصی خود به عامل‌های هوش مصنوعی تردید داشته باشند. این ابزارها برای انجام وظایف مختلف، گاهی به اطلاعات حساسی نیاز دارند.
برای نمونه، الیسون جانسون، خبرنگار ورج، هنگام درخواست ربات برای وارد کردن اطلاعات بانکی خود در جریان انجام یک کار مرتبط، احساس ناراحتی کرد. Muse برای دریافت چنین اطلاعاتی از یکپارچه‌سازی با سرویس پرداخت Stripe استفاده می‌کند.
اعتماد کاربران همچنان یک چالش اساسی است
همه شرکت‌های سازنده عامل‌های هوش مصنوعی نیز وعده‌های مشخصی درباره حفظ حریم خصوصی نمی‌دهند. شرکت Instinct پیش‌تر به دلیل شرایط استفاده‌ای که ظاهراً دسترسی بسیار گسترده‌ای به داده‌های کاربران می‌داد، با انتقادهای عمومی مواجه شده بود. این شرکت پس از آن به نظر می‌رسد تغییراتی در شرایط خود ایجاد کرده است.
در حال حاضر، آزمایشگاه‌های هوش مصنوعی برای گسترش استفاده عمومی از عامل‌ها بر سه محور تمرکز کرده‌اند: ساخت ابزارهایی کاربردی، طراحی شخصیت‌هایی جذاب و غیرتهدیدآمیز برای کاهش حس ناخوشایند تعامل با هوش مصنوعی، و ارائه وعده‌هایی درباره حفظ حریم خصوصی.
با این حال، موفقیت این راهبرد به اجرای واقعی تعهدات امنیتی وابسته است. جداسازی داده‌ها، کنترل دسترسی و امکان جلوگیری از استفاده اطلاعات برای آموزش مدل‌ها می‌توانند بخشی از نگرانی‌ها را کاهش دهند، اما گزارش‌های مربوط به آسیب‌پذیری‌ها و دسترسی گسترده به اطلاعات نشان می‌دهند که وعده‌های شرکت‌ها به‌تنهایی برای جلب اعتماد کاربران کافی نیستند.