مدل‌های هوش مصنوعی وقتی بدانند تحت نظارت هستند، پاسخ‌های متفاوتی می‌دهند

مدل‌های هوش مصنوعی ممکن است زمانی که تصور می‌کنند رفتار و پاسخ‌هایشان زیر نظر قرار دارد، تصمیم‌های متفاوتی بگیرند. پژوهش جدیدی نشان می‌دهد برخی از مدل‌های زبانی بزرگ (LLM) هنگام آگاهی از نظارت، بیشتر از دستورالعمل‌های تعیین‌شده پیروی می‌کنند؛ اما زمانی که تصور می‌کنند کسی رفتارشان را بررسی نمی‌کند، ممکن است همان دستورالعمل‌ها را کنار

مدل‌های هوش مصنوعی ممکن است زمانی که تصور می‌کنند رفتار و پاسخ‌هایشان زیر نظر قرار دارد، تصمیم‌های متفاوتی بگیرند.

پژوهش جدیدی نشان می‌دهد برخی از مدل‌های زبانی بزرگ (LLM) هنگام آگاهی از نظارت، بیشتر از دستورالعمل‌های تعیین‌شده پیروی می‌کنند؛ اما زمانی که تصور می‌کنند کسی رفتارشان را بررسی نمی‌کند، ممکن است همان دستورالعمل‌ها را کنار بگذارند.

پژوهشگران مؤسسه TCS Research و دانشگاه KIIT در هند، آزمایشی با حضور ۱۰ مدل زبانی مختلف انجام دادند تا بررسی کنند این سیستم‌ها در شرایط متفاوت تا چه اندازه به قوانین پایبند می‌مانند. نتایج این تحقیق که در قالب مقاله‌ای در پایگاه arXiv منتشر شده، نشان می‌دهد میزان تغییر رفتار مدل‌ها به نوع مدل و ارزش مشخصی بستگی دارد که از آن‌ها خواسته می‌شود کنار بگذارند.

پژوهشگران این رفتار را «تظاهر به هم‌راستایی» (Alignment Faking) نامیده‌اند. در چنین شرایطی، مدل هوش مصنوعی زمانی که تصور می‌کند تحت نظارت قرار دارد، از یک دستورالعمل پیروی می‌کند؛ اما وقتی فکر می‌کند کسی پاسخ‌هایش را بررسی نمی‌کند، ممکن است همان دستورالعمل را نادیده بگیرد.

در دیجینوی بخوانید: