گروه مشورتی ریاضیات و هوش مصنوعی (AGMAI) بر ضرورت درک انسانی نتایج و انتشار جزئیات فرایند حل مسائل تأکید کرده است.
وقتی OpenAI در این هفته صدها راه‌حل ادعایی برای برخی از دشوارترین مسائل ریاضی جهان را منتشر کرد، این شرکت گفت برای جلوگیری از جنجالی که در پی حل یکی از مسائل دیرینه این حوزه توسط یکی از مدل‌هایش به وجود آمده بود، با گروهی مشورتی متشکل از ریاضی‌دانان برجسته مشورت کرده است.
بااین‌حال، OpenAI نتوانست این استانداردها را به‌طور کامل رعایت کند؛ به‌ویژه در مواردی که ریاضی‌دانان بر ضرورت درک انسانی نتایج ریاضی تأکید کرده بودند. این موضوع به‌خصوص پس از انتشار مقاله‌ای جدید نگران‌کننده است که شکاف میان راه‌حل ارائه‌شده به زبان طبیعی و نسخه رسمی و صوری آن را در یک مسئله یک‌میلیون‌دلاری نشان می‌دهد؛ مسئله‌ای که ظاهراً مدل‌های OpenAI آن را حل کرده‌اند.
OpenAI ظاهرا برخی از استانداردهای لازم مدنظر ریاضی‌دانان را رعایت نکرده است
گروه مشورتی ریاضیات و هوش مصنوعی (AGMAI) که زیر نظر مؤسسه مطالعات پیشرفته دانشگاه پرینستون فعالیت می‌کند، از ۹ پژوهشگر برجسته در مؤسسات علمی سراسر جهان تشکیل شده است. این سازمان در اواخر سپتامبر دستورالعمل‌هایی برای آزمایشگاه‌های پیشرو هوش مصنوعی منتشر کرد که در زمینه حل مسائل ریاضی فعالیت می‌کنند. AGMAI در بیانیه‌ای درباره جدیدترین مجموعه اثبات‌های منتشرشده توسط OpenAI گفت: «در نهایت، این جامعه ریاضی‌دانان است که باید ارزیابی کند توصیه‌های ما تا چه اندازه با موفقیت رعایت شده‌اند.»
بااین‌حال، نخستین درخواست این گروه توقف آزمایش مسائل پیشرفته ریاضی با استفاده از مدل‌های اختصاصی بود. درحالی‌که OpenAI در گزارش انتشار نتایج خود صراحتاً اعلام کرده است که مدل‌های اختصاصی‌اش را با استفاده از مسائل پژوهشی حل‌نشده در ریاضیات ارزیابی می‌کند.
OpenAI برخی از اصول گروه را رعایت کرده است؛ از جمله انتشار هرچه سریع‌تر نتایج و ارائه اطلاعات درباره چگونگی رسیدن مدل‌ها به نتیجه‌گیری‌هایشان. بااین‌حال، همه اصول رعایت نشده‌اند. برای مثال، از بین ۷۱۹ راهکار منتشرشده، تنها ۱۰ مورد شامل انتشار زنجیره فکری مدل بودند.
ریاضی‌دانان پیشنهاد کرده بودند اثبات‌هایی که انسان‌ها قادر به درک آنها نیستند، به‌صورت رسمی و صوری‌سازی‌شده ارائه شوند؛ اما تنها ۴۲ درصد از اثبات‌های منتشرشده توسط OpenAI این فرایند را طی کرده بودند.
در نهایت، هنوز مشخص نیست که آیا OpenAI هنگام انتشار اثبات‌های خود، مطابق با اصول AGMAI، مسئولیت تضمین درک انسانی نتایج را بر عهده می‌گیرد یا خیر. AGMAI پیشنهاد کرده است که OpenAI به تأمین مالی فعالیت ریاضی‌دانان انسانی کمک کند.