داریو آمودی، مدیرعامل آنتروپیک، حمایت خود را از تلاشهای فزاینده برای ایجاد یک سازمان ارزیابی امنیت مدلهای قدرتمند هوش مصنوعی اعلام کرد.
فهرست مطالب
داریو آمودی، مدیرعامل آنتروپیک، حمایت خود را از تلاشهای فزاینده، بهویژه اقدامات تحت رهبری ایالات متحده برای ایجاد یک سازمان ارزیابی امنیت مدلهای قدرتمند هوش مصنوعی اعلام کرد.
به گزارش سرویس هوش مصنوعی تکناک، او بعدازظهر دوشنبه به شایعات مطرحشده در صنعت فناوری مبنی بر اینکه شرکت آنتروپیک از تلاشهای دولت ایالات متحده برای ممنوعیت مدلهای متنباز چینی یا به طور کلی مدلهای متنباز حمایت میکند، واکنش نشان داد.
آمودی با تأکید شخصی بر این موضوع نوشت که هر کسی نوشتههای گذشته او را خوانده باشد باید بداند که چنین ممنوعیتهایی را اقدامی مفید تلقی نمیکند، اما برای اینکه هیچ شک و تردیدی باقی نماند، بهوضوح اعلام میشود که آنتروپیک هرگز خواستار ممنوعیت مدلهای متنباز نبوده است.
01 از 02تکذیب حمایت از ممنوعیت مدلهای هوش مصنوعی متن باز
این واکنش پس از آن صورت گرفت که جنسن هوانگ، بنیانگذار و مدیرعامل انویدیا در روز جمعه در اولین پست خود در شبکه اجتماعی ایکس، نامه سرگشادهای را به اشتراک گذاشت که در آن انویدیا و لیست بلندی از شرکتهای فعال در حوزه هوش مصنوعی از جمله هاگینگ فیس، متا، مایکروسافت و میسترال از سیاستگذاران خواستند محدودیتهای عجولانه و گستردهای را علیه مدلهای هوش مصنوعی متنباز اعمال نکنند.
اگرچه در آن نامه به طور خاص نامی از چین برده نشده بود، اما بحثها در این صنعت حول محور اتهاماتی میچرخد که بر اساس آنها، آزمایشگاههای هوش مصنوعی چینی اغلب با سرقت مالکیت معنوی رقبای آمریکایی، در حال افزایش تواناییهای خود هستند. یکی از روشها، تقطیر است که در آن یک هوش مصنوعی با ارسال پرامپتهای متعدد به مدلی دیگر، نحوه کارکرد آن را یاد میگیرد.
آمودی در پست وبلاگی منتشرشده در روز دوشنبه اشاره کرد که مدلهای متنباز را در دستهای متفاوت از تهدیدات ناشی از چین قرار میدهد. به باور او، مدلهای متنبازی که قابلیتهای خطرناکی ندارند، یک کالای عمومی به حساب میآیند، چرا که بهجز توان پردازشی مورد نیاز برای اجرا، هزینه دیگری ندارند و برای کسبوکارها، توسعهدهندگان و پژوهشگران ارزشآفرین هستند.
آمودی در این پست اعلام کرد که نگرانیهای دیرینهای درباره هوش مصنوعی دارد، اما استفاده کسبوکارها از مدلهای متنباز، حتی مدلهای چینی، در زمره این نگرانیها قرار نمیگیرد.
نگرانی او این است که دولتهای اقتدارگرا، مدلهای قدرتمندتری از مدلهای ایالات متحده بسازند تا به برتری نظامی دائمی دست یابند، یا از هوش مصنوعی برای سرکوب مردم خود استفاده کنند. او اشاره کرد که حزب کمونیست چین تنها حکومت اقتدارگرای مورد نگرانی نیست، اما توانمندترین آنها به حساب میآید.
همچنین آمودی ابراز نگرانی کرد که هوش مصنوعی علاوه بر حملات سایبری، امکان حملات بیولوژیکی را نیز فراهم کند. از نظر او، مدلهای متنباز در چنین سناریوهایی خطرناکتر هستند، چرا که اعمال محدودیتهای امنیتی روی آنها یا نظارت بر نحوه استفاده از آنها دشوار است. او با استناد به گزارش مؤسسه امنیت هوش مصنوعی بریتانیا خاطرنشان کرد که مدلهای متنباز پس از انتشار دیگر قابل بازپسگیری نیستند.
این دیدگاه با استدلال مدافعان متنباز در تضاد است، چرا که آنها باور دارند دسترسی به مدلهای متنباز قدرتمند که تحت کنترل یک نهاد واحد نیستند، به مدافعان امنیت کمک میکند تا از خود محافظت نمایند.
02 از 02اهمیت ارزیابی امنیت مدلهای هوش مصنوعی
آمودی اقداماتی را مطرح کرد که به باور او میتواند مانع از پیشروی چین شود، که از جمله آنها میتوان به محدود کردن دسترسی این کشور به تراشههای قدرتمند که از سیاستهای دیرینه ایالات متحده بوده است، همچنین درخواست برای سرکوب رسمی فرایند تقطیر مدلها اشاره کرد. ایالات متحده تهدید کرده است که در صورت احراز سرقت مالکیت معنوی مدلهای آمریکایی، تحریمهایی را علیه چین اعمال خواهد کرد.
نکته جالب این است که آمودی حمایت خود را از تلاشهای فزاینده، بهویژه اقدامات تحت رهبری ایالات متحده برای ایجاد یک سازمان ارزیابی امنیت مدلها اعلام کرد؛ بهخصوص اگر تمام دنیا از جمله چین با ارسال مدلهای خود به این سازمان موافقت کنند.
آمودی نوشت که این ایده در واقع به یک اجماع عمومی نزدیک است و حرکت دولت ترامپ در ماههای اخیر به این سمت و پیشنهادهای اخیر صنعت برای اعمال چنین ارزیابیهایی روی قدرتمندترین مدلها، بدون توجه به کشور سازنده یا باز و بسته بودن آنها و در عین حال معاف کردن مدلهای کمقدرتتر مانند مدلهای استارتآپها و دانشگاهها، مایه دلگرمی است.
طبق گزارش تککرانچ، او در پایان اضافه کرد که برای اثربخش بودن، این ارزیابیها باید در سطح جهانی انجام شوند و این یعنی حتی حزب کمونیست چین نیز باید با آن همراه شود. به باور او، این موضوع میتواند ممکن باشد چرا که همکاریهای محدود برای جلوگیری از سلاحهای بیولوژیکی مبتنی بر هوش مصنوعی، به نفع خود چین نیز خواهد بود.