یک مدل هوش مصنوعی ۳۸۰ کیلوبایتی با ۳۶۷ هزار پارامتر روی فلاپیدیسک جا میشود و حتی در سیستمعامل قدیمی MS-DOS اجرا میشود.
فهرست مطالب
یک مدل هوش مصنوعی بسیار کوچک با حجمی در حدود ۳۸۰ کیلوبایت ساخته شده است که میتواند روی یک فلاپیدیسک قدیمی جا بگیرد و حتی روی کامپیوترهای مجهز به سیستمعامل MS-DOS اجرا شود.
به گزارش سرویس هوش مصنوعی تکناک، این مدل زبانی کوچک با وجود برخورداری از ساختار ترنسفورمر، توانایی محدودی دارد و در پاسخگویی به پرسشهای ساده نیز گاهی اشتباهات عجیبی مرتکب میشود.
حتما بخوانید: گوگل مدل هوش مصنوعی Gemini 4 Neon را با تمرکز بر استدلال پیچیده معرفی کرد
چگونگی ساخت مدل هوش مصنوعی ۳۸۰ کیلوبایتی
در دورانی که مدلهای هوش مصنوعی با میلیاردها و حتی تریلیونها پارامتر توسعه پیدا میکنند، ساخت یک مدل زبانی با حجم تنها ۳۸۰ کیلوبایت اتفاق جالبی به نظر میرسد.
طبق اطلاعات منتشرشده در صفحه پروژه گیتهاب، این مدل کوچک که وبسایت هکدی آن را شناسایی کرده با زبان برنامهنویسی سی و کامپایلر توربو سی ۲٫۰ نوشته شده است.
مدل موردنظر از معماری ترنسفورمر استفاده میکند؛ همان معماری پایهای که در بسیاری از مدلهای زبانی مدرن نیز دیده میشود. البته شباهت معماری به معنای برخورداری از تواناییهای مشابه نیست.
بر اساس اطلاعات منتشرشده، این مدل تنها ۳۶۷ هزار پارامتر دارد. برای مقایسه، مدلهای زبانی سبک امروزی معمولا از میلیاردها پارامتر استفاده میکنند.
وزنهای مدل نیز با دقت ۸ بیتی ذخیره شدهاند و حجم آنها در مجموع به حدود ۳۸۰ کیلوبایت میرسد. این هوش مصنوعی برای اجرا نیز به حدود ۵۴۰ کیلوبایت حافظه نیاز دارد.
مشخصات اصلی این پروژه عبارتانداز:
- حجم مدل: حدود ۳۸۰ کیلوبایت
- تعداد پارامترها: ۳۶۷ هزار
- حافظه موردنیاز برای اجرا: حدود ۵۴۰ کیلوبایت
- تعداد اطلاعات آموزشی: حدود ۳۵۰۰ واقعیت
- زبان برنامهنویسی: توربو سی ۲٫۰
- سیستمعامل سازگار: MS-DOS
نکته جالب دیگر به نحوه ساخت این مدل مربوط میشود. طبق توضیحات سازنده، او برای نوشتن مدل از آنتروپیک فیبل ۵.۲ و برای آموزش آن از آنتروپیک اوپوس ۵.۵ کمک گرفته است.
به بیان دیگر، یک مدل هوش مصنوعی کوچک با کمک مدلهای هوش مصنوعی بسیار بزرگتر ساخته و آموزش داده شده است.
این مطلب را از دست ندهید: مدل هوش مصنوعی Qwen4-Max با ۲٫۴ تریلیون پارامتر معرفی شد + تصویر
چرا این چتبات کوچک پاسخهای اشتباه میدهد؟
با وجود طراحی جالب مدل هوش مصنوعی ۳۸۰ کیلوبایتی، نباید انتظار عملکردی مشابه چتباتهای پیشرفتهای مانند کلود را از این مدل داشته باشیم.
این هوش مصنوعی تنها با حدود ۳۵۰۰ واقعیت آموزش دیده است و دانش بسیار محدودی درباره جهان دارد. به همین دلیل، در بسیاری از مواقع پاسخهایی تولید میکند که کاملا اشتباه هستند.
برای مثال، مدل در پاسخ به پرسشی درباره نهنگها به درستی اعلام کرده که آنها پستاندار هستند و ماهی نیستند. همچنین توانسته است الکساندر گراهام بل را به عنوان مخترع تلفن معرفی کند.
اما در یک نمونه عجیبتر، وقتی از آن پرسیده شده حاصل ضرب ۱۷ در ۲۳ چیست، پاسخ ۹۶ را ارائه کرده است؛ درحالیکه جواب صحیح ۳۹۱ است.
این مدل حتی در پاسخ به پرسش «پادشاه فرانسه چه کسی است؟» نامی عجیب به زبان آورده و با اطمینان کامل اعلام کرده است که پادشاه فرانسه شخصی به نام آنتارس نیوتن است!
این نمونهها نشان میدهند کوچک بودن یک مدل هوش مصنوعی لزوما به معنای کارآمد بودن آن نیست. مدل برای پاسخگویی دقیق به اطلاعات آموزشی گستردهتر و توانایی پردازش بهتر نیاز دارد.
آیا مدلهای هوش مصنوعی کوچک آینده بهتری دارند؟
اهمیت این پروژه بیشتر از آنکه به توانایی پاسخگویی مدل مربوط باشد، به نشان دادن امکان اجرای مدلهای زبانی روی سختافزار بسیار قدیمی بازمیگردد.
امروزه بسیاری از مدلهای پیشرفته هوش مصنوعی به منابع پردازشی و حافظه قابل توجهی نیاز دارند. در مقابل، این پروژه نشان میدهد میتوان نسخهای بسیار ساده از یک مدل زبانی را با منابع سختافزاری محدود اجرا کرد.
البته این مدل برای انجام کارهای جدی، پاسخگویی دقیق یا جایگزینی دستیارهای هوشمند امروزی مناسب نیست. محدودیت اطلاعات آموزشی و خطاهای متعدد آن، استفاده عملی از چنین مدلی را دشوار میکند.
با وجود این، پروژه مذکور نمونه جالبی از کوچکسازی مدلهای هوش مصنوعی و اجرای آنها روی سیستمهای قدیمی محسوب میشود. شاید مهمترین دستاورد این باشد که نشان میدهد برای تجربه یک مدل زبانی ساده، همیشه به کامپیوترهای قدرتمند و سختافزارهای گرانقیمت نیاز نداریم.
