فناوری MEXT با انتقال صفحات کم‌استفاده حافظه به فضای ذخیره‌سازی فلش و استفاده از یک مدل هوش مصنوعی پیش‌بینی‌کننده، اطلاعات موردنیاز را پیش از درخواست در اختیار سیستم قرار می‌دهد. شرکت ای‌ام‌دی (AMD) در ماه ژوئن مالکیت فناوری MEXT را که یک موتور پیش‌بینی حافظه محسوب می‌شود، به دست گرفت. این فناوری ادعا می‌کند حتی
فناوری MEXT با انتقال صفحات کم‌استفاده حافظه به فضای ذخیره‌سازی فلش و استفاده از یک مدل هوش مصنوعی پیش‌بینی‌کننده، اطلاعات موردنیاز را پیش از درخواست در اختیار سیستم قرار می‌دهد.
شرکت ای‌ام‌دی (AMD) در ماه ژوئن مالکیت فناوری MEXT را که یک موتور پیش‌بینی حافظه محسوب می‌شود، به دست گرفت. این فناوری ادعا می‌کند حتی با استفاده از تنها ۲۵ درصد ماژول‌های فیزیکی رم، می‌تواند بیش از ۹۹ درصد عملکرد سیستمی با ظرفیت کامل حافظه را حفظ کند.
MEXT صفحات کم‌استفاده حافظه را به فضای ذخیره‌سازی فلش منتقل می‌کند و با کمک یک مدل هوش مصنوعی، اطلاعات موردنیاز را پیش از درخواست سیستم به حافظه بازمی‌گرداند. ای‌ام‌دی قصد دارد سال آینده این فناوری را در بخش گسترده‌ای از زیرساخت فناوری اطلاعات خود به کار بگیرد.
ادعاهای مطرح‌شده درباره MEXT در نگاه نخست بیش از حد امیدوارکننده به نظر می‌رسند. طبق توضیحات ای‌ام‌دی و گری اسمردون، بنیان‌گذار MEXT، این فناوری بسته به نوع برنامه و سطح عملکرد مورد انتظار، می‌تواند نیاز فیزیکی سرورها به حافظه رم را بین ۲۰ تا ۷۵ درصد کاهش دهد.
با وجود حذف بخشی از حافظه فیزیکی، سیستم‌عامل همچنان تصور می‌کند تمام ظرفیت رم نصب شده است. در واقع، MEXT به‌جای استفاده از رم گران‌قیمت، صفحات کم‌استفاده را به حافظه فلش نسبتاً ارزان منتقل می‌کند و هنگام نیاز، آن‌ها را با کمک مدل هوش مصنوعی به رم بازمی‌گرداند.
ای‌ام‌دی اعلام کرده در برخی پردازش‌های داخلی خود، از جمله نرم‌افزار Synopsys PrimeTime، با استفاده از MEXT و تنها ۵۰ درصد ظرفیت رم، توانسته ۹۵ درصد عملکرد یک سرور مجهز به حافظه کامل را حفظ کند.
ای‌ام‌دی تاکنون این فناوری را روی ۱۴۵ سرور داخلی خود مستقر کرده و قصد دارد تعداد آن‌ها را در سال آینده به ۲۰۰۰ دستگاه افزایش دهد. این شرکت همچنین برای عرضه MEXT به مشتریان، همکاری با اچ‌پی‌ای را آغاز کرده است.
در حال حاضر، مرحله نخست عرضه این فناوری در جریان قرار دارد. برخی سرورهای EPYC Venice با برچسب MEXT Ready عرضه می‌شوند و به یک درایو یا محفظه اختصاصی NVMe برای انتقال اطلاعات مجهز هستند.
در مرحله دوم، مجوز استفاده از MEXT برای این سرورها عرضه خواهد شد و نرم‌افزار RAM View نیز در اختیار کاربران قرار می‌گیرد. ای‌ام‌دی هنوز زمان آغاز این مرحله را اعلام نکرده است.
افزایش قیمت حافظه رم در پی تقاضای گسترده صنعت هوش مصنوعی، فقط بازار رایانه‌های گیمینگ را تحت تأثیر قرار نداده و شرکت‌های بزرگ نیز با فشار ناشی از رشد قیمت‌ها مواجه شده‌اند؛ حتی اگر از پردازش‌های هوش مصنوعی استفاده نکنند.
اگر MEXT بتواند وعده‌های ای‌ام‌دی را عملی کند، در شرایط فعلی بازار حافظه تأثیر چشمگیری خواهد داشت. به همین دلیل، شناخت سازوکار این فناوری و بررسی قابلیت‌های واقعی آن اهمیت زیادی دارد.
با وجود جذابیت ایده MEXT، ای‌ام‌دی فعلاً رویکردی محتاطانه در عرضه آن دنبال می‌کند. ادعاهای بزرگ به شواهد محکمی نیاز دارند. در حال حاضر، کاربردهای این فناوری محدود به گروه مشخصی از پردازش‌ها هستند، اما ای‌ام‌دی می‌گوید آزمایش آن روی بارهای کاری بیشتر را با نتایج اولیه امیدوارکننده گسترش داده است.
رم، حافظه فلش و مدل هوش مصنوعی
سازوکار اصلی MEXT در ظاهر ساده است: صفحات کم‌استفاده به حافظه فلش منتقل می‌شوند، هوش مصنوعی زمان نیاز به آن‌ها را پیش‌بینی می‌کند و اطلاعات پیش از درخواست دوباره به رم بازمی‌گردند؛ در نتیجه، سیستم تقریباً مانند زمانی عمل می‌کند که تمام ظرفیت حافظه فیزیکی در اختیارش قرار دارد.
مشکل اصلی این روش، سرعت بسیار پایین‌تر حافظه فلش در مقایسه با رم است. انتقال صفحات از حافظه فلش به رم درست در لحظه درخواست، به‌دلیل اختلاف سرعت زیاد این دو فناوری، امکان‌پذیر نیست.
راهکار MEXT استفاده از یک مدل هوش مصنوعی برای پیش‌بینی صفحات موردنیاز در آینده است. تا زمانی که مدل بتواند دست‌کم به اندازه زمان تأخیر انتقال اطلاعات از حافظه SSD جلوتر باشد، سیستم تفاوت محسوسی میان استفاده از حافظه کامل و حافظه کاهش‌یافته احساس نخواهد کرد.
این ایده با توجه به نحوه عملکرد مدل‌های زبانی بزرگ مبتنی بر معماری ترنسفورمر چندان عجیب نیست. برای درک بهتر این فناوری، یک ابزار تصویری متن‌باز نیز وجود دارد که سازوکار مدل‌های هوش مصنوعی ترنسفورمر را به‌صورت ساده نمایش می‌دهد.
مفهوم اصلی این مدل‌ها پیش‌بینی توکن بعدی است. یک مدل زبانی بزرگ با دریافت مجموعه‌ای از توکن‌ها، پیش‌بینی می‌کند کدام توکن، شامل یک کلمه یا بخشی از آن، احتمالاً در ادامه ظاهر خواهد شد.
در فناوری MEXT نیز همین منطق به کار گرفته شده، با این تفاوت که هوش مصنوعی به‌جای پیش‌بینی کلمه بعدی، صفحه حافظه موردنیاز بعدی را پیش‌بینی می‌کند.
انتقال اطلاعات از رم به حافظه فلش ایده تازه‌ای نیست، اما گری اسمردون، بنیان‌گذار MEXT، معتقد است استفاده از هوش مصنوعی تفاوت اصلی این فناوری با راهکارهای قبلی محسوب می‌شود.
MEXT به‌صورت یک ماژول در هسته لینوکس اجرا می‌شود و با توزیع‌های مختلف این سیستم‌عامل سازگاری دارد. این فناوری از مجموعه‌ای از مدل‌های هوش مصنوعی استفاده می‌کند که مدل زبانی بزرگ مبتنی بر ترنسفورمر، بخش اصلی آن را تشکیل می‌دهد.
نکته مهم این است که MEXT از ابتدا با مدل آموزش‌دیده عرضه نمی‌شود. ای‌ام‌دی می‌گوید این فناوری هنگام نخستین اجرا، در کمتر از یک ثانیه آموزش اولیه خود را انجام می‌دهد، تنها از یک هسته پردازنده EPYC استفاده می‌کند و برای فعالیت به پردازنده گرافیکی نیازی ندارد.
مدل هوش مصنوعی هم‌زمان با ادامه پردازش‌ها به آموزش خود ادامه می‌دهد. این رویکرد با توجه به تنوع بارهای کاری سرورها اهمیت زیادی دارد؛ زیرا MEXT باید الگوهای دسترسی هر برنامه به حافظه را یاد بگیرد تا بتواند صفحات موردنیاز را به‌درستی پیش‌بینی کند.
البته MEXT برای عملکرد مناسب نیازی به پیش‌بینی بی‌نقص ندارد. برای مثال، ترتیب ذخیره‌سازی صفحات حافظه اهمیت چندانی نخواهد داشت.
در یک مدل زبانی، پیش‌بینی متن باید با ترتیب صحیح انجام شود، اما در MEXT چنین محدودیتی وجود ندارد. کافی است صفحه موردنیاز هنگام درخواست برنامه در حافظه رم حضور داشته باشد.
ابزار RAM View و بررسی الگوی مصرف حافظه
ای‌ام‌دی برای بررسی عملکرد MEXT در بارهای کاری مختلف، ابزار RAM View را نیز توسعه داده است. این نرم‌افزار میزان استفاده از حافظه را نمایش می‌دهد و مشخص می‌کند کدام صفحات فعال و کدام صفحات برای مدتی طولانی بدون استفاده باقی مانده‌اند.
در نمونه ارائه‌شده از سوی ای‌ام‌دی، یک سیستم با ۱.۵ ترابایت حافظه تقریباً در تمام مدت پردازش، استفاده نزدیک به ظرفیت کامل رم را نشان می‌دهد. با این حال، حدود نیمی از صفحات ذخیره‌شده در هر لحظه، طی پنج دقیقه یا بیشتر هیچ‌گونه دسترسی نداشته‌اند.
ای‌ام‌دی این نمونه را به‌عنوان یک وضعیت عمومی ارائه کرده، اما مشخص نکرده است که چه نوع پردازشی روی آن اجرا می‌شد. این موضوع اهمیت زیادی دارد؛ زیرا الگوی مصرف حافظه بسته به برنامه‌های فعال روی سرور می‌تواند تفاوت چشمگیری داشته باشد.
در مرحله نخست، ای‌ام‌دی استفاده از MEXT را روی نرم‌افزارهای مهم طراحی و اتوماسیون الکترونیکی یا EDA متمرکز کرده است. یکی از این برنامه‌ها Synopsys PrimeTime نام دارد. این شرکت همچنین بهینه‌سازی فناوری خود برای پردازش‌های هوش مصنوعی عامل‌محور، پایگاه‌های داده و برنامه‌های حوزه رسانه و سرگرمی را دنبال می‌کند.
این موضوع از آن جهت اهمیت دارد که الگوی دسترسی به حافظه در برنامه‌های مختلف یکسان نیست. علاوه بر این، عملکرد هر برنامه هنگام کمبود حافظه نیز واکنش متفاوتی نشان می‌دهد.
مفهومی که ای‌ام‌دی از آن با عنوان دیوار حافظه یاد می‌کند، حتی برای افرادی که تاکنون با سرورها کار نکرده‌اند نیز قابل‌درک است. این اصطلاح به محدودیتی اشاره دارد که ظرفیت حافظه می‌تواند برای عملکرد پردازش ایجاد کند.
ای‌ام‌دی با استفاده از MEXT تلاش دارد این محدودیت را به عقب براند؛ البته میزان این بهبود برای هر برنامه متفاوت خواهد بود.
برای نمونه، این شرکت اطمینان دارد که بسیاری از بارهای کاری می‌توانند ظرفیت حافظه موردنیاز خود را حدود ۲۰ تا ۲۵ درصد کاهش دهند. با افزایش میزان کاهش حافظه، کاربردهای فناوری تخصصی‌تر می‌شوند و اختلاف عملکرد نیز افزایش پیدا می‌کند.
نتایج داخلی ای‌ام‌دی از عملکرد MEXT
ای‌ام‌دی تعدادی از نتایج آزمایش‌های داخلی MEXT را منتشر کرده که در نگاه نخست چشمگیر به نظر می‌رسند. با این حال، مانند سایر بنچمارک‌هایی که سازنده یک محصول منتشر می‌کند، بهتر است این آمارها با کمی تردید بررسی شوند.
در نرم‌افزار PrimeTime که تاکنون بخش زیادی از تمرکز ای‌ام‌دی روی آن بوده، سرورهایی با ۵۰ درصد ظرفیت حافظه توانسته‌اند ۹۵ درصد عملکرد یک سرور مجهز به رم کامل را حفظ کنند.
حتی با کاهش ظرفیت حافظه به ۲۵ درصد، این فناوری همچنان حدود ۸۰ درصد عملکرد برنامه را ارائه می‌دهد.
نرم‌افزار PrimeTime برای پردازش طرح‌های بزرگ به حافظه زیادی نیاز دارد. با این حال، طبق ادعای ای‌ام‌دی، برخی برنامه‌ها عملکردی تقریباً یکسان با سیستم مجهز به حافظه کامل ارائه می‌دهند.
برای نمونه، در یک خوشه سه‌گرهی مبتنی بر پردازنده‌های EPYC نسل پنجم که روی زیرساخت ابری آژور اجرا شده، ای‌ام‌دی با استفاده از بار کاری Spark SQL در آزمون TPC-DS توانسته ۹۹ درصد عملکرد خوشه کامل را با تنها ۵۰ درصد ظرفیت رم حفظ کند.
پایگاه‌های داده SQL معمولاً تلاش می‌کنند تا حد امکان اطلاعات بیشتری را در حافظه ذخیره کنند تا از ایجاد گلوگاه‌های ورودی و خروجی جلوگیری شود. همین ویژگی فرصت مناسبی برای فناوری‌هایی مانند MEXT فراهم می‌کند تا صفحات کم‌استفاده را از رم خارج کنند.
با وجود این، شاید کاربردی‌ترین حوزه برای MEXT در شرایط فعلی، هوش مصنوعی عامل‌محور باشد. ای‌ام‌دی می‌گوید این فناوری در چنین پردازش‌هایی نیز نتایج مشابهی ارائه می‌دهد.
طبق آمار منتشرشده، در آزمونی شامل میانگین هندسی عملکرد پنج عامل هوش مصنوعی که به‌صورت هم‌زمان فعالیت می‌کردند، MEXT با ۵۰ درصد ظرفیت حافظه توانسته ۹۹ درصد عملکرد سرور کامل را حفظ کند. این رقم در صورت کاهش ظرفیت حافظه به ۲۵ درصد، به ۸۵ درصد می‌رسد.
در آزمایش مربوط به یک عامل هوش مصنوعی با مصرف بالای حافظه نیز ای‌ام‌دی به‌ترتیب برای ظرفیت‌های ۵۰ و ۲۵ درصدی، عملکرد ۹۰ و ۸۸ درصدی را گزارش کرده است.
اسلاید منتشرشده از سوی ای‌ام‌دی شامل ارجاع‌هایی به توضیحات تکمیلی آزمایش‌ها بود، اما این شرکت هنوز اطلاعات مربوط به پاورقی‌ها را در اختیار رسانه‌ها قرار نداده است. بنابراین، جزئیات دقیق نحوه اجرای آزمون‌ها مشخص نیست.
طبیعی است که انتظار داشته باشیم ای‌ام‌دی نتایج عملکرد MEXT را در بهترین شرایط ممکن ارائه کرده باشد. با وجود این، بدون اطلاع از روش اجرای آزمایش‌ها نمی‌توان تحلیل کاملی از این نتایج ارائه داد.
نکته جالب دیگر، رویکرد محتاطانه ای‌ام‌دی در عرضه MEXT است. این فناوری در حال حاضر به پردازنده‌های EPYC محدود شده، اما ای‌ام‌دی احتمال پشتیبانی از محصولات آینده خود، از جمله دستگاه‌های مصرفی مانند Strix Halo را در بلندمدت رد نکرده است.
MEXT قرار است از طریق مجوز نرم‌افزاری و همراه با ابزار RAM View عرضه شود، اما هنوز زمان‌بندی مشخصی برای انتشار آن اعلام نشده است.
با وجود همکاری ای‌ام‌دی و اچ‌پی‌ای برای عرضه سرورهای دارای نشان MEXT Ready، همچنان مشخص نیست که نسخه نهایی این فناوری چه زمانی خارج از زیرساخت‌های داخلی ای‌ام‌دی در دسترس مشتریان قرار خواهد گرفت.
با توجه به این روند محتاطانه، احتمالاً MEXT محدودیت‌هایی دارد که هنوز به‌طور کامل مشخص نشده‌اند. همچنین دشوار به نظر می‌رسد که این فناوری بتواند روی تمام سرورها، به‌ویژه در شرایط کاهش ظرفیت رم به ۵۰ یا ۲۵ درصد، عملکرد یکسانی ارائه دهد.
با این حال، حتی کاهش ۲۵ درصدی ظرفیت رم موردنیاز یک سرور نیز در شرایط فعلی کمبود حافظه می‌تواند صرفه‌جویی مالی قابل‌توجهی به همراه داشته باشد. اگر برخی بارهای کاری بتوانند این کاهش را به ۵۰ درصد برسانند، میزان صرفه‌جویی بیشتر خواهد شد.
البته باید منتظر ماند و دید MEXT پس از عرضه گسترده چه عملکردی از خود نشان می‌دهد. اگر ادعاهای ای‌ام‌دی در عمل تأیید شوند، این فناوری می‌تواند به یکی از فناوری‌های تعیین‌کننده در مراکز داده تبدیل شود؛ مراکزی که در شرایط فعلی به ظرفیت حافظه بیشتری از همیشه نیاز دارند.