رکهای Vera Rubin انویدیا حجم بیسابقهای از حافظه را در اختیار دارند که همین موضوع باعث افزایش چشمگیر هزینه آنها شده است؛ موضوعی که در گزارش صورتحساب قطعات (Bill of Materials) مشخص شده است. همچنین نتایج بنچمارک نشان میدهد که عملکرد RTX Spark به M4 Max نزدیک شده است.
مقایسه Vera Rubin و Grace Blackwell؛ افزایش چشمگیر هزینه حافظه در نسل جدید هوش مصنوعی
رکهای Vera Rubin هزینه بسیار بالایی دارند. اگرچه انتظار میرود چنین محصولات سازمانی نسل جدیدی قیمت زیادی داشته باشند اما عامل اصلی افزایش هزینه آنها طبق انتظار حافظه است. حافظه به تنهایی 62 درصد از هزینه پلتفرم Vera Rubin را تشکیل میدهد.
در ماههای گذشته جزئیات هزینه و BOM رکهای Vera Rubin انویدیا منتشر شده بود اما جدیدترین گزارش منتشر شده توسط UBS، هزینه هر Superchip مدل Vera Rubin و رکهایی که این تراشهها در آنها استفاده میشوند را بررسی کرده است. سرور Vera Rubin NVL72 با نام رمز Oberon، به 72 گرافیک مبتنی بر معماری Rubin و حجم عظیمی از حافظه مجهز شده است.
هر تراشه Rubin به تنهایی دارای 288 گیگابایت حافظه HBM4 است که پهنای باندی تا 22 ترابایت بر ثانیه ارائه میدهد. همچنین پردازنده Vera به جدیدترین حافظه SOCAMM2 LPDDR5X مجهز شده که در هر Superchip تا 1.5 ترابایت حافظه ارائه میکند.
برای شروع رک NVIDIA NVL72 با نام Oberon شناخته میشود و از 72 گرافیک به همراه 36 پردازنده استفاده میکند. هر Tray مربوط به Vera Rubin شامل 4 گرافیک Rubin و 2 پردازنده Vera است. دو گرافیک و یک پردازنده روی یک مادربرد قرار میگیرند که انویدیا آن را Superchip مینامد. در مجموع 36 Superchip در رک NVL72 وجود دارد؛ بنابراین این سیستم شامل 72 گرافیک و 36 پردازنده خواهد بود.
هر گرافیک Rubin به 288 گیگابایت حافظه HBM4 مجهز است و هر پردازنده Vera نیز 1.5 ترابایت حافظه LPDDR5X دارد. در یک رک NVL72، مجموع حافظه به 20.7 ترابایت HBM4 و 54 ترابایت LPDDR5X میرسد. البته بخشهای دیگری مانند شبکه، سیستم خنککننده، منبع تغذیه، ارتباطات داخلی و موارد دیگر نیز در ساخت رکهای Vera Rubin NVL72 نقش دارند.
طبق گزارش UBS هر Superchip مدل NVIDIA Vera Rubin حدود 38,902 دلار هزینه دارد که 24,297 دلار از این مبلغ فقط مربوط به حافظه HBM4 و SOCAMM2 است. هزینه تراشه Rubin حدود 9,247 دلار تخمین زده شده است. این مبلغ شامل گرافیک، حافظه HBM4، بستهبندی، Interposer و قطعات جانبی میشود.
هزینه تراشه Vera نیز حدود 20,059 دلار برآورد شده که شامل پردازنده، حافظه SOCAMM2 LPDDR5X و 350 دلار هزینه برای سایر قطعات برد است. حافظه HBM4 مورد استفاده در گرافیک Rubin حدود 4,943 دلار قیمت دارد که 53.4 درصد از هزینه تراشه Rubin و 12.7 درصد از هزینه کل Superchip را تشکیل میدهد.
برای پردازنده Vera هزینه حافظه SOCAMM2 حدود 19,355 دلار تخمین زده شده که 96.4 درصد از هزینه تراشه Vera و 49.8 درصد از هزینه کامل Superchip را شامل میشود. اگر هزینه حافظه را حذف کنیم، پردازنده Vera به تنهایی تنها 704 دلار قیمت خواهد داشت. بنابراین نیمی از هزینه گرافیک و تقریباً تمام هزینه پردازنده مربوط به حافظه DRAM است.
اگر این مقادیر BOM را با سرورهای Grace Blackwell مقایسه کنیم، سهم هزینه حافظه از 53 درصد در نسل قبلی به 62 درصد در Vera Rubin افزایش یافته است. هزینه کلی Vera Rubin نسبت به نسل قبل 2.1 برابر شده اما هزینه حافظه افزایش چشمگیرتر و معادل 2.5 برابر را تجربه کرده است. در سرورهای Blackwell پردازندههای Grace به 480 گیگابایت حافظه مجهز بودند و گرافیکهای Blackwell نیز 192 گیگابایت حافظه HBM3E در مدل GB200 و حداکثر 288 گیگابایت HBM3E در مدل GB300 ارائه میکردند.
مجموع حافظه موجود در رکهای Vera Rubin به 74.7 ترابایت (ترکیب HBM4 و SOCAMM2) افزایش یافته است. این میزان حافظه تقریباً معادل استفاده از DRAM در 4,500 گوشی هوشمند است. قرار است هزاران رک از این نوع در سراسر جهان برای تامین نیاز مراکز داده هوش مصنوعی، ارائهدهندگان سرویسهای ابری، شرکتها و پردازشهای HPC عرضه شوند.
این بررسی نشان میدهد چرا کمبود شدید DRAM در سراسر جهان ایجاد شده است. البته این موضوع تنها به انویدیا محدود نمیشود؛ AMD نیز پلتفرم قدرتمند Helios را معرفی کرده که تا 432 گیگابایت حافظه HBM4 برای هر گرافیک ارائه میدهد. سرورهای نسل آینده این شرکت نیز احتمالاً به حجم مشابه یا حتی بیشتری از حافظه LPDDR5X مجهز خواهند شد.
دیگر شرکتهای بزرگ فعال در زمینه هوش مصنوعی نیز روی شتابدهندهها و پلتفرمهای سروری مخصوص عصر هوش مصنوعی Agentic کار میکنند که فشار بیشتری به بازار DRAM وارد خواهد کرد. طبق اعلام تولیدکنندگان بزرگ حافظه، این کمبود ممکن است برای سالهای آینده ادامه پیدا کند؛ زیرا مشتریان هوش مصنوعی از طریق قراردادهای بلندمدت در اولویت تامین حافظه قرار گرفتهاند.
رکهای NVIDIA Vera Rubin NVL72 نشاندهنده نقش پررنگتر حافظه در سختافزارهای نسل آینده هوش مصنوعی هستند. حافظههای HBM4 و SOCAMM2 LPDDR5X حدود 62 درصد از هزینه نزدیک به 39,000 دلاری هر Superchip را تشکیل میدهند؛ در حالی که این سهم در سیستمهای Grace Blackwell برابر 53 درصد بود و همین موضوع باعث افزایش 2.5 برابری هزینه حافظه شده است.
این پلتفرمها با ارائه 74.7 ترابایت DRAM در هر رک که معادل هزاران گوشی هوشمند است، در کنار طراحیهای مشابه با حافظه بالا از سوی AMD و دیگر شرکتهای فعال در حوزه هوش مصنوعی فشار بیشتری بر بازار جهانی DRAM وارد میکنند. گزارشهای صنعتی نیز نشان میدهند این کمبود به دلیل اولویت یافتن تقاضای هوش مصنوعی احتمالاً تا سالهای آینده ادامه خواهد داشت.