![NVIDIA Blackwell در MLPerf Shatters AI Performance Records شروع به کار کرد رهبری هاپر با عملکرد بهتر H100 و H200 AMD MI300X ادامه مییابد_66cf40e06593fjpeg - مجله آموزشی تفریحی خالق NVIDIA Blackwell در MLPerf & Shatters AI Performance Records شروع به کار کرد، رهبری هاپر با عملکرد بهتر H100 و H200 AMD MI300X ادامه مییابد.](https://khalg.ir/wp-content/uploads/2024/08/nvidia-blackwell-d8afd8b1-mlperf-shatters-ai-performance-records-d8b4d8b1d988d8b9-d8a8d987-daa9d8a7d8b1-daa9d8b1d8afd88c-d8b1d987d8a8d8b1db8c-d987_66cf40df5a3b9-780x470.jpeg)
NVIDIA Blackwell در MLPerf & Shatters AI Performance Records شروع به کار کرد، رهبری هاپر با عملکرد بهتر H100 و H200 AMD MI300X ادامه مییابد.
انویدیا تراشههای Blackwell AI عملکرد رکورد را در MLPerf تضمین میکنند در حالی که تراشههای Hopper H100 و H200 همچنان قویتر میشوند و از MI300X فراتر میروند.
تسلط انویدیا در استنباط MLPerf و معیارهای هوش مصنوعی با تراشههای هوش مصنوعی بلکول تثبیت شد، هاپر به لطف بهینهسازیهای مستمر در پشته CUDA، عملکرد حتی قویتری را افزایش داد
تراشههای بلکول AI انویدیا بالاخره رکورد خود را در MLPerf نسخه 4.1 به ثبت رساندند و اعداد عملکردی رکورد در همه معیارها را تضمین کردند. تراشههای NVIDIA Blackwell AI که در اواخر امسال به مراکز داده میآیند، بهعنوان قویترین راهحل هوش مصنوعی در بازار با تا 4 برابر افزایش عملکرد نسلی آماده هستند.
![NVIDIA Blackwell در MLPerf & Shatters AI Performance Records شروع به کار کرد، رهبری هاپر با عملکرد بهتر H100 و H200 AMD MI300X ادامه مییابد. 1 - مجله آموزشی تفریحی خالق NVIDIA Blackwell Debuts at MLPerf & Shatters AI Performance Records, Hopper's Leadership Continues With H100 & H200 Outperforming AMD MI300X 1](http://khalg.ir/wp-content/uploads/2024/08/nvidia-blackwell-d8afd8b1-mlperf-shatters-ai-performance-records-d8b4d8b1d988d8b9-d8a8d987-daa9d8a7d8b1-daa9d8b1d8afd88c-d8b1d987d8a8d8b1db8c-d987_66cf40e4893b0.png)
امروز، NVIDIA اعلام کرد که بالاترین عملکرد را در MLPerf Inference نسخه 4.1 در بین تمام معیارهای هوش مصنوعی به دست آورده است که عبارتند از:
- Llama 2 70B (Dense LLM)
- Mixtral 8x7B MoE (Sparse Mixture of Experts LLM)
- انتشار پایدار (متن به تصویر)
- DLRMv2 (توصیه)
- BERT (NLP)
- RetinaNet (تشخیص اشیا)
- GPT-J 6B (LLM متراکم)
- سه بعدی U-Net (تقسیم بندی تصویر پزشکی)
- ResNet-50 v1.5 (طبقه بندی تصویر)
![NVIDIA Blackwell در MLPerf & Shatters AI Performance Records شروع به کار کرد، رهبری هاپر با عملکرد بهتر H100 و H200 AMD MI300X ادامه مییابد. 2 - مجله آموزشی تفریحی خالق NVIDIA Blackwell Debuts at MLPerf & Shatters AI Performance Records, Hopper's Leadership Continues With H100 & H200 Outperforming AMD MI300X 2](http://khalg.ir/wp-content/uploads/2024/08/nvidia-blackwell-d8afd8b1-mlperf-shatters-ai-performance-records-d8b4d8b1d988d8b9-d8a8d987-daa9d8a7d8b1-daa9d8b1d8afd88c-d8b1d987d8a8d8b1db8c-d987_66cf40e92a51d.png)
در Llama 2 70B، راهحلهای Blackwell AI NVIDIA نسبت به تراشههای Hopper H100 افزایش چشمگیری ارائه میکنند. در بارهای کاری سرور، یک واحد پردازش گرافیکی بلک ول افزایش 4 برابری (10756 توکن در ثانیه) را ارائه می دهد، در حالی که در سناریوهای آفلاین، واحد گرافیکی بلک ول 3.7 برابر افزایش عملکرد را با 11264 توکن در ثانیه ارائه می دهد. NVIDIA همچنین اولین عملکرد اندازهگیری شده عمومی را با استفاده از FP4 در حال اجرا بر روی پردازندههای گرافیکی Blackwell ارائه کرد.
![NVIDIA Blackwell در MLPerf & Shatters AI Performance Records شروع به کار کرد، رهبری هاپر با عملکرد بهتر H100 و H200 AMD MI300X ادامه مییابد. 3 - مجله آموزشی تفریحی خالق NVIDIA Blackwell Debuts at MLPerf & Shatters AI Performance Records, Hopper's Leadership Continues With H100 & H200 Outperforming AMD MI300X 3](http://khalg.ir/wp-content/uploads/2024/08/nvidia-blackwell-d8afd8b1-mlperf-shatters-ai-performance-records-d8b4d8b1d988d8b9-d8a8d987-daa9d8a7d8b1-daa9d8b1d8afd88c-d8b1d987d8a8d8b1db8c-d987_66cf40ee627f6.png)
در حالی که بلکول همان جانوری است که وعده داده شده بود، هاپر انویدیا همچنان با بهینهسازیهای بیشتر در پشته CUDA قویتر میشود. تراشههای H200 و H100 عملکرد برتر را در هر آزمایش در مقایسه با رقبا و همچنین در آخرین معیارها مانند پارامتر 56 میلیاردی “Mixtral 8x7B” LLM ارائه میکنند.
![NVIDIA Blackwell در MLPerf & Shatters AI Performance Records شروع به کار کرد، رهبری هاپر با عملکرد بهتر H100 و H200 AMD MI300X ادامه مییابد. 4 - مجله آموزشی تفریحی خالق nvidia blackwell d8afd8b1 mlperf shatters ai performance records d8b4d8b1d988d8b9 d8a8d987 daa9d8a7d8b1 daa9d8b1d8afd88c d8b1d987d8a8d8b1db8c d987 66cf40f35244b](http://khalg.ir/wp-content/uploads/2024/08/nvidia-blackwell-d8afd8b1-mlperf-shatters-ai-performance-records-d8b4d8b1d988d8b9-d8a8d987-daa9d8a7d8b1-daa9d8b1d8afd88c-d8b1d987d8a8d8b1db8c-d987_66cf40f35244b.png)
NVIDIA HGX H200 با 8 پردازنده گرافیکی Hopper H200 و NVSwitch با سرعت تولید توکن 34,864 (آفلاین) و 32,790 (سرور) با 1000 وات و (301,30 و 31,30) و 1000W و 31,30 (Offline) در Llama 2 70B دستاوردهای عملکردی قوی را در Llama 2 70B ارائه میکند. ) نشانهها/ثانیه با پیکربندی 700 وات.
![NVIDIA Blackwell در MLPerf & Shatters AI Performance Records شروع به کار کرد، رهبری هاپر با عملکرد بهتر H100 و H200 AMD MI300X ادامه مییابد. 5 - مجله آموزشی تفریحی خالق nvidia blackwell d8afd8b1 mlperf shatters ai performance records d8b4d8b1d988d8b9 d8a8d987 daa9d8a7d8b1 daa9d8b1d8afd88c d8b1d987d8a8d8b1db8c d987 66cf40f81c3bb](http://khalg.ir/wp-content/uploads/2024/08/nvidia-blackwell-d8afd8b1-mlperf-shatters-ai-performance-records-d8b4d8b1d988d8b9-d8a8d987-daa9d8a7d8b1-daa9d8b1d8afd88c-d8b1d987d8a8d8b1db8c-d987_66cf40f81c3bb.png)
این افزایش 50 درصدی نسبت به محلول Hopper H100 است. H100 همچنان عملکرد بهتری از هوش مصنوعی در Llama 2 در مقابل راه حل AMD Instinct MI300X. عملکرد اضافه شده به لطف بهینهسازیهای نرمافزاری که هم برای تراشههای Hopper و هم 80 درصد ظرفیت حافظه بالاتر و 40 درصد پهنای باند بیشتر مرتبط با تراشههای H200 اعمال میشود.
![NVIDIA Blackwell در MLPerf & Shatters AI Performance Records شروع به کار کرد، رهبری هاپر با عملکرد بهتر H100 و H200 AMD MI300X ادامه مییابد. 6 - مجله آموزشی تفریحی خالق nvidia blackwell d8afd8b1 mlperf shatters ai performance records d8b4d8b1d988d8b9 d8a8d987 daa9d8a7d8b1 daa9d8b1d8afd88c d8b1d987d8a8d8b1db8c d987 66cf40fd47cd0](http://khalg.ir/wp-content/uploads/2024/08/nvidia-blackwell-d8afd8b1-mlperf-shatters-ai-performance-records-d8b4d8b1d988d8b9-d8a8d987-daa9d8a7d8b1-daa9d8b1d8afd88c-d8b1d987d8a8d8b1db8c-d987_66cf40fd47cd0.png)
در Mixtral 8x7B با استفاده از سرور تست چند GPU، NVIDIA H100 و H200 به ترتیب تا 59022 و 52416 توکن در ثانیه خروجی ارائه میدهند. به نظر میرسد که AMD Instinct MI300X در این حجم کاری خاص غایب است زیرا هیچ ارسالی توسط تیم قرمز ارائه نشده است. در Stable Diffusion XL نیز همینطور است، جایی که بهبودهای فول استک جدید عملکرد تراشههای هوش مصنوعی Hopper را تا 27 درصد افزایش میدهند در حالی که AMD هنوز MLPerf را تحت این حجم کاری خاص ارسال نکرده است.
![NVIDIA Blackwell در MLPerf & Shatters AI Performance Records شروع به کار کرد، رهبری هاپر با عملکرد بهتر H100 و H200 AMD MI300X ادامه مییابد. 7 - مجله آموزشی تفریحی خالق nvidia blackwell d8afd8b1 mlperf shatters ai performance records d8b4d8b1d988d8b9 d8a8d987 daa9d8a7d8b1 daa9d8b1d8afd88c d8b1d987d8a8d8b1db8c d987 66cf410217f55](http://khalg.ir/wp-content/uploads/2024/08/nvidia-blackwell-d8afd8b1-mlperf-shatters-ai-performance-records-d8b4d8b1d988d8b9-d8a8d987-daa9d8a7d8b1-daa9d8b1d8afd88c-d8b1d987d8a8d8b1db8c-d987_66cf410217f55.png)
تلاشهای انویدیا برای تنظیم دقیق نرمافزارش بهشدت نتیجه داده است. این شرکت در هر نسخه MLPerf شاهد پیشرفتهای عمدهای بوده است و این مزیت مستقیماً برای مشتریانش که از پردازندههای گرافیکی Hopper در سرورهای خود استفاده میکنند، ارائه میشود.
![NVIDIA Blackwell در MLPerf & Shatters AI Performance Records شروع به کار کرد، رهبری هاپر با عملکرد بهتر H100 و H200 AMD MI300X ادامه مییابد. 8 - مجله آموزشی تفریحی خالق nvidia blackwell d8afd8b1 mlperf shatters ai performance records d8b4d8b1d988d8b9 d8a8d987 daa9d8a7d8b1 daa9d8b1d8afd88c d8b1d987d8a8d8b1db8c d987 66cf410696270](http://khalg.ir/wp-content/uploads/2024/08/nvidia-blackwell-d8afd8b1-mlperf-shatters-ai-performance-records-d8b4d8b1d988d8b9-d8a8d987-daa9d8a7d8b1-daa9d8b1d8afd88c-d8b1d987d8a8d8b1db8c-d987_66cf410696270.png)
این را قبلاً بیان کردهایم و باز هم خواهیم گفت، هوش مصنوعی و مراکز داده همه چیز سختافزاری نیست، این یک جزء است اما جزء دیگر که به همان اندازه مهم است (اگر نه بیشتر) نرمافزار است. اگر نرم افزار مناسبی برای پشتیبان گیری از آن ندارید و شرکت هایی که میلیون ها دلار در زیرساخت های هوش مصنوعی سرمایه گذاری می کنند، داشتن قوی ترین سخت افزار فایده ای ندارد.
NVIDIA این اکوسیستم را به خوبی دارد و آماده عرضه به شرکتها و نیروگاههای هوش مصنوعی در سراسر جهان است، به همین دلیل است که این شرکت اکنون در دسترس بودن HGX H200 را از طریق شرکای مختلف اعلام میکند.
![NVIDIA Blackwell در MLPerf & Shatters AI Performance Records شروع به کار کرد، رهبری هاپر با عملکرد بهتر H100 و H200 AMD MI300X ادامه مییابد. 9 - مجله آموزشی تفریحی خالق nvidia blackwell d8afd8b1 mlperf shatters ai performance records d8b4d8b1d988d8b9 d8a8d987 daa9d8a7d8b1 daa9d8b1d8afd88c d8b1d987d8a8d8b1db8c d987 66cf410ace276](http://khalg.ir/wp-content/uploads/2024/08/nvidia-blackwell-d8afd8b1-mlperf-shatters-ai-performance-records-d8b4d8b1d988d8b9-d8a8d987-daa9d8a7d8b1-daa9d8b1d8afd88c-d8b1d987d8a8d8b1db8c-d987_66cf410ace276.png)
و این فقط بلک ول یا هاپر سنگین وزن نیستند که به بهینه سازی ادامه می دهند. حتی راهحلهای Edge مانند Jetson AG Orin از زمان ارسال نسخه MLPerf نسخه 4.0 افزایش 6 برابری داشتهاند که منجر به تأثیر بسیار زیادی بر بار کاری GenAI در Edge شده است.
با نمایش عملکرد قوی بلکول قبل از راهاندازی، میتوان انتظار داشت که معماری جدید، که برای هوش مصنوعی ساخته شده است، قویتر شود، درست مانند هاپر، و مزایای بهینهسازی را در اواخر سال آینده به Blackwell Ultra منتقل کند.< /p>