NVIDIA Blackwell در مراکز داده در حال اجرا است: NVLINK به 1.4 ترابایت بر ثانیه ارتقا یافته است، جزئیات بیشتر GPU، اولین تصویر GenAI FP4

NVIDIA همچنین تصاویر کاملاً جدیدی از سینی های مختلف موجود در مجموعه Blackwell را به اشتراک می گذارد. اینها اولین تصاویر از سینی های بلک ول هستند که به اشتراک گذاشته شده اند و میزان تخصص مهندسی را نشان می دهند که برای طراحی پلتفرم های مرکز داده نسل بعدی صرف می شود.

نسل Blackwell برای رفع نیازهای هوش مصنوعی مدرن و ارائه عملکرد عالی در مدل های زبان بزرگ مانند 405B Llama-3.1 از Meta. با افزایش اندازه LLM با اندازه پارامترهای بزرگتر، مراکز داده به محاسبات بیشتر و تأخیر کمتری نیاز دارند. اکنون می‌توانید یک GPU بزرگ با حافظه زیاد بسازید و کل مدل را روی آن تراشه قرار دهید، اما برای دستیابی به تأخیر کمتر در تولید توکن، چندین GPU لازم است.

رویکرد استنتاج Multi-GPU محاسبات را در چندین GPU برای تأخیر کم و توان عملیاتی بالا تقسیم می‌کند، اما رفتن به مسیر چند GPU عوارض خود را دارد. هر GPU در یک محیط چند GPU باید نتایج محاسبات را به هر GPU دیگری در هر لایه ارسال کند و این نیاز به ارتباط GPU به GPU با پهنای باند بالا را به همراه دارد.

راه‌حل NVIDIA از قبل برای نمونه‌های چند GPU در قالب NVSwitch. سوئیچ‌های Hopper NVLINK به لطف پهنای باند 900 گیگابیت بر ثانیه (فابریک) خود، توان استنتاج 1.5 برابری را در مقایسه با رویکرد سنتی GPU به GPU ارائه می‌دهند. سوئیچ NVLINK به جای اینکه مجبور باشد چندین HOPS از یک GPU به دیگری انجام دهد، آن را به گونه ای می سازد که GPU فقط باید 1 HOP را به NVSwitch و HOP دیگر را مستقیماً به GPU ثانویه بدهد.

در مورد خود GPU صحبت می‌کنیم، NVIDIA سرعت‌ها و فیدهایی را روی خود بلک‌ول GPU به اشتراک گذاشته است که به شرح زیر است:

• دو پردازنده گرافیکی با محدودیت شبکه در یک بسته ادغام شدند
• ترانزیستورهای 208B در TSMC 4NP
• 20 Peta FLOPS FP4 AI
• 8 ترابایت در ثانیه پهنای باند حافظه
• حافظه 8-سایت HBM3e
• 1.8 ترابایت در ثانیه پهنای باند NVLINK دوطرفه
• پیوند NVLINK-C2C پرسرعت به CPU Grace

و برخی از مزایای ساختن یک تراشه محدودیت شبکه عبارتند از:

• بالاترین تراکم ارتباط
• کمترین تاخیر
• کارایی انرژی بهینه

با Blackwell، NVIDIA یک سوئیچ NVLINK حتی سریعتر را معرفی می کند که پهنای باند فابریک را به 1.8 ترابایت بر ثانیه دو برابر می کند. سوئیچ NVLINK خود یک قالب 800 میلی‌متر مربعی مبتنی بر گره 4NP TSMC است و NVLINK را تا 72 پردازنده گرافیکی در رک‌های GB200 NVL72 گسترش می‌دهد. این تراشه 7.2 ترابایت بر ثانیه پهنای باند دوطرفه کامل و همه جانبه را در 72 پورت فراهم می کند و دارای قابلیت محاسبات درون شبکه ای 3.6 TFLOP است. سینی سوئیچ NVLINK با دو عدد از این سوئیچ ها ارائه می شود که حداکثر 14.4 ترابایت بر ثانیه پهنای باند کل را ارائه می دهد.

یکی از آموزش‌های برنامه‌ریزی شده توسط NVIDIA برای چیپ‌های داغ با عنوان «سرمایش مایع باعث افزایش عملکرد و کارایی می‌شود». این راه‌حل‌های خنک‌کننده مایع جدید توسط سیستم‌های GB200، Grace Blackwell GB200 و B200 مورد استفاده قرار خواهند گرفت.

یکی از روش‌های خنک‌کننده مایع که باید مورد بحث قرار گیرد، استفاده از آب گرم مستقیم به تراشه است که راندمان خنک‌سازی بهبود یافته، هزینه عملیات کمتر، عمر سرور IT طولانی‌تر و امکان استفاده مجدد از گرما را ارائه می‌دهد. از آنجایی که این چیلرهای سنتی نیستند که برای خنک کردن مایع به برق نیاز دارند، رویکرد آب جنگی می تواند تا 28 درصد کاهش هزینه برق تاسیسات مرکز داده را به همراه داشته باشد.

• NVIDIA Blackwell تراشه‌ها، سیستم‌ها و نرم‌افزار NVIDIA CUDA را گرد هم می‌آورد تا نسل بعدی هوش مصنوعی را در سراسر موارد استفاده، صنایع و کشورها تقویت کند.
• NVIDIA GB200 NVL72 – یک راه حل چند نود، خنک کننده مایع و در مقیاس رک که 72 پردازنده گرافیکی بلک ول و 36 پردازنده گرافیکی گریس را به هم متصل می کند – سطح طراحی سیستم هوش مصنوعی را بالا می برد.
• فناوری اتصال NVLink ارتباط همه جانبه GPU را فراهم می‌کند، و توان عملیاتی بالا و استنتاج با تأخیر کم را برای هوش مصنوعی مولد فراهم می‌کند.
• سیستم کوانتیزاسیون کوازار NVIDIA محدودیت های فیزیک را برای تسریع محاسبات هوش مصنوعی فشار می دهد.
• محققان NVIDIA در حال ساخت مدل‌های هوش مصنوعی هستند که به ساخت پردازنده‌هایی برای هوش مصنوعی کمک می‌کند.

انویدیا همچنین اولین تصویر هوش مصنوعی تولید شده در جهان را که با استفاده از محاسبات FP4 ساخته شده است، به اشتراک می گذارد. نشان داده شده است که مدل کوانتیزه شده FP4 یک تصویر خرگوش 4 بیتی تولید می کند که بسیار شبیه به مدل های FP16 با سرعت بسیار بالاتر است. این تصویر توسط MLPerf با استفاده از Blackwell در Stable Diffusion تهیه شده است. اکنون چالش کاهش دقت (از FP16 به FP4) این است که مقداری دقت از بین رفته است.

تفاوت هایی در جهت گیری اسم حیوان دست اموز وجود دارد، اما عمدتاً، دقت حفظ می شود و تصویر همچنان از نظر کیفیت عالی است. این استفاده از دقت FP4 بخشی از سیستم کوانتیزاسیون کوازار NVIDIA و تحقیقاتی است که محاسبات هوش مصنوعی با دقت کاهش یافته را به سطح بعدی سوق می دهد.

NVIDIA، همانطور که قبلاً ذکر شد، از هوش مصنوعی برای ساخت تراشه هایی برای هوش مصنوعی استفاده می کند. قدرت هوش مصنوعی مولد برای تولید کد Verilog بهینه شده استفاده می شود که یک زبان توصیف سخت افزاری است که مدارها را در قالب کد توصیف می کند و برای طراحی و تأیید پردازنده هایی مانند Blackwell استفاده می شود. این زبان همچنین به سرعت بخشیدن به معماری تراشه‌های نسل بعدی کمک می‌کند و NVIDIA را مجبور می‌کند تا آهنگ سالانه خود را ارائه دهد.

انتظار می‌رود NVIDIA با Blackwell Ultra GPU در سال آینده که دارای 288 گیگابایت حافظه HBM3e، افزایش تراکم محاسباتی، و فلاپ‌های بیشتر هوش مصنوعی است. به دنبال آن GPUهای Rubin / Rubin Ultra به ترتیب در سال‌های 2026 و 2027.