دل شتاب‌دهنده‌های پیشرفته هوش مصنوعی MI300X AMD را در سرورهای هوش مصنوعی «PowerEdge» ارائه می‌کند.

PowerEdge XE9680 با شتاب‌دهنده‌های AMD Instinct MI300X قابلیت‌های با کارایی بالا را ارائه می‌کند که برای شرکت‌هایی طراحی شده است که از هوش مصنوعی مولد استفاده می‌کنند و دارای هشت شتاب‌دهنده MI300X، یک حافظه ترکیبی 1.5 ترابایتی HBM3 و 42 PSLOFSpeakta peakta و 42 peakta peakta است. عملکرد دقیق.

این پیکربندی قدرتمند آموزش و استنباط سریع‌تر مدل‌های زبانی بزرگ را امکان‌پذیر می‌سازد و به سازمان‌ها کمک می‌کند تا بینش‌های مبتنی بر هوش مصنوعی و برنامه‌های کاربردی نوآورانه را کارآمدتر ارائه دهند. آزمایش اخیر روی پیکربندی یک گره، کل هزینه کل ارزش مالکیت را نشان داد:

• مدل پارامتر Llama 2 70B را روی یک شتاب دهنده AMD Instinct MI300X در سرور Dell PowerEdge XE9680 مستقر کرد.
• با استفاده از هر هشت شتاب دهنده AMD Instinct MI300X موجود در سرور Dell PowerEdge XE9680، هشت نمونه همزمان از مدل را به کار گرفت.
• مدل پارامتر Llama 2 70B را با دقت FP16 روی یک سرور Dell PowerEdge XE9680 با هشت شتاب‌دهنده AMD Instinct MI300X به‌خوبی تنظیم کرد.

با استقرار ساده از طریق Dell OpenManage Enterprise، اتوماسیون هوشمند از طریق نرم افزار APEX AIOps، و امنیت پیشرفته با بازیابی سایبری یکپارچه و رویکرد Zero Trust، XE9680 به کسب و کارها این امکان را می دهد که به سرعت راه حل های GenAI خود را پیاده سازی و مقیاس کنند. یک وضعیت امنیتی قوی.

امروز در دسترس است – طراحی معتبر Dell برای هوش مصنوعی مولد با AMD

اعلام شده در مه، و امروز در دسترس است، طراحی تایید شده دل برای هوش مصنوعی مولد با AMD مرحله بعدی راه حل های هوش مصنوعی Dell است که سازمان ها را آسان تر می کند. GenAI قابل اعتماد را مستقر کنید. این راهنمای طراحی به سازمان‌ها و توسعه‌دهندگان دستورالعمل‌های جامعی برای پیاده‌سازی استنتاج LLM و سفارشی‌سازی مدل، و همچنین تکنیک‌های پیشرفته‌ای مانند تنظیم دقیق و بازیابی تولید افزوده (RAG) می‌دهد. توسعه‌دهندگان که بر اساس استانداردهای باز ساخته شده‌اند و نیاز به مجموعه‌های نرم‌افزاری اختصاصی هوش مصنوعی را کاهش می‌دهند، می‌توانند با مدل‌های منبع باز LLM از شرکای شرکا از جمله Hugging Face و Meta، توسعه را ساده کرده و گردش‌های کاری را آزادانه سفارشی کنند.

تسریع بارهای کاری مدرن. نوآوری و مقیاسی که کسب‌وکارها و نتایج کارآمد و چابک را ممکن می‌سازد.

• طراحی معتبر Dell با استفاده از شتاب‌دهنده‌های AMD Instinct MI300X، مقیاس‌بندی تقریباً خطی و آموزش و استنتاج GenAI توزیع شده با تأخیر کم را امکان‌پذیر می‌کند.
• PowerScale F710 بینش‌های زمان به هوای سریع‌تری را با دستاوردهای عظیم در عملکرد پخش جریانی ارائه می‌کند که تمام مراحل خط لوله هوش مصنوعی را تسریع می‌کند.
• Dell PowerSwitch Z9664F-ON، با ارائه 64 پورت 400 گیگابایتی، پارچه های اترنت با تأخیر کم و توان عملیاتی بالا را برای خوشه های هوش مصنوعی مدرن ارائه می دهد.
• NIC بهینه شده با هوش مصنوعی Broadcom Thor2 400G را ارائه می‌کند و شتاب‌دهنده‌های MI300X را با کمترین انرژی مورد نیاز صنعت به هم متصل می‌کند.

توسعه برنامه را تقویت کنید. نرم‌افزار منبع باز و اکوسیستم‌ها به توسعه‌دهندگان و دانشمندان داده اجازه می‌دهند آزادانه نوآوری کنند.

• فریم‌ورک‌های مجهز به ROCm AMD، اکوسیستم راه‌حل‌های هوش مصنوعی Dell را گسترش می‌دهند و شامل پشتیبانی از مدل‌های زبان بزرگ منبع باز مانند PyTorch، TensorFlow، ONNX-RT، و JAX، و همچنین مجموعه کامل درایورها، ابزارهای توسعه‌دهنده و APIها می‌شوند. برای شتاب دهنده های AMD Instinct.
• Dell Omnia ایجاد و مدیریت خوشه‌های AI را ساده می‌کند که پیکربندی خودکار را برای پردازش حجم کار کارآمد انجام می‌دهد.
• توزیع SONiC سازمانی توسط Dell Technologies یک راه‌حل شبکه مقیاس‌پذیر ارائه می‌کند که پلتفرم SONiC منبع باز را با Dell PowerSwitch ترکیب می‌کند و ویژگی‌های پیشرفته و پشتیبانی در سطح سازمانی را ارائه می‌دهد.

طراحی‌های معتبر Dell برای هوش مصنوعی تولیدی، ساختن پلت‌فرم‌های GenAI متناسب با نیازهای مشتریان را با حذف حدس‌ها از یکپارچگی، عملکرد، و ملاحظات اندازه‌سازی برای مشتریان دل ساده می‌کند.

منبع خبر: دل