AMD پشتیبانی کامل از مدل‌های هوش مصنوعی Llama 3.1 را در سراسر پردازنده‌های EPYC، شتاب‌دهنده‌های Instinct، NPUهای هوش مصنوعی Ryzen و پردازنده‌های گرافیکی Radeon اعلام کرد.
AMD دارای اعلام کرد پشتیبانی کامل از مدل هوش مصنوعی Llama 3.1 در کل مجموعه خود از جمله EPYC، Instinct، Ryzen و Radeon.
مدل‌های Llama 3.1 پشتیبانی Day-0 را در تمامی سخت‌افزارهای AMD دریافت می‌کنند: پردازنده‌های EPYC، پردازنده‌های Ryzen، شتاب‌دهنده‌های Instinct و پردازنده‌های گرافیکی Radeon.
اعلامیه مطبوعاتی: استراتژی هوش مصنوعی ما در AMD بر فعال کردن اکوسیستم هوش مصنوعی با مجموعه گسترده ای از موتورهای محاسباتی بهینه آموزشی و استنتاج، قابلیت های نرم افزاری باز و اثبات شده و نوآوری مشترک ریشه دار متمرکز شده است. با شرکا و مشتریان ما عملکرد بالا، نوآوری‌ها و سازگاری گسترده، بردارهای اساسی هستند که این استراتژی را با تکامل جهان هوش مصنوعی هدایت می‌کنند. تمرکز مهم ما این است که نسل بعدی مدل‌های هوش مصنوعی را برای همه فعال کنیم و مزایای هوش مصنوعی را فراگیر کنیم.
با Llama 3.1، LLM طول زمینه را به 128K افزایش می‌دهد، پشتیبانی از 8 زبان را اضافه می‌کند و Llama 3.1 405B را معرفی می‌کند که به گفته متا، بزرگترین مدل پایه در دسترس است. با Llama 3.1 405B، جامعه را قادر می‌سازد تا قابلیت‌های جدیدی مانند تولید داده‌های مصنوعی و تقطیر مدل را باز کند.
ما از انتشار اخیر مدل‌های Llama 3.1 از متا دلگرم شده‌ایم و آنها را در آزمایشگاه‌های AMD در مجموعه گسترده موتورهای محاسباتی خود که نتایج مثبتی نشان می‌دهند راه‌اندازی و اجرا می‌کنیم. در عین حال، ما می خواهیم برخی از کارهای چشمگیر تیم ما با Llama 3 و معنای Llama 3.1 برای مشتریان AMD AI را به نمایش بگذاریم.
AMD Instinct MI300X GPU Accelerators و Llama 3.1
هر نسل از مدل‌ها قابلیت‌ها و عملکرد جدیدی را برای جامعه کاربران خود به ارمغان می‌آورند و Llama 3.1 تفاوتی ندارد، مکالمات پیچیده با درک متنی بی‌نظیر، استدلال و تولید متن را متحول می‌کند و از همان روز به‌طور یکپارچه بر روی شتاب‌دهنده و پلتفرم GPU AMD Instinct MI300X اجرا می‌شود. 0.
GPUهای AMD Instinct MI300X همچنان ظرفیت حافظه و پهنای باند پیشرو را ارائه می‌کنند که به کاربران امکان می‌دهد یک نمونه از Llama 3 70B را روی یک MI300X و حداکثر 8 نمونه موازی را به طور همزمان روی یک سرور اجرا کنند.
اما، با مدل جدید پارامتر 405B، بزرگترین مدل پایه در دسترس، نیاز به ظرفیت حافظه بیش از همیشه مهم است. ما تأیید کرده‌ایم که یک سرور با هشت شتاب‌دهنده AMD Instinct MI300X می‌تواند با کل مدل پارامتر Llama 3.1 405B با استفاده از نوع داده FP16 مطابقت داشته باشد. این بدان معناست که سازمان ها می توانند از صرفه جویی قابل توجه در هزینه ها، مدیریت زیرساخت ساده و افزایش بهره وری بهره مند شوند. این امر با قابلیت‌های حافظه پیشرو در صنعت پلتفرم AMD Instinct MI300X امکان‌پذیر شده است.
در نهایت، متا از آخرین نسخه‌های ROCm Open Ecosystem و پردازنده‌های گرافیکی AMD Instinct MI300X در بخش‌هایی از فرآیند توسعه Llama 3.1 استفاده کرد. این ادامه همکاری مداوم ما با متا است و ما مشتاقانه منتظر ادامه این همکاری سازنده هستیم.
CPU های AMD EPYC و Llama 3.1
فراتر از پردازنده‌های گرافیکی مرکز داده، AMD یک پلت فرم سرور پیشرو را برای محاسبات مرکز داده، ارائه عملکرد بالا، کارایی انرژی، و سازگاری x86 برای انواع بارهای کاری مرکز داده با پردازنده‌های AMD EPYC ما، فعال می‌کند. هوش مصنوعی یک بخش حیاتی فزاینده در بسیاری از برنامه‌های مرکز داده است که خلاقیت، بهره‌وری و کارایی را در حجم‌های کاری بی‌شمار افزایش می‌دهد.
از آنجایی که اکثر مراکز داده مدرن بارهای کاری مختلفی را پشتیبانی می‌کنند، استفاده از پردازنده‌های AMD EPYC به مشتریان عملکرد بار کاری سازمانی، بهره‌وری انرژی، و توانایی اجرای AI و LLM برای استنتاج، توسعه مدل‌های کوچک، آزمایش و آموزش دسته‌ای را می‌دهد.< /p>
استفاده لاما به‌عنوان یک معیار به‌عنوان ابزاری سازگار، با دسترسی آسان و مفید برای کمک به مشتریان مرکز داده در شناسایی ویژگی‌های کلیدی (عملکرد، تأخیر، مقیاس) که ارزیابی‌های فناوری و زیرساخت را برای کمک به مناسب بودن مدل راهنمایی می‌کند، ظهور کرده است. به نیازهای سرور مرکز داده کسب و کار.
Llama 3.1 ارزش را به‌عنوان منبع داده‌های مرجع حیاتی با مقیاس بیشتر، انعطاف‌پذیری در تولید و ترکیب داده‌ها، طول بافت گسترده‌تر و پشتیبانی زبان برای نقشه‌برداری بهتر با نیازهای تجاری جهانی گسترش می‌دهد.
برای کسانی که از محیطی فقط با CPU استفاده می کنند، با یک مدل کوچکتر مانند Llama 3 8B، پردازنده های برتر نسل چهارم AMD EPYC ما بدون نیاز به شتاب GPU، عملکرد و کارایی قانع کننده ای را ارائه می دهند. LLMهایی با اندازه متوسط مانند این ثابت می‌کنند که عناصر اساسی برای پیاده‌سازی هوش مصنوعی در کلاس سازمانی هستند.
قابلیت آزمایش عملکرد فقط CPU با استفاده از ابزارهای Llama 3 به مشتریان بسیاری این بینش را داده است که دسته‌های زیادی از بارهای کاری وجود دارد که می‌توانند آنها را توسعه داده و در زیرساخت‌های محاسباتی در دسترس مستقر کنند. همانطور که حجم کار بیشتر می شود و مدل ها بزرگتر می شوند، همان زیرساخت سرور AMD EPYC میزبانی قدرتمند و کارآمد برای سازگاری با راه حل های پیشرفته شتاب دهنده GPU مانند AMD Instinct یا سایر شتاب دهنده های شخص ثالث است.
کامپیوترهای AMD AI و Llama 3.1
کدنویس نیستید؟ مشکلی نیست! قدرت Meta’s Llama 3.1 را با سری پردازنده های AMD Ryzen AI در نوک انگشتان خود مهار کنید.
در حالی که توسعه‌دهندگان می‌توانند از بلوک‌های کد و مخازن برای شروع با Llama 3.1 استفاده کنند، AMD متعهد به دموکراتیزه کردن هوش مصنوعی و کاهش موانع ورود به هوش مصنوعی است – به همین دلیل است که ما با LM Studio همکاری کردیم تا مدل متا Llama 3.1 را به مشتریان با رایانه های شخصی AMD AI.
برای امتحان کردن، لطفاً به LM Studio مراجعه کنید و وضعیتی را تجربه کنید ربات چت مدرن و کاملاً محلی با Llama 3.1 تنها با چند کلیک. اکنون می توانید از آن برای تایپ ایمیل، تصحیح اسناد، تولید کد و موارد دیگر استفاده کنید!
پردازنده های گرافیکی Radeon AMD و Llama 3.1
برای کاربرانی که به دنبال استفاده از هوش مصنوعی مولد به صورت محلی هستند، پردازنده‌های گرافیکی Radeon AMD می‌توانند از قدرت پردازش هوش مصنوعی روی دستگاه برای باز کردن تجربه‌های جدید و دسترسی به عملکرد هوش مصنوعی شخصی‌شده و همزمان استفاده کنند.
LLMها دیگر متعلق به کسب و کارهای بزرگ با بخش های اختصاصی فناوری اطلاعات و اجرای خدمات در فضای ابری نیستند. با ترکیب قدرت پردازنده‌های گرافیکی رومیزی منتخب AMD Radeon و نرم‌افزار AMD ROCm، LLMهای منبع باز جدید مانند Meta’s Llama 2 و 3 – از جمله Llama 3.1 که به تازگی منتشر شده است – به این معنی است که حتی مشاغل کوچک نیز می‌توانند ابزارهای AI سفارشی‌شده خود را به صورت محلی، روی دسکتاپ استاندارد اجرا کنند. رایانه های شخصی یا ایستگاه های کاری، بدون نیاز به ذخیره داده های حساس به صورت آنلاین.
سیستم‌های دسکتاپ هوش مصنوعی AMD مجهز به پردازنده گرافیکی Radeon PRO W7900 با نرم‌افزار AMD ROCm 6.1 و مجهز به پردازنده‌های Ryzen Threadripper PRO، راه‌حل جدیدی برای مشتری برای تنظیم دقیق و اجرای استنتاج بر روی LLM با دقت بالا ارائه می‌کنند.
نتیجه گیری
همانطور که مرزهای هوش مصنوعی را پشت سر می گذاریم، همکاری AMD و Meta نقش مهمی در پیشبرد هوش مصنوعی منبع باز ایفا می کند. سازگاری Llama 3.1 با پردازنده‌های گرافیکی AMD Instinct MI300X، پردازنده‌های AMD EPYC، AMD Ryzen AI، پردازنده‌های گرافیکی AMD Radeon و AMD ROCm انتخاب متنوعی از سخت‌افزار و نرم‌افزار را به کاربران ارائه می‌دهد که عملکرد و کارایی بی‌نظیری را تضمین می‌کند. AMD همچنان متعهد به ارائه فناوری پیشرفته ای است که نوآوری و رشد را در همه بخش ها تقویت می کند.
