OpenAI یکی دیگر از بنیانگذاران خود را به خاطر آنتروپیک مورد حمایت آمازون از دست داد
این توصیه سرمایه گذاری نیست. نویسنده در هیچ یک از سهام ذکر شده هیچ سمتی ندارد. Wccftech.com یک خط مشی اخلاقی و افشای اطلاعات دارد.
جان شولمن، رئیس هم‌ترازی OpenAI، که مسئول تنظیم پاسخ‌های مدل آن برای همسویی با ارزش‌ها بود، شرکت را ترک کرد تا با Anthropic تحت حمایت آمازون کار کند. Anthropic و OpenAI سابقه مشترکی دارند و اولی شامل مدیران سابق دومی است که تصمیم گرفتند شرکت خود را راه اندازی کنند. شولمن تصمیم خود را در مورد X اعلام کرد و با پاسخ‌هایی از سوی رئیس OpenAI، سم آلتمن و دیگرانی که از زمانی که با هم کار کرده‌اند، قدردانی کردند.
یکی دیگر از سرنخ های ایمنی OpenAI برای شرکت آمازون Anthropic حرکت می کند
پست شولمن درست پس از آن منتشر شد که گزارشی از The Information ادعا کرد که رئیس OpenAI، گرگ براکمن، در حالی که یک مدیر محصول، پیتر دنگ، شرکت را ترک می‌کرد، مرخصی طولانی‌تری گرفته است. شولمن که مسئول نظارت بر همسویی مدل در OpenAI بود، اکنون در Anthropic تحت حمایت آمازون کار خواهد کرد. Anthropic توسط اعضای سابق OpenAI تاسیس شد، و خروج شولمن به این معنی است که تعداد کمی از اعضای موسس OpenAI اکنون در شرکت باقی می مانند – براکمن و آلتمن دو نفر از آنها هستند.
به‌عنوان رئیس هم‌ترازی OpenAI، شولمن مسئول اطمینان از این بود که محصولات این شرکت، مانند ChatGPT، خروجی‌هایی تولید کنند که با مجموعه‌ای از مقادیر از پیش تعریف‌شده مطابقت داشته باشند. برخی از نمونه‌ها عبارتند از متناسب کردن پاسخ‌ها در برابر باورهای رایج و محدود کردن خروجی‌های مضر برای اطمینان از اینکه همه پاسخ‌های تولید شده توسط مدل‌های هوش مصنوعی برای استفاده انسان ایمن هستند.
در بیانیه‌اش، شولمن به اشتراک می‌گذارد که OpenAI را ترک می‌کند تا تمرکز خود را بر روی همسویی هوش مصنوعی «عمیق‌تر کند» و «بازگشت به کارهای فنی عملی». که این تصمیم ناشی از عدم تمرکز بر همسویی در OpenAI نیست، بلکه یک “شخصی است.”
پس از خروج او، همراه با آلتمن و براکمن، سومین بنیانگذار OpenAI که در حال حاضر در این شرکت کار می کند، وویسیچ زارمبا، سرپرست زبان و تولید کد آن است.
در پاسخ به اطلاعیه شولمن، آلتمن مدیر عامل OpenAI از شولمن برای کاری که در شرکت انجام داده بود تشکر کرد. آلتمن همچنین جزئیات اولین ملاقات خود با شولمن را به اشتراک گذاشت و فاش کرد که آنها در یک کافه در دانشگاه کالیفرنیا در برکلی ملاقات کرده بودند و در آنجا درباره هوش عمومی مصنوعی صحبت کردند.
بر خلاف ChatGPT که هوش محدود است، هوش عمومی مصنوعی یا AGI هدف نهایی همه شرکت‌های هوش مصنوعی است زیرا به دنبال ایجاد نرم‌افزاری است که بتواند خروجی‌های چند وجهی ارائه دهد که توانایی‌های شناختی یک انسان را تقلید کند.
خروج شولمن به دنبال کاری است که جان لیک محقق ایمنی هوش مصنوعی در ماه مه انجام داد، لیک پس از انحلال تیم همسویی توسط شرکت OpenAI را ترک کرد و او به Anthropic تحت حمایت آمازون پیوست تا تلاش‌های همسویی خود را رهبری کند. پس از خروج لیکی، شولمن چیزی را که OpenAI به عنوان “آموزش پس از آن” می نامد، به عهده گرفت. پست او تاکید می کند که آموزش پس از “در دستان خوبی است و دارای استعداد عمیقی است” و “با برخی از پروژه های امیدوارکننده همراه می شود.”
امروز یادداشت زیر را با همکاران OpenAI خود به اشتراک گذاشتم:
من تصمیم سختی برای ترک OpenAI گرفته‌ام. این انتخاب از تمایل من برای عمیق‌تر کردن تمرکزم روی همسویی هوش مصنوعی و شروع فصل جدیدی از حرفه‌ام ناشی می‌شود که در آن می‌توانم به کارهای فنی عملی بازگردم. من تصمیم گرفتم…
— جان شولمن (@johnschulman2) 6 اوت 2024
بلوک نقل قول>
