فناوری بزرگ می خواهد هوش مصنوعی تحت نظارت باشد. چرا آنها با لایحه هوش مصنوعی کالیفرنیا مخالفت می کنند؟

این لایحه چه کاری انجام می دهد؟

که توسط سناتور ایالتی اسکات وینر، یک دموکرات پیشنهاد شده است، این پیشنهاد آزمایش ایمنی را برای بسیاری از افراد الزامی می کند. پیشرفته ترین مدل های هوش مصنوعی که بیش از 100 میلیون دلار هزینه برای توسعه دارند یا مدل هایی که نیاز به مقدار مشخصی از قدرت محاسباتی دارند. توسعه‌دهندگان نرم‌افزار هوش مصنوعی که در ایالت کار می‌کنند همچنین باید روش‌هایی را برای خاموش کردن مدل‌های هوش مصنوعی در صورت خرابی، مشخص کنند، که در واقع یک سوئیچ کشتن است.

این لایحه همچنین به دادستان کل ایالت قدرت شکایت می‌دهد. اگر توسعه‌دهندگان مطابقت نداشته باشند، به‌ویژه در صورت تهدید مداوم، مانند تسلط هوش مصنوعی بر سیستم‌های دولتی مانند شبکه برق.

همچنین، این لایحه توسعه‌دهندگان را ملزم می‌کند تا حسابرسان شخص ثالث را استخدام کنند. اقدامات ایمنی آنها را ارزیابی کنید و برای افشاگرانی که در برابر سوء استفاده از هوش مصنوعی صحبت می کنند، محافظت های بیشتری ارائه دهید.

قانونگذاران چه گفته اند؟

SB 1047 قبلاً توسط سنای ایالت تصویب شده است. 32-1 رای. در اوایل این ماه، کمیته تخصیص بودجه مجلس ایالتی را تصویب کرد و رأی گیری توسط مجمع کامل را تنظیم کرد. اگر تا پایان جلسه قانونگذاری در 31 آگوست تصویب شود، به فرماندار گاوین نیوسام می رسد تا تا 30 سپتامبر امضا کند یا وتو کند.

Wiener، نماینده سانفرانسیسکو، خانه OpenAI و بسیاری از سازمان ها استارت‌آپ‌هایی که این نرم‌افزار قدرتمند را توسعه می‌دهند، گفته‌اند قبل از اینکه پیشرفت‌های هوش مصنوعی غیرقابل کنترل یا غیرقابل کنترل شود، قوانینی برای محافظت از مردم ضروری است. رو خانا، که منطقه کنگره آن بخش اعظم دره سیلیکون را پوشش می دهد. و Zoe Lofgren، از سان خوزه.

پلوسی SB 1047 را ناآگاه خوانده و گفته است که ممکن است بیشتر ضرر داشته باشد تا مفید. دموکرات‌ها در نامه‌ای سرگشاده هفته گذشته گفتند که این لایحه می‌تواند توسعه‌دهندگان را از ایالت بیرون کند و مدل‌های به اصطلاح منبع باز AI را تهدید کند، که به کدی متکی هستند که به‌طور رایگان برای استفاده یا تغییر در دسترس هر کسی است.

رهبران فناوری چه می‌گویند؟

شرکت‌های فناوری در حال توسعه هوش مصنوعی – که می‌توانند به درخواست‌ها با متن، تصاویر یا صوت کاملاً شکل‌یافته پاسخ دهند و همچنین وظایف تکراری را با کمترین مداخله انجام دهند. نرده‌های محافظ قوی‌تر برای استقرار هوش مصنوعی.

آن‌ها خطراتی را ذکر کرده‌اند که این نرم‌افزار می‌تواند روزی از مداخله انسانی فرار کند و باعث حملات سایبری شود، از جمله نگرانی‌های دیگر. اما آنها همچنین تا حد زیادی از SB 1047 عقب نشینی کردند.

وینر این لایحه را برای راضی کردن شرکت‌های فناوری، با تکیه تا حدودی بر ورودی‌های استارت‌آپ هوش مصنوعی Anthropic – با حمایت آمازون و آلفابت، اصلاح کرد. در میان سایر تغییرات، او ایجاد یک کمیته نظارت بر هوش مصنوعی دولتی را حذف کرد.

وینر همچنین مجازات های کیفری را برای شهادت دروغ در نظر گرفت، اگرچه ممکن است هنوز دعاوی مدنی مطرح شود.

لایحه اصلاح شده دارای حمایت برخی از شرکت‌ها و مدیران فناوری از جمله میلیاردر ایلان ماسک و آنتروپیک را به دست آورد.

این استارت‌آپ هوش مصنوعی هفته گذشته اعلام کرده بود که نگرانی‌هایش در مورد لایحه‌ای که به طور بالقوه مانع نوآوری می‌شود «به شدت کاهش یافته» و مزایای آن احتمالاً بیشتر از هزینه ها.

با این وجود، برخی از جنبه های این لایحه نگران کننده یا مبهم به نظر می رسید.

ماسک، مدیر عامل تسلا، مدیر عامل یک شرکت هوش مصنوعی به نام xAI، گفت که او مدافع مقررات هوش مصنوعی بوده است و کالیفرنیا باید این لایحه را تصویب کند.

شرکت‌های دیگر با آن مخالفت کرده‌اند.

Google و متای Alphabet ابراز نگرانی کرده‌اند. در نامه هایی به وینر متا گفت این لایحه تهدید می کند که ایالت را برای توسعه و استقرار هوش مصنوعی نامطلوب می کند. یان لکون، دانشمند ارشد فیسبوک، در پستی در جولای X این لایحه را به طور بالقوه برای تلاش های تحقیقاتی مضر خواند.

< div class="element">