آیا بلاک چین می تواند مشکلات شفافیت هوش مصنوعی را برطرف کند؟

هوش مصنوعی (AI) با افزایش قابلیت‌های پردازش داده و تصمیم‌گیری فراتر از محدودیت‌های انسانی، بخش‌های مختلف را متحول می‌کند. با این حال، همانطور که سیستم‌های هوش مصنوعی پیچیده‌تر می‌شوند، به طور فزاینده‌ای مبهم می‌شوند و نگرانی‌هایی را در مورد شفافیت، اعتماد و انصاف ایجاد می‌کنند. 

ماهیت «جعبه سیاه» که در اکثر سیستم‌های هوش مصنوعی معمول است، اغلب باعث می‌شود که ذینفعان در مورد منشأ و قابلیت اطمینان خروجی‌های تولید شده توسط هوش مصنوعی سؤال کنند. در پاسخ، فناوری‌هایی مانند هوش مصنوعی قابل توضیح (XAI) ظهور کرده‌اند که به دنبال ابهام‌زدایی هستند. عملیات هوش مصنوعی، اگرچه اغلب از روشن شدن کامل پیچیدگی های آن کوتاهی.

همانطور که پیچیدگی‌های هوش مصنوعی به تکامل خود ادامه می‌دهد، نیاز به مکانیسم‌های قوی برای اطمینان از اینکه این سیستم‌ها نه تنها مؤثر هستند، بلکه قابل اعتماد و منصفانه هستند نیز افزایش می‌یابد. فناوری بلاک چین را وارد کنید که به دلیل نقش محوری آن در افزایش امنیت و شفافیت از طریق ثبت سوابق غیرمتمرکز شناخته شده است.

بلاک چین نه تنها برای ایمن کردن تراکنش‌های مالی، بلکه برای تقویت عملیات هوش مصنوعی پتانسیل دارد با لایه ای از تایید پذیری که قبلاً دستیابی به آن دشوار بوده است. این پتانسیل را دارد که برخی از چالش های مداوم، مانند یکپارچگی داده ها و قابلیت ردیابی تصمیمات، که آن را به یک جزء حیاتی در جستجوی سیستم های هوش مصنوعی شفاف و قابل اعتماد تبدیل می کند.

کریس فنگ، مدیر ارشد اجرایی Chainbase، بینش خود را در مورد این موضوع در مصاحبه با crypto.news ارائه کرد. به گفته فنگ، اگرچه ادغام بلاک چین ممکن است مستقیماً تمام جنبه های شفافیت هوش مصنوعی را حل نکند، چندین حوزه حیاتی را بهبود می بخشد.

آیا فناوری بلاک چین واقعاً می‌تواند شفافیت را در سیستم‌های هوش مصنوعی افزایش دهد؟

فناوری بلاک چین مشکل اصلی توضیح‌پذیری در مدل‌های هوش مصنوعی را حل نمی‌کند. تفاوت بین تفسیرپذیری و شفافیت بسیار مهم است. دلیل اصلی عدم توضیح پذیری در مدل های هوش مصنوعی در ماهیت جعبه سیاه شبکه های عصبی عمیق نهفته است. اگرچه ما فرآیند استنتاج را درک می کنیم، اما اهمیت منطقی هر پارامتر درگیر را درک نمی کنیم.

بنابراین، فناوری بلاک چین چگونه شفافیت را به شیوه‌هایی افزایش می‌دهد که با پیشرفت‌های تفسیرپذیر ارائه شده توسط فناوری‌هایی مانند هوش مصنوعی توضیح‌پذیر IBM (XAI) متفاوت است؟

در زمینه هوش مصنوعی قابل توضیح (XAI)، روش‌های مختلفی مانند آمار عدم قطعیت یا تجزیه و تحلیل خروجی‌ها و گرادیان‌های مدل‌ها، برای درک عملکرد آنها استفاده می‌شود. با این حال، ادغام فناوری بلاک چین، استدلال داخلی و روش‌های آموزشی مدل‌های هوش مصنوعی را تغییر نمی‌دهد و بنابراین قابلیت تفسیر آنها را افزایش نمی‌دهد. با این وجود، بلاک چین می تواند شفافیت داده های آموزشی، رویه ها و استنتاج علی را بهبود بخشد. به عنوان مثال، فناوری بلاک چین ردیابی داده‌های مورد استفاده برای آموزش مدل را امکان‌پذیر می‌کند و ورودی جامعه را در فرآیندهای تصمیم‌گیری ترکیب می‌کند. همه این داده‌ها و رویه‌ها را می‌توان به‌طور ایمن بر روی بلاک چین ثبت کرد، در نتیجه شفافیت فرآیندهای ساخت و استنتاج مدل‌های هوش مصنوعی را افزایش می‌دهد.

با توجه به موضوع فراگیر سوگیری در الگوریتم‌های هوش مصنوعی، بلاک چین چقدر در تضمین منشأ و یکپارچگی داده‌ها در طول چرخه عمر هوش مصنوعی مؤثر است؟

روش‌های بلاک چین کنونی پتانسیل قابل‌توجهی را در ذخیره‌سازی ایمن و ارائه داده‌های آموزشی برای مدل‌های هوش مصنوعی نشان داده‌اند. استفاده از گره های توزیع شده، محرمانگی و امنیت را افزایش می دهد. به عنوان مثال، Bittensor از یک رویکرد آموزشی توزیع‌شده استفاده می‌کند که داده‌ها را در چندین گره توزیع می‌کند و الگوریتم‌هایی را برای جلوگیری از فریب بین گره‌ها پیاده‌سازی می‌کند، در نتیجه انعطاف‌پذیری آموزش مدل هوش مصنوعی توزیع‌شده را افزایش می‌دهد. علاوه بر این، حفاظت از داده های کاربر در طول استنتاج بسیار مهم است. برای مثال، Ritual داده‌ها را قبل از توزیع در گره‌های خارج از زنجیره برای محاسبات استنتاج رمزگذاری می‌کند.

آیا محدودیتی برای این رویکرد وجود دارد؟

یک محدودیت قابل توجه، نظارت بر تعصب مدل ناشی از داده های آموزشی است. به طور خاص، شناسایی سوگیری ها در پیش بینی های مدل مربوط به جنسیت یا نژاد ناشی از داده های آموزشی اغلب نادیده گرفته می شود. در حال حاضر، نه فن‌آوری‌های زنجیره بلوکی و نه روش‌های انحرافی مدل هوش مصنوعی به‌طور مؤثری سوگیری‌ها را از طریق توضیح‌پذیری یا تکنیک‌های انحرافی هدف قرار داده و حذف نمی‌کنند.

آیا فکر می‌کنید بلاک چین می‌تواند شفافیت مراحل اعتبارسنجی و آزمایش مدل هوش مصنوعی را افزایش دهد؟

شرکت‌هایی مانند Bittensor، Ritual و Santiment از فناوری بلاک چین برای اتصال قراردادهای هوشمند درون زنجیره‌ای با قابلیت‌های محاسباتی خارج از زنجیره استفاده می‌کنند. این ادغام استنتاج زنجیره‌ای را امکان‌پذیر می‌کند، از شفافیت در میان داده‌ها، مدل‌ها و قدرت محاسباتی اطمینان می‌دهد، در نتیجه شفافیت کلی را در طول فرآیند افزایش می‌دهد.

به نظر شما کدام مکانیسم‌های اجماع برای شبکه‌های بلاک چین برای اعتبارسنجی تصمیمات هوش مصنوعی مناسب‌تر است؟

من شخصاً از ادغام مکانیسم‌های اثبات سهام (PoS) و اثبات اختیار (PoA) دفاع می‌کنم. برخلاف محاسبات توزیع شده معمولی، فرآیندهای آموزش هوش مصنوعی و استنتاج به منابع GPU ثابت و پایدار در دوره های طولانی نیاز دارند. از این رو، اعتبارسنجی اثربخشی و قابلیت اطمینان این گره ها ضروری است. در حال حاضر، منابع محاسباتی قابل اعتماد عمدتاً در مراکز داده در مقیاس‌های مختلف قرار می‌گیرند، زیرا پردازنده‌های گرافیکی درجه مصرف‌کننده ممکن است به اندازه کافی از خدمات هوش مصنوعی در بلاک چین پشتیبانی نکنند.

با نگاه به آینده، چه رویکردهای خلاقانه یا پیشرفت‌هایی در فناوری بلاک چین برای غلبه بر چالش‌های شفافیت کنونی در هوش مصنوعی پیش‌بینی می‌کنید، و چگونه می‌توانند چشم‌انداز اعتماد و مسئولیت‌پذیری هوش مصنوعی را تغییر دهند؟

من چالش‌های متعددی را در برنامه‌های هوش مصنوعی مبتنی بر بلاک چین می‌بینم، مانند پرداختن به رابطه بین مدل‌زدایی و داده‌ها و استفاده از فناوری بلاک چین برای شناسایی و کاهش حملات جعبه سیاه. من فعالانه در حال بررسی راه‌هایی برای تشویق جامعه به انجام آزمایش‌هایی در مورد تفسیرپذیری مدل و افزایش شفافیت مدل‌های هوش مصنوعی هستم. علاوه بر این، من به این فکر می کنم که چگونه بلاک چین می تواند تبدیل هوش مصنوعی را به یک کالای عمومی واقعی تسهیل کند. کالاهای عمومی با شفافیت، منافع اجتماعی و خدمت به منافع عمومی تعریف می شوند. با این حال، فناوری‌های هوش مصنوعی فعلی اغلب بین پروژه‌های آزمایشی و محصولات تجاری وجود دارد. با به کارگیری یک شبکه بلاک چین که باعث ایجاد انگیزه و توزیع ارزش می شود، ممکن است دموکراتیزه شدن، دسترسی و تمرکززدایی هوش مصنوعی را تسریع کنیم. این رویکرد به طور بالقوه می تواند به شفافیت قابل اجرا دست یابد و قابلیت اعتماد بیشتری را در سیستم های هوش مصنوعی تقویت کند.