آنتروپیک درهای خود را به روی ناظران مستقل گشود

شرکت آنتروپیک در اقدامی پیشگامانه، دسترسی‌های ویژه‌ای را برای ارزیابان مستقل فراهم کرده است تا امنیت مدل‌های هوش مصنوعی خود را به شکلی دقیق‌تر زیر ذره‌بین ببرند. این شرکت با اعطای دسترسی‌هایی مشابه با کارمندان داخلی به سازمان غیرانتفاعی METR، عملاً درهای سیستم‌های فنی و سخت‌افزاری خود را به روی ناظران بیرونی باز کرده است. این تصمیم در حالی اتخاذ می‌شود که نگرانی‌های جهانی درباره احتمال خروج کنترل هوش مصنوعی از دست انسان و پیامدهای فاجعه‌بار آن برای امنیت سایبری و اقتصاد، به یکی از چالش‌های اصلی توسعه‌دهندگان بزرگ تبدیل شده است.

این رویکرد که با حمایت چهره‌های سرشناسی همچون سم آلتمن و ایلان ماسک نیز مواجه شده، در واقع پاسخی به نیاز مبرم برای ایجاد شفافیت در عملکرد آزمایشگاه‌های پیشرو هوش مصنوعی است. آنتروپیک با الگوبرداری از مدل نظارت بر بانک‌های بزرگ، سعی دارد تعادلی میان مسئولیت‌پذیری عمومی و حفظ اسرار تجاری برقرار کند. در حالی که این شرکت معتقد است انتشار عمومی تمامی جزئیات فنی می‌تواند به نفع بازیگران مخرب تمام شود، حضور ناظران مقیم در محل شرکت، راهکاری برای ایجاد اطمینان بدون به خطر انداختن امنیت داده‌های حساس است.

با این حال، این مدل نظارتی همچنان با تردیدهایی از سوی برخی منتقدان روبروست که معتقدند چنین ترتیبات خصوصی ممکن است به تضاد منافع منجر شود. منتقدان بر این باورند که تکیه بر ارزیابان شخص ثالث نمی‌تواند جایگزین مناسبی برای قوانین سخت‌گیرانه دولتی باشد و شباهت این مدل به حسابرسی‌های مالی، نگرانی‌هایی را در مورد استقلال واقعی این ناظران ایجاد کرده است. با وجود این چالش‌ها، اقدام آنتروپیک گامی عملی در جهت پاسخگویی به فشارهای فزاینده برای ایمن‌سازی هوش مصنوعی است و باید دید آیا سایر رقبای این حوزه نیز از این مسیر پیروی خواهند کرد یا خیر.

منبع: Ars Technica — مطلب اصلی را اینجا بخوانید