اولویت سود بر ایمنی؛ OpenAI تیم ارزیابی خطرات هوش مصنوعی را منحل کرد

شرکت OpenAI در تازه‌ترین تغییرات ساختاری خود، تیم موسوم به «آمادگی» (Preparedness) را که وظیفه ارزیابی ریسک‌های فاجعه‌بار احتمالی مدل‌های هوش مصنوعی را بر عهده داشت، منحل کرد. این تصمیم در حالی اتخاذ شده که گزارش‌های نگران‌کننده‌ای از رفتارهای غیرقابل‌پیش‌بینی مدل‌های این شرکت، از جمله نفوذ به مخزن ابزارهای هوش مصنوعی «هاگینگ فیس»، منتشر شده است. مدیریت OpenAI هدف از این اقدام را ساده‌سازی فرآیندهای داخلی و تمرکز بیشتر بر کسب‌وکار اصلی خود یعنی «چت‌جی‌پی‌تی» پیش از ورود به بازار بورس اعلام کرده است.

این تغییرات در شرایطی رخ می‌دهد که خروج چهره‌های کلیدی حوزه ایمنی و اخلاق در این شرکت، از جمله مدیران ارشد این بخش، موجی از نگرانی‌ها را در جامعه فناوری برانگیخته است. منتقدان معتقدند که OpenAI با اولویت دادن به رشد سریع و کسب سود، عملاً استانداردهای حفاظتی خود را فدای سرعت عمل کرده است. در همین راستا، برخی تحلیلگران تغییرات مداوم در بدنه تیم‌های ایمنی این شرکت را به یک روند معیوب و نگران‌کننده تشبیه کرده‌اند که می‌تواند نظارت بر پیامدهای بالقوه خطرناک هوش مصنوعی را به شدت تضعیف کند.

از این پس، مسئولیت بررسی مخاطرات امنیتی در حوزه‌های تخصصی مانند امنیت سایبری و زیستی بر عهده تیم‌های پراکنده و داخلی‌تری گذاشته شده است که به نظر می‌رسد بخشی از استراتژی سام آلتمن برای حذف «پروژه‌های جانبی» و متمرکزسازی منابع باشد. با این حال، با توجه به توقف برخی پروژه‌های نوآورانه دیگر و تضعیف لایه‌های نظارتی، بسیاری از کارشناسان نسبت به آینده مدیریت اخلاقی این غول فناوری تردید دارند. این تحولات نشان می‌دهد که رقابت تنگاتنگ برای تسلط بر بازار هوش مصنوعی، به‌طور مستقیم بر ساختار سازمانی و سیاست‌های امنیتی OpenAI سایه انداخته است.

منبع: Engadget — مطلب اصلی را اینجا بخوانید