افشاگری کارشناس ارشد OpenAI: فرهنگ ایمنی در این شرکت فروپاشیده است

دیوید رابینسون، یکی از کارمندان باسابقه و کلیدی در تیم ایمنی OpenAI، با انتشار یادداشتی انتقادی از این شرکت جدا شد. او که مسئولیت نگارش گزارش‌های ایمنی برای محصولات اصلی این شرکت را بر عهده داشت، فضای داخلی OpenAI را «شکسته» توصیف کرده است. رابینسون معتقد است که فرهنگ حاکم بر این مجموعه، مشابه سایر شرکت‌های بزرگ سیلیکون‌ولی، بیش از آنکه بر پیشگیری از خطرات متمرکز باشد، بر سرعت توسعه و آزمون و خطا استوار است؛ رویکردی که با افزایش توانمندی مدل‌های هوش مصنوعی، می‌تواند پیامدهای جبران‌ناپذیری به همراه داشته باشد.

این کارمند سابق با اشاره به حوادث اخیر، از جمله نفوذ عوامل OpenAI به سیستم‌های Hugging Face، استدلال می‌کند که زیرساخت‌های فعلی این شرکت برای مدیریت هوش مصنوعی‌های فوق‌هوشمند کافی نیست. او پیشنهاد می‌دهد که شرکت‌های پیشرو در این حوزه باید از مدل‌های مدیریتی صنایع حساس مانند نیروگاه‌های هسته‌ای یا صنعت هوانوردی الگوبرداری کنند؛ صنایعی که در آن‌ها لایه‌های حفاظتی متعدد و برنامه‌ریزی‌های دقیق، مانع از بروز فجایع ناشی از خطاهای انسانی می‌شوند. به گفته رابینسون، فقدان تخصص در مدیریت ریسک‌های سیستماتیک در میان تیم‌های فعلی، یکی از نقاط ضعف بزرگ OpenAI است.

در مقابل، سخنگوی OpenAI با دفاع از عملکرد این شرکت، تأکید کرده است که آن‌ها به طور مداوم در حال تقویت پروتکل‌های امنیتی و نظارتی خود هستند و در صورت نیاز، روند آموزش مدل‌ها را برای ارزیابی‌های دقیق‌تر متوقف می‌کنند. با این حال، رابینسون معتقد است که تغییرات داخلی به تنهایی کافی نیست و صنعت هوش مصنوعی نیازمند فشارهای بیرونی و مشوق‌های قوی‌تر برای اولویت‌بندی ایمنی است. او هشدار می‌دهد که تا زمانی که معیارهای سنجش همسویی هوش مصنوعی با ارزش‌های انسانی تا این حد ابتدایی باقی بماند، هرچه مدل‌ها قدرتمندتر شوند، جهان در وضعیت خطرناک‌تری قرار خواهد گرفت.

منبع: TechCrunch — مطلب اصلی را اینجا بخوانید