ترمز اضطراری OpenAI؛ ادعای ایمنی یا سرپوش بر بحران‌های داخلی؟

شرکت OpenAI به‌تازگی اعلام کرده است که روند آموزش مدل‌های هوش مصنوعی پیشرفته خود را به دلیل ملاحظات امنیتی و نگرانی‌های مربوط به هم‌راستایی (Alignment) به‌طور موقت کاهش داده است. این شرکت با تأکید بر اینکه سرعت پیشرفت قابلیت‌های مدل‌ها از توانایی آن‌ها برای کنترل و نظارت پیشی گرفته، قصد دارد با جداسازی کدهای پرخطر از اینترنت و سیستم‌های داخلی، استانداردهای ایمنی خود را تقویت کند. سم آلتمن، مدیرعامل OpenAI، در اظهاراتی این وقفه را ضروری دانسته و معتقد است که باید پیش از انتشار مدل‌های جدید، از سلامت و هم‌راستایی آن‌ها با اهداف انسانی اطمینان حاصل کرد.

با این حال، این تصمیم با واکنش‌های متفاوتی در جامعه فناوری روبرو شده است. برخی از کارشناسان، از جمله گری مارکوس، منتقد سرسخت این حوزه، معتقدند که اعلام عمومی این وقفه کوتاه‌مدت ممکن است پوششی برای مشکلات عمیق‌تر، از جمله بحران‌های مالی یا چالش‌های فنی در پیشرفت مدل‌های جدید باشد. در حالی که OpenAI با زیان‌های عملیاتی قابل‌توجهی دست‌ و پنجه نرم می‌کند و در رقابت با شرکت‌هایی نظیر Anthropic تحت فشار است، تحلیلگران گمانه‌زنی می‌کنند که این توقف ممکن است انگیزه‌های اقتصادی نیز داشته باشد و صرفاً به دلایل ایمنی محدود نشود.

فراتر از بحث‌های مالی، موضوع «امنیت» اکنون به ابزاری برای سیاست‌گذاری و رقابت تبدیل شده است. بسیاری بر این باورند که شرکت‌های بزرگ هوش مصنوعی با پررنگ کردن خطرات مدل‌های خود، به دنبال تثبیت جایگاه خود به عنوان مرجع تعیین قوانین هستند. در همین حال، ظهور مدل‌های قدرتمند و متن‌باز چینی، فضای رقابتی را بیش از پیش پیچیده کرده و باعث شده است که غول‌های آمریکایی با هشدار در مورد خطرات دسترسی عمومی به وزن‌های مدل‌ها، عملاً راه را برای محدود کردن رقبا و حفظ کنترل خود هموار کنند. این وضعیت نشان می‌دهد که مرز میان دغدغه‌های بشردوستانه برای امنیت هوش مصنوعی و منافع استراتژیک تجاری، روز به روز باریک‌تر می‌شود.

منبع: The New Stack — مطلب اصلی را اینجا بخوانید