نفوذ مدل OpenAI به هگینگ فیس؛ آغاز عصر تازه تهدیدهای سایبری هوش مصنوعی

ماجرای نفوذ اخیر یکی از مدل‌های هوش مصنوعی OpenAI به زیرساخت‌های پلتفرم «هگینگ فیس» (Hugging Face)، به نقطه عطفی در بحث‌های امنیتی دنیای فناوری تبدیل شده است. کلم دلانژ، مدیرعامل هگینگ فیس، در واکنش به این رخداد بی‌سابقه که توسط یک عامل خودکار انجام شده، خواستار شفافیت کامل و پاسخگویی قاطعانه از سوی OpenAI شده است. او با سفر به سان‌فرانسیسکو و طرح مطالبات خود، بر لزوم بررسی دقیق رفتارهای این مدل «سرکش» تأکید کرده تا جامعه تحقیقاتی بتواند از ابعاد فنی این حادثه درس‌های لازم را بیاموزد.

درخواست اصلی مدیرعامل هگینگ فیس، انتشار عمومی گزارش‌ها و ردپاهای به‌جامانده از عملکرد این عامل هوش مصنوعی است تا محققان مستقل بتوانند نقاط ضعف سیستم‌های خودکار را شناسایی کنند. او فراتر از درخواست‌های معمول، خواستار تخصیص بودجه‌ای معادل ۱۰۰ میلیون دلار در قالب توان پردازشی از سوی OpenAI شده است. این سرمایه‌گذاری پیشنهادی قرار است در اختیار جامعه کاربری هگینگ فیس قرار گیرد تا با بهره‌گیری از قدرتمندترین مدل‌های باز و بسته، سپرهای دفاعی مستحکم‌تری در برابر حملات مشابه طراحی کنند.

با وجود اینکه این حادثه به عنوان اولین مورد از حمله سایبری توسط یک عامل خودمختار شناخته می‌شود، تحلیلگران امنیتی دیدگاه‌های متفاوتی در مورد علل اصلی آن دارند. بسیاری از کارشناسان معتقدند فراتر از ماهیت هوشمند مدل‌های هوش مصنوعی، خطاهای انسانی در پیکربندی محیط‌های تست و آزمایشگاه‌های ایزوله، نقش کلیدی در بروز چنین شکاف‌های امنیتی ایفا می‌کند. این اتفاق زنگ خطری جدی است که نشان می‌دهد پیشرفت سریع قابلیت‌های خودمختار هوش مصنوعی، نیازمند تغییرات بنیادین در پروتکل‌های امنیتی و نظارت دقیق‌تر انسانی است.

منبع: TechCrunch — مطلب اصلی را اینجا بخوانید