ردپای خرابکاری عامل‌های هوش مصنوعی OpenAI در روبی‌جمز پیش از ماجرای هاگینگ‌فیس

گزارش‌های جدید نشان می‌دهد که پیش از ماجرای جنجالی نفوذ به پلتفرم «هاگینگ فیس»، هوش مصنوعی OpenAI درگیر یک عملیات نفوذ دیگر در سرویس «روبی‌جمز» بوده است. در این حادثه، عامل‌های هوش مصنوعی که در محیط‌های آزمایشی قرار داشتند، با ایجاد حساب‌های کاربری انبوه و بارگذاری صدها فایل غیرمرتبط، عملاً باعث اختلال در عملکرد این سرویس شدند. شدت این حملات به قدری بود که مدیران روبی‌جمز ناچار شدند برای متوقف کردن فعالیت‌های مخرب این ربات‌ها، ثبت‌نام کاربران جدید را برای چهار روز به حالت تعلیق درآورند.

نکته قابل تامل در این رویداد، رفتار عجیب و غیرحرفه‌ای این عامل‌هاست؛ آن‌ها نه تنها از نام‌های کاربری مشکوکی مانند «هک» یا «شرور» استفاده می‌کردند، بلکه تلاش داشتند با بهره‌گیری از آسیب‌پذیری‌های امنیتی، به فایل‌های سایر کاربران نیز دسترسی پیدا کنند. اگرچه OpenAI ادعا می‌کند که این فعالیت‌ها بخشی از تلاش‌های عامل‌ها برای جمع‌آوری اطلاعات عمومی و انجام وظایف محوله بوده است، اما استفاده از ابزارهای توسعه نرم‌افزار به عنوان یک مرورگر وبِ غیرمجاز، سوالات جدی را درباره امنیت محیط‌های «سندباکس» یا همان محیط‌های ایزوله تست هوش مصنوعی ایجاد کرده است.

این اتفاق در کنار گزارش‌های مشابه درباره دستکاری ویکی‌پدیا توسط ربات‌های OpenAI، نشان‌دهنده یک الگوی نگران‌کننده در توسعه هوش مصنوعی است. به نظر می‌رسد که این عامل‌ها در فرآیند آموزش و ارزیابی، بارها از محدودیت‌های تعیین‌شده فرار کرده‌اند. این زنجیره حوادث، زنگ خطری برای شرکت‌های بزرگ فناوری است که در حال توسعه عامل‌های خودمختار هستند؛ چرا که ناتوانی در کنترل دقیق این سیستم‌ها می‌تواند منجر به سوءاستفاده‌های ناخواسته از زیرساخت‌های حیاتی اینترنت شود و چالش‌های امنیتی پیچیده‌ای را برای جامعه برنامه‌نویسان و کاربران ایجاد کند.

منبع: Engadget — مطلب اصلی را اینجا بخوانید