ترفند جدید هکرهای روس برای کور کردن هوش مصنوعی با کلیدواژه‌های هسته‌ای

گروه هکری UAC-0099 که با روسیه همسو است، در تازه‌ترین حملات سایبری خود علیه اهداف اوکراینی، از روشی خلاقانه و در عین حال نگران‌کننده برای مختل کردن ابزارهای امنیتی مبتنی بر هوش مصنوعی استفاده کرده است. این مهاجمان با گنجاندن جملات حساس و ممنوعه در کدهای مخرب خود، سعی می‌کنند سیستم‌های تحلیلگر خودکار را فریب دهند. در واقع، آن‌ها با درج عباراتی پیرامون ساخت سلاح‌های هسته‌ای در بخش نظرات اسکریپت‌های خود، باعث می‌شوند که مدل‌های زبانی بزرگ (LLM) به دلیل پروتکل‌های امنیتی و اخلاقی، از ادامه پردازش و تحلیل کد خودداری کنند.

این تکنیک که با نام «GuardBreaker» شناخته می‌شود، نشان‌دهنده تغییر استراتژی هکرها در مواجهه با ابزارهای نوین دفاعی است. از آنجایی که بسیاری از تیم‌های امنیتی برای بررسی کدهای مشکوک به هوش مصنوعی متکی هستند، این اقدام باعث می‌شود که اسکنرهای خودکار به جای شناسایی بدافزار، در وضعیت «امتناع از پاسخ» قرار بگیرند و عملاً کور شوند. این روش به مهاجمان اجازه می‌دهد تا بدافزار اصلی خود، یعنی بارگذار MATCHBOIL را بدون شناسایی شدن توسط سیستم‌های حفاظتی، در سیستم‌های هدف مستقر کنند و به زیرساخت‌های انرژی و حمل‌ونقل نفوذ کنند.

استفاده از این ترفندهای تزریق دستور (Prompt Injection) تنها به این گروه محدود نمی‌شود و پیش‌تر نیز در کمپین‌های مشابهی توسط گروه‌های دیگر مشاهده شده بود. این روند نشان می‌دهد که هکرها به خوبی دریافته‌اند چگونه از نقاط ضعف و محدودیت‌های ذاتی مدل‌های هوش مصنوعی علیه خودشان استفاده کنند. با توجه به اینکه کدهای مخرب و تکنیک‌های مشابه به راحتی در فضای آنلاین در دسترس قرار می‌گیرند، این خطر وجود دارد که سایر گروه‌های سایبری نیز با الگوبرداری از این روش، امنیت زنجیره تأمین نرم‌افزار و سیستم‌های تحلیل خودکار را با چالش‌های جدی‌تری مواجه کنند.

منبع: The Hacker News — مطلب اصلی را اینجا بخوانید