دام اعتماد؛ حفره امنیتی گوگل چگونه هوش مصنوعی را علیه خود می‌شوراند

کشف حفره‌های امنیتی در «کیت توسعه عامل» (ADK) گوگل، زنگ خطری جدی برای توسعه‌دهندگانی است که در حال پیاده‌سازی سیستم‌های هوش مصنوعی خودمختار هستند. محققان امنیتی شرکت پیلار (Pillar) دریافته‌اند که مهاجمان می‌توانند با تزریق دستورات مخرب در محتواهایی مانند درخواست‌های ادغام (Pull Request) یا مسائل (Issues) گیت‌هاب، عامل‌های هوش مصنوعی را فریب دهند تا دستورات سطح بالاتری را اجرا کنند که معمولاً تنها برای کاربران معتمد در دسترس است. این رویکرد که «بهره‌برداری عامل از عامل» نامیده می‌شود، نشان می‌دهد که چگونه می‌توان از اعتماد ناخودآگاه سیستم‌های خودکار به یکدیگر برای دور زدن پروتکل‌های امنیتی استفاده کرد.

این رخداد نشان‌دهنده یک تغییر پارادایم در امنیت نرم‌افزار است؛ جایی که زبان طبیعی اکنون به بخشی از مسیر احراز هویت و صدور مجوز تبدیل شده است. برخلاف ابزارهای امنیتی سنتی که تنها دسترسی‌های مستقیم یک کاربر یا اپلیکیشن را بررسی می‌کنند، در دنیای عامل‌های هوش مصنوعی، زنجیره‌ای از دسترسی‌های غیرمستقیم ایجاد می‌شود. وقتی یک عامل با سطح دسترسی محدود، پیامی تولید می‌کند که عامل دیگری با سطح دسترسی بالاتر آن را به عنوان یک دستور معتبر می‌پذیرد، عملاً راه برای بالا بردن غیرمجاز امتیازات (Privilege Escalation) هموار می‌شود. در این سناریو، حتی نیاز به داشتن دسترسی مستقیم برای اعمال تغییرات در کد نیست، زیرا مهاجم می‌تواند با دست‌کاری در گزارش‌ها و فرآیندهای تأیید، اعتماد مدیران انسانی را برای ادغام کدهای آلوده جلب کند.

برای مقابله با این چالش‌ها، کارشناسان معتقدند که مدل‌های امنیتی فعلی باید به سمت «نقشه‌برداری از تفویض اختیار» حرکت کنند. به جای تکیه بر فهرست‌بندی دارایی‌ها، تیم‌های امنیتی باید مسیرهای احتمالی که داده‌های غیرمطمئن خارجی از طریق عامل‌ها به سیستم‌های حساس می‌رسند را رهگیری کنند. ایجاد سیستم‌های ثبت گزارش مستقل که حتی توسط خودِ عامل‌ها قابل تغییر نباشند و همچنین الزام به احراز هویت مستقل برای هر تغییر در فرآیند تأیید، از جمله اقدامات حیاتی است. این حادثه یادآوری می‌کند که در عصر هوش مصنوعی، امنیت تنها به معنای حفاظت از کدهای ایستا نیست، بلکه باید بر نظارت دقیق بر تعاملات پویا و «اعتماد ماشینی» متمرکز بود تا از سوءاستفاده‌های پیچیده زنجیره‌ای جلوگیری شود.

منبع: InfoWorld — مطلب اصلی را اینجا بخوانید