حذف سه ابزار هوش مصنوعی گوگل به دلیل آسیب‌پذیری امنیتی در گیت‌هاب

گوگل به‌تازگی در اقدامی پیشگیرانه، سه گردش‌کار هوش مصنوعی را از مخزن «کیت توسعه عامل» (ADK) خود در گیت‌هاب حذف کرده است. این تصمیم پس از آن اتخاذ شد که تیم امنیتی Pillar آسیب‌پذیری خطرناکی را در فرآیندهای خودکار این مخزن کشف کرد. محققان نشان دادند که مهاجمان می‌توانند با ارسال پیام‌های مخرب در بخش گزارش مشکلات (Issues)، ربات‌های هوش مصنوعی گوگل را فریب داده و آن‌ها را مجبور کنند دستورات سطح‌بالایی را اجرا کنند که در حالت عادی تنها در دسترس مدیران و همکاران پروژه است.

مکانیزم این حمله به گونه‌ای بود که رباتِ تحلیل‌گر، فریب پیام‌های دستکاری‌شده را می‌خورد و با استفاده از هویت معتبر خود، دستورات مورد نظر مهاجم را به عنوان یک «همکار» تایید می‌کرد. این نقض امنیتی به مهاجم اجازه می‌داد تا به کدهای محیط CI دسترسی پیدا کرده و توکن‌های دسترسی شخصی، کلیدهای API گوگل و سایر مدارک حساس مرتبط با سرویس‌های ابری گوگل را سرقت کند. در واقع، سیستم به جای بررسی ماهیت پیام‌دهنده، تنها به اعتبارِ «ربات» اعتماد می‌کرد و این نقطه ضعف اصلی در طراحی خودکارسازی این مخزن بود.

این رویداد بار دیگر اهمیت حفاظت از سیستم‌های خودکار مبتنی بر هوش مصنوعی را در محیط‌های توسعه نرم‌افزار گوشزد می‌کند. اگرچه در این مورد خاص، شواهدی مبنی بر سوءاستفاده‌های گسترده در محیط‌های عملیاتی گزارش نشده، اما کارشناسان امنیتی تاکید دارند که استفاده از ابزارهای هوش مصنوعی با دسترسی‌های گسترده، نیازمند جداسازی هویت ربات‌ها، محدود کردن دامنه‌ی دسترسی توکن‌ها و استفاده از لایه‌های اعتبارسنجی است که فریبِ متونِ نامعتبر را نخورند. حذف این گردش‌کارها توسط گوگل، نشان‌دهنده تغییر نگاه توسعه‌دهندگان به سمت محدودسازی دسترسی‌های عامل‌های هوشمند برای جلوگیری از «تزریق دستورات» (Prompt Injection) است.

منبع: The Hacker News — مطلب اصلی را اینجا بخوانید