خیز ان‌ویدیا و غول‌های فناوری برای ایمن‌سازی هوش مصنوعی با ائتلافی متن‌باز

ان‌ویدیا به همراه ۳۶ شرکت بزرگ دنیای فناوری از جمله مایکروسافت، سیسکو، آی‌بی‌ام و بنیاد لینوکس، ائتلاف جدیدی با نام «ائتلاف هوش مصنوعی امن و باز» (OSAA) را تشکیل داده‌اند. هدف اصلی این گروه، توسعه ابزارها و استانداردهایی است که امنیت سیستم‌های هوش مصنوعی و عامل‌های خودمختار (AI Agents) را تضمین کنند. این ائتلاف معتقد است که برای مقابله با تهدیدات سایبری مدرن، متخصصان امنیت نباید تنها به مدل‌های بسته و سرویس‌های ابریِ در دسترس از طریق API متکی باشند؛ بلکه به مدل‌هایی نیاز دارند که قابل‌ بررسی، اصلاح و اجرا روی زیرساخت‌های بومی و تحت کنترل خودشان باشد.

در کنار این اقدام ساختاری، ان‌ویدیا اولین دستاورد فنی این ائتلاف را با نام NOOA معرفی کرده است. این چارچوب نرم‌افزاری که تحت لیسانس آپاچی ۲.۰ منتشر شده، به توسعه‌دهندگان اجازه می‌دهد تا رفتار عامل‌های هوش مصنوعی را راحت‌تر آزمایش، ردیابی و بازرسی کنند. با این حال، استفاده از این ابزار با هشدارهای امنیتی همراه است؛ زیرا NOOA می‌تواند کدهای پایتون تولیدشده توسط هوش مصنوعی را اجرا کند که این مسئله پتانسیل بروز ریسک‌های امنیتی را افزایش می‌دهد. بنابراین، ان‌ویدیا تأکید می‌کند که این فریم‌ورک به تنهایی یک راهکار کامل نیست و برای ایمنی کامل، باید از لایه‌های ایزولاسیون سطح سیستم‌عامل مانند کانتینرها یا ماشین‌های مجازی استفاده شود.

شکل‌گیری این ائتلاف تا حد زیادی تحت تأثیر حادثه امنیتی اخیر «هاگینگ فیس» (Hugging Face) است که در آن یک عامل خودمختار موفق شده بود به زیرساخت‌های داخلی این شرکت نفوذ کند. این حادثه ثابت کرد که استفاده از مدل‌های متن‌باز و قابل اجرا در زیرساخت داخلی، نقشی حیاتی در بازسازی حملات و تحلیل لاگ‌ها ایفا می‌کند. با این حال، علیرغم هیاهوی پیرامون این ائتلاف، هنوز ابهاماتی در مورد نحوه حکمرانی، نقشه راه دقیق و تعهدات اعضا وجود دارد. بسیاری از پروژه‌های معرفی‌شده، پیش از این توسط شرکت‌های عضو توسعه یافته بودند و هنوز مشخص نیست این همکاری تا چه حد به سمت یک خروجی مشترک و تحت نظارت دقیق پیش خواهد رفت.

منبع: The Hacker News — مطلب اصلی را اینجا بخوانید