کابوس پهپادهای قاتل؛ هوش مصنوعی کلود در خدمت ارتش روسیه برای حذف انسان از میدان نبرد

گزارش‌های اخیر شرکت آنتروپیک پرده از سوءاستفاده‌های نگران‌کننده‌ای برداشته است که نشان می‌دهد چگونه هوش مصنوعی مولد می‌تواند به ابزاری برای پیشبرد پروژه‌های نظامی خطرناک تبدیل شود. طبق این گزارش، گروهی از توسعه‌دهندگان مستقل در روسیه با دور زدن محدودیت‌های جغرافیایی و استفاده از ابزارهای برنامه‌نویسی مدل «کلود»، موفق به طراحی نرم‌افزاری برای هدایت دسته‌ای پهپادهای رزمی شده‌اند. این پهپادها قادرند بدون نیاز به دخالت مستقیم انسان، اهداف انسانی را شناسایی کرده و دستور انفجار صادر کنند؛ موضوعی که مرزهای اخلاقی استفاده از هوش مصنوعی در میدان‌های نبرد را به شدت جابه‌جا کرده است.

این رویداد زنگ خطری جدی برای شرکت‌های توسعه‌دهنده هوش مصنوعی است، چرا که نشان می‌دهد حتی با وجود لایه‌های امنیتی، بازیگران مخرب می‌توانند از قابلیت‌های کدنویسی این مدل‌ها برای جایگزینی تیم‌های بزرگ مهندسی و تحلیلگران اطلاعاتی استفاده کنند. علاوه بر توسعه پهپادهای خودمختار، شواهدی از بهره‌گیری عوامل وابسته به دولت روسیه از این فناوری برای عملیات‌های سایبری، فیشینگ و تولید محتوای تبلیغاتی در مناطق مختلف جهان به دست آمده است. این موضوع ثابت می‌کند که هوش مصنوعی اکنون به بخشی جدایی‌ناپذیر از جنگ‌افزارهای نوین و عملیات‌های نفوذ تبدیل شده است.

در لایه‌ای عمیق‌تر، آنتروپیک نسبت به خطرات «سوءاستفاده بیولوژیک» از مدل‌های پیشرفته خود هشدار داده است. برخلاف نسخه‌های قدیمی‌تر که توانایی محدودی در کمک به تحقیقات زیستی داشتند، مدل‌های جدیدتر به قدری قدرتمند شده‌اند که می‌توانند به طور ناخواسته در مسیر توسعه عوامل بیماری‌زا یا سلاح‌های بیولوژیک مورد استفاده قرار گیرند. اگرچه این شرکت تلاش کرده با شناسایی و مسدودسازی حساب‌های کاربری متخلف، از تکرار این حوادث جلوگیری کند، اما اعتراف به اینکه لایه‌های حفاظتی فعلی قادر به شناسایی و توقف تمامی درخواست‌های مخرب نیستند، چالش‌های امنیتی بزرگی را برای آینده هوش مصنوعی ترسیم می‌کند.

منبع: Tom's Hardware — مطلب اصلی را اینجا بخوانید