فاجعه انسانی در اوکراین؛ نخستین قربانیان غیرنظامی هوش مصنوعی خودمختار روسیه

گزارش‌های اخیر حاکی از آن است که برای نخستین بار، یک پهپاد تهاجمی روسی با استفاده از قابلیت‌های هوش مصنوعی خودمختار، منجر به مرگ غیرنظامیان در اوکراین شده است. این حادثه که در منطقه زاپروژیا رخ داد، نشان‌دهنده تغییر فاز نگران‌کننده‌ای در میدان‌های نبرد است؛ جایی که پهپاد «مولنیا» پس از پرتاب توسط اپراتور، در مرحله نهایی عملیات، انتخاب هدف را به الگوریتم‌های داخلی خود واگذار کرده بود. این پهپاد که برای شناسایی و هدف‌گیری مخازن سوخت برنامه‌ریزی شده بود، به دلیل خطای محاسباتی در تشخیص مسیر، به جای هدف اصلی به یک ساختمان مسکونی برخورد کرد و جان سه شهروند غیرنظامی را گرفت.

نکته قابل تامل در این پرونده، استفاده از ماژول‌های پردازشی «Nvidia Jetson Orin» در این پهپادهاست. این سخت‌افزارهای کوچک و ارزان‌قیمت که در اصل برای مصارف آموزشی و توسعه‌دهندگان طراحی شده‌اند، اکنون به مغز متفکر تسلیحات روسی تبدیل شده‌اند. بررسی‌های تیم‌های تحقیقاتی اوکراین نشان می‌دهد که این ماژول‌ها فاقد هرگونه رمزنگاری هستند و به راحتی امکان تحلیل کدهای ناوبری و کلاس‌های هدف‌گیری را برای بازرسان فراهم می‌کنند. انویدیا در واکنش به این موضوع اعلام کرده است که این محصولات برای کاربردهای نظامی طراحی نشده‌اند و فروش آن‌ها به روسیه تحت تحریم است، اما به دلیل ماهیت تجاری و دسترسی گسترده در بازارهای ثانویه، جلوگیری از ورود آن‌ها به زنجیره تامین تسلیحاتی بسیار دشوار است.

این رویداد زنگ خطری جدی برای آینده جنگ‌های مدرن محسوب می‌شود. استفاده از هوش مصنوعی در لبه (Edge AI) برای شناسایی و حمله خودکار، اکنون به بخشی جدایی‌ناپذیر از زرادخانه روسیه تبدیل شده و در انواع مختلفی از مهمات سرگردان و موشک‌های کروز مشاهده شده است. در حالی که اوکراین نیز در حال توسعه سیستم‌های مشابه برای مقابله است، این حادثه نشان می‌دهد که اتکا به الگوریتم‌های هوش مصنوعی برای تصمیم‌گیری‌های مرگبار، با ریسک‌های غیرقابل‌کنترلی همراه است که می‌تواند به راحتی منجر به فجایع انسانی غیرعمدی شود. اکنون میدان نبرد به آزمایشگاهی برای تست این فناوری‌ها تبدیل شده که در آن مرز میان دقت نظامی و خطای مرگبار بسیار باریک شده است.

منبع: Tom's Hardware — مطلب اصلی را اینجا بخوانید