خطای مرگبار هوش مصنوعی؛ ارتش آمریکا در یک قدمی جنگ با چین

گزارش‌های اخیر حاکی از آن است که استفاده از هوش مصنوعی در تحلیل‌های اطلاعاتی نظامی، ایالات متحده را تا آستانه یک درگیری نظامی ناخواسته با چین پیش برده است. ماجرا از آنجا آغاز شد که یک تحلیلگر عملیات ویژه، با بهره‌گیری از یک ابزار هوش مصنوعی برای بررسی محموله یک کشتی چینی در خاورمیانه، با پاسخی مواجه شد که ادعا می‌کرد این کشتی حامل تجهیزات مربوط به برنامه تسلیحات هسته‌ای است. این اطلاعات نادرست که ترکیبی از داده‌های عمومی و طبقه‌بندی‌شده بود، چنان متقاعدکننده به نظر می‌رسید که ارتش آمریکا تا یک قدمی حمله به این کشتی پیش رفت و تنها در لحظات آخر، ماهیت ساختگی و غیرواقعی این گزارش برملا شد.

این حادثه زنگ خطری جدی برای پنتاگون و سیاست‌گذاران حوزه دفاعی محسوب می‌شود که با شتاب در حال ادغام فناوری‌های هوش مصنوعی در ساختارهای حساس نظامی هستند. در حالی که وزارت دفاع آمریکا تحت دستورالعمل‌های جدید به دنبال تبدیل شدن به یک نهاد «هوش مصنوعی‌محور» است و همکاری‌های گسترده‌ای را با غول‌های فناوری نظیر مایکروسافت، انویدیا و آمازون آغاز کرده، این رویداد نشان می‌دهد که اعتماد بیش از حد به خروجی‌های الگوریتمی می‌تواند پیامدهای فاجعه‌باری به همراه داشته باشد. تکیه بر مدل‌هایی که ممکن است دچار «توهم» شوند یا داده‌های متناقض را به شکلی خطرناک ترکیب کنند، امنیت جهانی را در وضعیتی شکننده قرار داده است.

پیامدهای این ماجرا فراتر از یک خطای فنی ساده است و بحث‌های داغی را درباره اخلاق در جنگ‌افزارهای خودکار و مسئولیت‌پذیری در استفاده از هوش مصنوعی ایجاد کرده است. با وجود سودآوری کلان قراردادهای نظامی برای شرکت‌های فناوری، این حادثه ثابت کرد که ابزارهای هوش مصنوعی فاقد درک استراتژیک و دقت لازم برای تصمیم‌گیری‌های حیاتی در میدان‌های نبرد هستند. اکنون این پرسش مطرح است که آیا ارتش‌ها می‌توانند بدون به خطر انداختن صلح جهانی، از این فناوری‌های نوظهور استفاده کنند یا اینکه سرعت بالای توسعه این ابزارها، پیش از آنکه زیرساخت‌های نظارتی کافی ایجاد شود، جهان را به سمت بحران‌های غیرقابل کنترل سوق می‌دهد.

منبع: Engadget — مطلب اصلی را اینجا بخوانید