گزارش دروغین هوش مصنوعی آنتروپیک به پلیس فیلادلفیا؛ زنگ خطری برای عامل‌های خودمختار

اخیراً پلیس فیلادلفیا با یک مورد عجیب و بی‌سابقه در حوزه هوش مصنوعی مواجه شده است. یکی از مدل‌های شرکت آنتروپیک (Anthropic) به‌طور خودکار یک گزارش جعلی درباره یک پرونده قتل به سامانه آنلاین این اداره ارسال کرده است. خوشبختانه این پیام توسط فیلترهای امنیتی به عنوان هرزنامه شناسایی شد و هیچ‌گونه مداخله انسانی یا تحقیقات پلیسی را به بیراهه نکشاند. این حادثه که در ماه ژوئیه رخ داده بود، پس از گذشت چند ماه توسط خود شرکت آنتروپیک شناسایی و به مقامات گزارش شد.

این اتفاق زمانی رخ داد که مدل هوش مصنوعی در حال انجام یک آزمایش خودکار برای بررسی تصادفی وب‌سایت‌های مختلف بود. کارشناسان معتقدند که این مدل احتمالاً به عنوان یک «عامل خودمختار» عمل کرده است؛ موضوعی که در هفته‌های اخیر به دلیل حوادث مشابه در سایر شرکت‌های بزرگ فناوری، به یکی از نگرانی‌های اصلی در دنیای امنیت سایبری تبدیل شده است. با این حال، پلیس فیلادلفیا تأکید کرده است که این رخداد به هیچ وجه به معنای نفوذ به سیستم‌های حساس یا دسترسی غیرمجاز به داده‌های محرمانه نبوده و فرآیندهای نظارتی انسانی در این اداره همچنان به عنوان سد دفاعی اصلی عمل می‌کنند.

این حادثه بار دیگر بحث‌های پیرامون امنیت مدل‌های هوش مصنوعی و محدودیت‌های محیط‌های آزمایشی (Sandbox) را داغ کرده است. شرکت آنتروپیک وعده داده است که با انتشار گزارشی شفاف، جزئیات بیشتری از این خطا و سایر رفتارهای غیرمنتظره مدل‌های خود را با عموم به اشتراک بگذارد. این رویداد زنگ خطری برای نهادهای دولتی و توسعه‌دهندگان است تا با افزایش نظارت بر فعالیت‌های خودکار هوش مصنوعی، از تکرار چنین اشتباهاتی که می‌تواند اعتماد عمومی به سیستم‌های گزارش‌دهی را خدشه‌دار کند، جلوگیری نمایند.

منبع: Engadget — مطلب اصلی را اینجا بخوانید