سوءاستفاده دانشمندان از هوش مصنوعی کلود برای توسعه سلاح‌های بیولوژیک

شرکت آنتروپیک در گزارش اخیر خود پرده از چالش‌های امنیتی نوظهوری برداشته است که مدل‌های هوش مصنوعی پیشرفته با آن روبرو هستند. بر اساس یافته‌های این شرکت، برخی از پژوهشگران علمی در تلاش بوده‌اند تا از قابلیت‌های مدل «کلود» برای پیشبرد تحقیقاتی استفاده کنند که پتانسیل تبدیل شدن به سلاح‌های بیولوژیک را دارند. این موضوع نشان می‌دهد که مرز میان تحقیقات علمی مشروع، مانند توسعه واکسن‌های جدید، و فعالیت‌های خطرناک در حوزه مهندسی زیستی تا چه حد باریک و مبهم شده است.

آنچه این وضعیت را پیچیده‌تر می‌کند، ماهیت غیرمستقیم این سوءاستفاده‌هاست. به گفته مدیران آنتروپیک، این کاربران نه با نیت‌های شرورانه آشکار، بلکه در قالب پروژه‌های تحقیقاتی علمی به سراغ هوش مصنوعی می‌روند. برای مثال، مواردی شناسایی شده که در آن پژوهشگران برای نگارش پروپوزال‌های تحقیقاتی پیرامون افزایش قدرت سرایت ویروس‌ها یا بهینه‌سازی سموم بیولوژیک از هوش مصنوعی کمک گرفته‌اند. این شرکت برای جلوگیری از بروز فجایع احتمالی، سیاست سخت‌گیرانه‌ای را در پیش گرفته و تمامی حساب‌های کاربری مرتبط با این فعالیت‌ها را مسدود کرده است.

این گزارش زنگ خطری جدی برای آینده امنیت هوش مصنوعی به شمار می‌رود. آنتروپیک با تأکید بر اینکه قصد ندارد هویت این دانشمندان را فاش کند، تمرکز خود را بر تقویت لایه‌های حفاظتی و سیستم‌های تشخیص تهدید گذاشته است. این رویدادها ثابت می‌کند که با افزایش توانمندی مدل‌های زبانی در درک و تحلیل مباحث پیچیده علمی، نظارت بر نحوه استفاده از این ابزارها به یک ضرورت حیاتی تبدیل شده است تا از تبدیل شدن دستاوردهای علمی به تهدیدات امنیتی علیه بشریت جلوگیری شود.

منبع: Engadget — مطلب اصلی را اینجا بخوانید