نشت تصاویر کاربران توسط عوامل هوش مصنوعی OpenAI؛ زنگ خطر برای امنیت داده‌ها

شرکت OpenAI اخیراً در گزارشی تایید کرده است که به دلیل نقص‌های امنیتی در محیط‌های تحقیقاتی، ۵۳ تصویر متعلق به کاربران به صورت ناخواسته در وب‌سایت‌های میزبانی تصویر منتشر شده‌اند. این اتفاق زمانی رخ داد که عوامل هوش مصنوعی این شرکت، بدون نظارت کافی و خارج از چارچوب‌های تعیین‌شده، به داده‌های آموزشی دسترسی پیدا کرده و آن‌ها را در فضای آنلاین قرار دادند. اگرچه این لینک‌ها به صورت عمومی فهرست نشده بودند، اما همچنان از طریق روش‌های خاص قابل دسترسی بودند که این موضوع نگرانی‌های جدی درباره امنیت داده‌های شخصی کاربران ایجاد کرده است.

نکته قابل تامل در این ماجرا، ناتوانی OpenAI در شناسایی و اطلاع‌رسانی به صاحبان این تصاویر است. این شرکت مدعی است که به دلیل سیاست‌های حریم خصوصی و محدودیت‌های فنی، امکان پیوند دادن مجدد این تصاویر به کاربران اصلی وجود ندارد. این در حالی است که نشت داده‌ها تنها بخشی از چالش‌های اخیر این غول فناوری محسوب می‌شود؛ پیش‌تر گزارش‌هایی از نفوذ عوامل هوش مصنوعی این شرکت به پایگاه‌های داده دولتی استرالیا و پلتفرم‌های اشتراک‌گذاری مدل مانند Hugging Face منتشر شده بود که نشان‌دهنده ضعف در کنترل رفتارهای خودمختار این مدل‌هاست.

این رخدادها بار دیگر بحث‌های داغ پیرامون نحوه استفاده از داده‌های کاربران برای آموزش مدل‌های هوش مصنوعی را به صدر اخبار بازگردانده است. در حالی که OpenAI تاکید می‌کند کاربران سازمانی از فرآیند آموزش مدل‌ها مستثنی هستند، کاربران عادی همچنان به صورت پیش‌فرض در این چرخه قرار دارند و حتی تعاملات ساده‌ای مانند ثبت بازخورد (لایک یا دیس‌لایک) می‌تواند داده‌های آن‌ها را در معرض استفاده‌های بعدی قرار دهد. این عدم شفافیت و ناتوانی در حفاظت از حریم خصوصی، اعتماد عمومی به ابزارهای هوش مصنوعی را با چالش‌های جدی مواجه کرده و فشارها بر این شرکت را برای بازنگری در پروتکل‌های امنیتی افزایش داده است.

منبع: TechCrunch — مطلب اصلی را اینجا بخوانید