سوءاستفاده از گروک برای تولید تصاویر غیراخلاقی از کودکان؛ شکایت جدید علیه شرکت هوش مصنوعی ایلان ماسک

پرونده حقوقی علیه شرکت هوش مصنوعی ایلان ماسک، xAI، با پیوستن یک شاکی جدید ابعاد تکان‌دهنده‌ای به خود گرفته است. زنی که در این شکایت با نام مستعار «جین دو ۴» معرفی شده، ادعا می‌کند که ناپدری‌اش با بهره‌گیری از ابزار هوش مصنوعی «گروک» (Grok)، تصاویر دوران کودکی او را به محتوای غیراخلاقی تبدیل کرده است. این شاکی مدعی است که هزاران تصویر مستهجن از او در سن ۱۱ سالگی تولید شده و این ماجرا تنها زمانی برملا شد که ماموران قانون با یورش به محل زندگی ناپدری، به این محتوا دست یافتند.

این حادثه تلخ، بحث‌های داغی را پیرامون نبود نظارت‌های کافی بر ابزارهای تولید محتوا با هوش مصنوعی ایجاد کرده است. شاکیان این پرونده که پیش از این شامل چند نوجوان اهل تنسی بودند، معتقدند که شرکت xAI بدون در نظر گرفتن پروتکل‌های امنیتی اولیه، دسترسی به این فناوری را برای همگان فراهم کرده است. آن‌ها استدلال می‌کنند که نبود فیلترهای کنترلی برای جلوگیری از سوءاستفاده از چهره افراد واقعی، به‌ویژه کودکان، منجر به فاجعه‌ای شده است که اکنون زندگی قربانیان را به شدت تحت تاثیر قرار داده است.

در حالی که شرکت xAI هنوز واکنشی به این اتهامات نشان نداده، فشارهای حقوقی برای تبدیل این شکایت به یک دعوی گروهی افزایش یافته است. این اتفاق نشان‌دهنده شکاف بزرگی در دنیای تکنولوژی است؛ جایی که سرعت توسعه هوش مصنوعی از قدرت نظارتی شرکت‌ها پیشی گرفته و به ابزاری برای گسترش رفتارهای مجرمانه تبدیل شده است. این پرونده می‌تواند نقطه عطفی در تعیین مسئولیت حقوقی شرکت‌های هوش مصنوعی باشد و آن‌ها را وادار کند تا استانداردهای ایمنی خود را برای جلوگیری از تولید چنین تصاویر غیراخلاقی و خطرناکی به شدت بازنگری کنند.

منبع: TechCrunch — مطلب اصلی را اینجا بخوانید