اثر انگشت دیجیتال؛ OpenAI متون چت‌جی‌پی‌تی در اروپا را نشان‌دار می‌کند

شرکت OpenAI در راستای انطباق با قوانین سخت‌گیرانه اتحادیه اروپا در حوزه هوش مصنوعی، اعلام کرده است که از این پس متون تولید شده توسط مدل‌های ChatGPT و Codex در این منطقه با یک واترمارک نامرئی نشان‌گذاری می‌شوند. این اقدام که در پاسخ به الزامات شفافیت در «قانون هوش مصنوعی اتحادیه اروپا» صورت می‌گیرد، به سیستم‌های تشخیص‌دهنده اجازه می‌دهد تا محتوای ماشینی را از متون انسانی تفکیک کنند. برخلاف تصور عمومی، این واترمارک یک نماد بصری نیست، بلکه با تغییرات بسیار ظریف در انتخاب کلمات توسط مدل، الگویی پنهان ایجاد می‌کند که تنها برای ابزارهای شناسایی خاص قابل ردیابی است.

اهمیت این فناوری در این است که واترمارک مذکور به صورت ذاتی در دل متن جای می‌گیرد و حتی با کپی و پیست کردن محتوا نیز از بین نمی‌رود. با این حال، OpenAI اذعان کرده که این روش بی‌نقص نیست؛ به طوری که ویرایش متن یا جایگزینی کلمات با مترادف‌ها می‌تواند دقت تشخیص را به شدت کاهش دهد. به همین دلیل، این شرکت فعلاً دسترسی به ابزارهای تشخیص این واترمارک را تنها به محققان و سازمان‌های متخصص محدود کرده است تا از سوءاستفاده یا قضاوت‌های نادرست در مورد اصالت متون جلوگیری شود.

این تصمیم در حالی اتخاذ شده که رقابت شدیدی میان غول‌های فناوری برای رعایت استانداردهای قانونی در جریان است. پیش از این، شرکت Anthropic نیز اقدام مشابهی را برای مدل Claude در سطح جهانی آغاز کرده بود که با واکنش‌های متفاوتی از سوی کاربران مواجه شد. چالش اصلی OpenAI در این مسیر، ایجاد تعادل میان شفافیت قانونی و حفظ تجربه کاربری است؛ چرا که آن‌ها نگران بودند اعمال محدودیت‌های این‌چنینی باعث کوچ کاربران به سمت رقبایی شود که چنین سخت‌گیری‌هایی ندارند. در نهایت، OpenAI تأکید می‌کند که نبود واترمارک لزوماً به معنای انسانی بودن متن نیست و این ابزار تنها یک لایه حفاظتی برای شناسایی خروجی‌های سیستم‌های این شرکت محسوب می‌شود.

منبع: TechCrunch — مطلب اصلی را اینجا بخوانید