سایه سنگین بی‌اعتمادی بر سر هوش مصنوعی؛ شرکت‌های بزرگ دسترسی به مدل‌های پیشرفته را محدود کردند

نگرانی‌های فزاینده در مورد امنیت داده‌ها و حفظ مالکیت معنوی، باعث شده است که شرکت‌های بزرگ فناوری و سازمان‌های حساس، رویکردی بسیار محتاطانه در قبال استفاده از مدل‌های هوش مصنوعی پیشرفته اتخاذ کنند. در حالی که غول‌هایی مانند OpenAI و Anthropic ادعا می‌کنند که داده‌های مشتریان سازمانی برای آموزش مدل‌هایشان استفاده نمی‌شود، بسیاری از کسب‌وکارها همچنان نسبت به شفافیت این شرکت‌ها در جمع‌آوری متادیتا و نحوه مدیریت اطلاعات حساس تردید دارند. این بی‌اعتمادی به حدی رسیده است که برخی سازمان‌ها، از جمله شرکت‌های فعال در حوزه زیرساخت و انرژی، به دلیل عدم دریافت تضمین‌های کافی مبنی بر عدم ذخیره‌سازی داده‌ها، همکاری‌های خود را با این توسعه‌دهندگان هوش مصنوعی لغو کرده‌اند.

در واکنش به این فضای عدم اطمینان، استراتژی‌های متفاوتی برای مقابله با خطرات احتمالی نشت اطلاعات در پیش گرفته شده است. برخی شرکت‌ها مانند نورثروپ گرومن، ترجیح داده‌اند به جای تکیه بر سرویس‌های ابری عمومی، از مدل‌های متن‌باز در سرورهای ایزوله و آفلاین (Air-gapped) استفاده کنند تا کنترل کاملی بر محیط پردازشی خود داشته باشند. در همین حال، شرکت‌هایی نظیر انویدیا نیز با اعمال محدودیت‌های سخت‌گیرانه، استفاده از مدل‌های خارجی را تنها به وظایف غیرحساس محدود کرده و برای تحلیل‌های محرمانه، به راهکارهای داخلی و اختصاصی خود روی آورده‌اند.

این روند نشان‌دهنده یک شکاف عمیق میان نیاز سازمان‌ها به بهره‌گیری از هوش مصنوعی و نگرانی‌های امنیتی آن‌هاست که می‌تواند در آینده به یک چالش جدی برای مدل‌های تجاری شرکت‌های پیشرو در این حوزه تبدیل شود. در حالی که مایکروسافت تلاش می‌کند با ارائه محیط‌های ابری امن و ایزوله، مشتریان نگران را به سمت پلتفرم‌های خود جذب کند، همچنان تقاضا برای سیاست‌های «عدم ذخیره‌سازی داده» (Zero Data Retention) به عنوان یک استاندارد ضروری در قراردادهای سازمانی افزایش می‌یابد. در نهایت، به نظر می‌رسد که شفافیت در جمع‌آوری داده‌های فنی و متادیتا، به پاشنه آشیل شرکت‌های هوش مصنوعی تبدیل شده است و هرگونه ابهام در این زمینه می‌تواند به از دست رفتن مشتریان بزرگ و کاهش اعتماد عمومی منجر شود.

منبع: Tom's Hardware — مطلب اصلی را اینجا بخوانید