هوش مصنوعی گوگل در کمین داده‌های سازمانی؛ چگونه دسترسی جمنای را محدود کنیم؟

گوگل به تازگی تنظیمات پیش‌فرضی را در سرویس «گوگل ورک‌اسپیس» فعال کرده است که به هوش مصنوعی جمنای اجازه می‌دهد به صورت خودکار به داده‌های درون‌سازمانی، شامل ایمیل‌ها، اسناد و چت‌های کاربران دسترسی پیدا کند. اگرچه گوگل تأکید کرده که این داده‌ها برای آموزش مدل‌های هوش مصنوعی استفاده نمی‌شوند و در خارج از محدوده سازمان به اشتراک گذاشته نخواهند شد، اما فعال بودن این قابلیت به صورت پیش‌فرض، نگرانی‌هایی را در میان مدیران فناوری اطلاعات ایجاد کرده است. در واقع، این ابزار از تکنیک «تولید تقویت‌شده با بازیابی» یا همان RAG استفاده می‌کند تا در لحظه، اطلاعات مرتبط با پرسش‌های کاربر را از میان اسناد داخلی جستجو کرده و پاسخ دهد.

از دیدگاه امنیتی و حریم خصوصی، این رویکرد می‌تواند چالش‌های جدی برای شرکت‌ها به همراه داشته باشد. بسیاری از سازمان‌ها به دلیل توافق‌نامه‌های محرمانگی با مشتریان یا مقررات سخت‌گیرانه صنعتی، اجازه ندارند اجازه دهند هوش مصنوعی به فایل‌های حساس آن‌ها دسترسی داشته باشد. علاوه بر این، ریسک نشت اطلاعات داخلی نیز مطرح است؛ چرا که ممکن است کارکنان از طریق پرسش‌های ساده از هوش مصنوعی، به اسنادی دسترسی پیدا کنند که طبق ساختار سازمانی نباید به آن‌ها دسترسی داشته باشند، یا اینکه هوش مصنوعی به اشتباه اطلاعات حساس مربوط به بخش‌های دیگر را در پاسخ‌های خود بگنجاند.

برای مقابله با این دسترسی‌های ناخواسته، مدیران سیستم در پنل مدیریت گوگل ورک‌اسپیس به ابزارهایی برای غیرفعال کردن منابع هوشمند (Intelligence Sources) دسترسی دارند. با این حال، محدود کردن دسترسی برای کاربران خاص ممکن است کمی پیچیده‌تر از یک تنظیم ساده باشد و نیاز به دسته‌بندی مجدد کاربران در گروه‌های سازمانی جداگانه داشته باشد. در نهایت، این وضعیت بار دیگر اهمیت بازنگری در تنظیمات پیش‌فرض سرویس‌های ابری را یادآوری می‌کند، چرا که مسئولیت حفاظت از داده‌های حساس، بیش از هر زمان دیگری بر عهده مدیران کسب‌وکارها قرار گرفته است تا اطمینان حاصل کنند که راحتیِ کار با ابزارهای هوش مصنوعی، فدای امنیت سازمان نمی‌شود.

منبع: ZDNet — مطلب اصلی را اینجا بخوانید