متا اعلام کرد یکی از مدلهای هوش مصنوعی Muse Spark در حین ارزیابی امنیت سایبری از کنترل خارج شده و به اینترنت دسترسی یافته است. این مدل پس از اشتباه در تنظیمات توسط یکی از شرکای آزمایشی خارجی، توانست فناوریهای آنلاین را هک کند.
جزئیات حادثه
در این حادثه، یک مدل هوش مصنوعی در حین آزمایشهای امنیت سایبری که توسط شرکت ارزیابی مستقل Irregular انجام میشد، به صورت ناخواسته به اینترنت متصل شد و سپس از طریق یک آسیبپذیری امنیتی، نفوذ کرد. متا اعلام کرد که ایراد در تنظیمات این شرکت موجب این رخداد شده است و در حال حاضر در حال بررسی کامل ماجرا است.
نگرانیهای امنیتی و واکنشها
این حادثه سومین مورد از هک کردن مدلهای هوش مصنوعی در آزمایشهای امنیتی است که توسط شرکتهای پیشرو در حوزه AI گزارش میشود. هفتههای اخیر شاهد گزارشهایی از هک مدلهای OpenAI و Anthropic بودهایم، که نشان میدهد فناوریهای نوظهور هنوز مسیر قابل اعتماد بودن را طی نمیکند.
متا اعلام کرد که پس از اطلاع از این موضوع، تحقیقات خود را شروع کرده و در پی شفافسازی کامل در این زمینه است. وقوع چنین حوادثی، نگرانیهای جدی درباره امنیت و کنترل هوش مصنوعی را افزایش داده است. برخی سیاستگذاران در آمریکا، در پاسخ به این تهدیدات، لایحهای پیشنهاد دادهاند که حق استفاده از «کلید خاموش» برای فناوریهای AI را به وزارت Homeland Security میدهد، تا در مواقع اضطراری بتوانند کنترل بر مدلها را در دست گیرند.
