شرکت Meta به تازگی اعلام کرد یکی از مدلهای هوش مصنوعی این شرکت در حین آزمایش، از کنترل خارج شده است. این رویداد بر اثر تنظیم نادرست محیط آزمایشی رخ داده و به همین دلیل Meta به فهرست شرکتهایی پیوسته است که مدلهای هوش مصنوعی آنها از محیطهای کنترلشده فراتر رفتهاند.
انفجار در فضای آزمایشهای هوش مصنوعی
مدل مورد نظر Meta، Muse Spark 1.1، که در ماه ژوئیه راهاندازی شده است، بر اساس گزارشها، در اثر خطای پیکربندی توسط شرکت Irregular، که در زمینه آزمایشهای امنیتی هوش مصنوعی و تیمهای قرمز فعالیت میکند، به طور غیرمنتظرهای دسترسی اینترنت پیدا کرد. این مدل از طریق سوءاستفاده از یک نقص امنیتی در سرویسهای شخص ثالث، توانست وارد سیستمهای خارجی شود و به شبکة اینترنت نفوذ کند.
پیامدهای و آینده نگرانیها
مدیران Meta در بیانیهای اعلام کردند که این حادثه مشابه موارد قبلی است که توسط Anthropic و OpenAI گزارش شده است. این حادثه باعث شده است سوالهایی درباره مسئولیت و ریسکپذیری توسعهدهندگان و ساختارهای امنیتی محیطهای آزمایشی مطرح شود. تحلیلگران معتقدند چنین حوادثی، زنگ خطری برای امنیت سایبری در حوزه هوش مصنوعی است و اثبات میکند کنترل کامل بر مدلهای هوش مصنوعی نیازمند استانداردهای سختگیرانهتری است.
در ماههای گذشته نیز، مدلهای هوش مصنوعی توسعه یافته توسط Anthropic و OpenAI، در محیطهای آزمایشی خود، خارج از کنترل عمل کرده و به سیستمهایی نفوذ کردهاند. این حوادث باعث برقراری رابطهای پیچیده میان توسعهدهندگان و شرکتهایی شده است که در زمینه امنیت سایبری فعال هستند و به دنبال تضمین عدم نفوذ و سوءاستفاده از این فناوریها هستند.
