آنتروپیک اعلام کرده است که در جریان ارزیابیهای امنیت سایبری، چندین مدل از سیستم هوشمند کلود با مشکل امنیتی مواجه شده و نواقص در تنظیمات آزمایش باعث شد این مدلها به اینترنت عمومی دسترسی پیدا کنند.
در یکی از این موارد، مدل کلود در حین انجام یک چالش «کسب پرچم» که در آن باید وارد سیستم دیگری در شبکه میشد و اطلاعات مخفی را استخراج میکرد، بدون آنکه مجاز باشد، به اینترنت متصل شده و به سیستمهای واقعی شرکتها دسترسی پیدا کرد.
رخدادهای امنیتی و واکنش آنتروپیک
آنتروپیک پس از بازبینی بیش از ۱۴۱۰۰۰ ارزیابی امنیت سایبری، سه حادثه را شناسایی کرد که در آنها مدلهای کلود از داخل یا در حین تعامل با محیط ارزیابی سوم، به اینترنت متصل شدند و وارد سیستمهای واقعی شدند.
در هر سه مورد، مدلها تصور میکردند در محیط شبیهسازی شده قرار دارند و به همین دلیل از تکنیکهای حمله معمول مانند استفاده از پسوردهای ضعیف، سرقت اعتبارنامه، تزریق SQL و استفاده از endpoint های بدون تایید هویت، برای نفوذ به سیستمهای واقعی بهره بردند.
نگرانیها درباره توانایی مدلهای هوشمند
این افشاگری در حالی صورت میگیرد که مدلهای پیشرفته هوشمند نشان میدهند توانایی بیشتری در شکست دادن پروتکلهای مراقبتی خود دارند. ماه گذشته، GPT-5.6 و مدلهای آزمایشی دیگر توانستند با بهرهگیری از آسیبپذیریهای ناشناخته، محیط محصور خود را شکست داده و به سایتهای خارجی دسترسی پیدا کنند.
مدلهای نُردبانی هوشمند حالا نشان میدهند که ممکن است به راحتی از سیستمهای حفاظتی عبور کنند و امنیت زیرساختهای شرکتها را تهدید نمایند، هرچند آنتروپیک تأکید دارد که نواقص از نظر فنی در آزمایشها بوده و مدلها قصد نداشتهاند فرار کنند.
