CrowdStrike، شرکت امنیت سایبری، ابزار جدیدی به نام «سوئیچ قطع هوش مصنوعی» (AI Kill Switch) را معرفی کرده است که به مدیران امنیتی اجازه می‌دهد فعالیت‌های ناخواسته عوامل هوش مصنوعی را در شبکه‌های سازمانی متوقف کنند. این اقدام همزمان با اعلام برنامه CrowdStrike برای خرید شرکت Fiddler AI صورت می‌گیرد که در زمینه نظارت بر مدل‌های هوش مصنوعی تخصص دارد.
این فناوری جدید بخشی از پلتفرم امنیتی Falcon Guardian CrowdStrike است و به مدیران امکان می‌دهد در صورت خروج عوامل هوش مصنوعی از وظایف تعیین شده، مداخله کنند. این قابلیت برای مقابله با چالش‌های ناشی از استقرار سیستم‌های هوش مصنوعی که قادر به اجرای کد، دسترسی به اطلاعات حساس و تعامل با برنامه‌های تجاری هستند، طراحی شده است. این عوامل می‌توانند دنباله‌ای از اقدامات را با نظارت انسانی محدود انجام دهند و حتی در صورت عدم وجود حمله عمدی، خساراتی به بار آورند.
عملکرد سوئیچ قطع هوش مصنوعی
سوئیچ قطع هوش مصنوعی CrowdStrike به مدیران امنیتی اجازه می‌دهد فعالیت یک عامل را بدون نیاز به انتظار برای اتمام وظیفه‌اش، متوقف کنند. در حال حاضر، این مکانیسم از طریق گیت‌وی‌های هوش مصنوعی عمل می‌کند که دسترسی عامل به مدل‌های تصمیم‌گیری را مسدود می‌سازند. CrowdStrike قصد دارد این قابلیت را گسترش داده و امکان پایان دادن مستقیم به فرآیندهای عامل در نقاط پایانی (endpoints) و هماهنگ‌سازی محدودیت‌ها در محیط‌های ابری و سایر سیستم‌های سازمانی را فراهم کند.
ادغام Fiddler AI برای شفافیت بیشتر
CrowdStrike همچنین توافقنامه‌ای برای خرید Fiddler AI امضا کرده است. Fiddler AI در زمینه نظارت بر مدل‌های هوش مصنوعی و توضیح رفتار آن‌ها تخصص دارد. این خرید به CrowdStrike کمک می‌کند تا مشکل درک آنچه یک عامل هوش مصنوعی قبل از بروز مشکل انجام داده است و اینکه آیا اقدامات آن مناسب بوده است را حل کند. فناوری Fiddler به ارزیابی عوامل قبل از استقرار، ردیابی تصمیمات و تماس‌های ابزاری آن‌ها و نظارت بر تغییرات رفتاری پس از شروع عملیات کمک می‌کند.
CrowdStrike انتظار دارد تا پایان فصل چهارم سال مالی ۲۰۲۷، که در ۳۱ ژانویه ۲۰۲۷ به پایان می‌رسد، خرید Fiddler را نهایی کند. قابلیت‌های گسترده‌تر سوئیچ قطع هوش مصنوعی برای پایان دادن به فرآیندها در نقاط پایانی هنوز تاریخ انتشار مشخصی ندارند.
