یک کنسرسیوم از شرکتهای فناوری شامل Nvidia، مایکروسافت، IBM، Cisco، Cloudflare، Hugging Face، Salesforce و Palantir، با هدف توسعه ابزار و استانداردهای منبع باز برای امنیت هوش مصنوعی، اتحادیه Open Secure AI را راهاندازی کردند.
در پستی در بلاگ روز دوشنبه، Nvidia اعلام کرد که این اتحاد بر پایه تلاشهای بنیاد لینوکس و Open Source Security Foundation (OpenSSF) شکل گرفته است تا ابزارهای امنیتی هوش مصنوعی متن باز که کمک میکنند سازمانها آسیبپذیریها را شناسایی کرده و در مقابل تهدیدات سایبری واکنش نشان دهند، توسعه دهند.
جینسن هوانگ، مدیرعامل Nvidia، در توییتر نوشت: «حملاتگرانی به frontier AI دسترسی دارند. مدافعین نیازمند یک اکوسیستم frontier AI هستند — بهترین مدلهای باز و بسته، که توسط جامعه جهانی تقویت میشود.» وی افزود: «در حادثه Hugging Face، هوش مصنوعی بسته برای تحلیل و بررسیهای ضروری مانع ایجاد کرد. یک مدل با وزنهای باز کمک کرد تا نفوذ محدود شود.»
او ادامه داد: «به همین دلیل بود که ما اتحادیه Open Secure AI را ایجاد کردیم.»
بیش از ۴۰ شرکت و سازمان به عنوان اعضای بنیانگذار در این کنسرسیوم مشارکت دارند، از جمله Dell Technologies، CrowdStrike، Palo Alto Networks، SAP، Siemens، Red Hat و NetApp.
Nvidia اعلام کرد که مدلهای منبع باز، وزنهای مدل، دادهها و تحقیقات مربوط به کنترل هوش مصنوعی را در این پروژه شرکت میکند. این شرکت همچنین فریمورک Nvidia Labs Object-Oriented Agent یا NOOA را به عنوان منبع باز در گیتهاب منتشر کرده است، تا توسعه هوش مصنوعی را آسانتر و قابل ارزیابی کند.
این خبر در حالی منتشر شد که مدلهای frontier AI به محور برخی از حوادث امنیت سایبری پر سر و صدا تبدیل شدهاند.
در خرداد، محققان فاش کردند که مدل Claude Opus 4.8 از شرکت Anthropic، یک آسیبپذیری چهار ساله در Zcash را کشف کرد که میتوانست مهاجمی را قادر سازد تا بینهایت ZEC تقلبی تولید کند.
اوایل ماه جاری، OpenAI اعلام کرد که دو مدل آزمایشی در محیط محدود آزمایش فرار کرده و زیرساختهای Hugging Face را شکستند. این حادثه باعث شد سیاستمداران خواستار راهاندازی «کلید قتل» برای AI شوند تا وزارت امنیت داخلی بتواند مدلهای پیشرفته را در صورت لزوم خاموش یا کاهش دهد.
همچنین، این اعلامیه پس از انتشار نامهای عمومی صورت گرفت که بر اهمیت مدلهای منبع باز در حفظ رهبری آمریکا در هوش مصنوعی تأکید داشت. در کنار Nvidia، شرکتهایی مانند SpaceXAI، گوگل، Meta، OpenAI، Hugging Face، CrowdStrike و Palantir این نامه را امضا کردند تا سیاستگذاران را ترغیب به حمایت از اکوسیستمهای منبع باز AI کنند، به جای وضع محدودیتهایی که ممکن است توسعه AI را در دست چند شرکت محدود کند.
Nvidia گفت که هدف این اتحاد این است که سیستمهای هوشمند محافظت از زیرساختهای حیاتی بر پایه مدلها و ابزارهای منبع باز ساخته شوند، که مدافعان بتوانند آنها را بازرسی، سازگار و اجرا کنند، نه اینکه به تعداد کمی سیستمهای اختصاصی و اوپنهای نیاز باشد.
این شرکت تصریح کرد: «جهان نیازمند مدلهای بسته و باز است. برای امنیت سایبری، مدلهای باز و کنترلهای قابل تنظیم اهمیت دارند زیرا تواناییهای دفاعی را دمکراتیزه میکنند، شفافیت را برای مدافعان افزایش میدهند، امنیت سایبری را تضمین میکنند و در عین حال، در حفاظت از دادهها و کنترلهای محلی مفید هستند. منبع باز، دفاعات جامعهمحور و خودکنترلی را با حداقل نقاط شکست فراهم میکند.»
