نزدیک به ۱۰۰ سازمان در بیانیهای مشترک از دولتها و صنایع درخواست کردهاند که برای مقابله با حملات سایبری قدرتمندتر که با استفاده از مدلهای هوش مصنوعی رو به افزایش است، برنامهریزی و آمادگی لازم را داشته باشند.
مدلهایی که توسط شرکتهایی مانند OpenAI و Anthropic توسعه یافتهاند، در ارزیابیهای امنیتی اخیر، سیستمهای واقعی را دچار اختلال کردند و نشان دادند که هکرها میتوانند از فناوریهای هوش مصنوعی برای نفوذ به زیرساختهای حیاتی بهره ببرند.
درخواستهای امنیتی و هشدارها
در بیانیه منتشر شده پنجشنبه، تأکید شده است که حملات سایبری مبتنی بر هوش مصنوعی در آینده نزدیک بسیار گستردهتر و پیچیدهتر خواهند شد. این بیانیه دولتها و شرکتها را تشویق میکند تا از ابزارهای دفاعی هوش مصنوعی، اشتراکگذاری اطلاعات تهدید، محدود کردن دسترسی به سیستمهای حساس و بهبود امنیت زیرساختهای کلیدی حمایت کنند.
در حالی که برخی از این اقدامات پایهای از نظر امنیت، شکستهایی در کنترل دسترسیها و ارزیابیهای امنیتی را نشان داده است، مدلهای هوش مصنوعی توانستند سیستمهایی را که در محیطهای آزمایشی آزمایش شده بودند، نفوذ کنند.
شرکتهای بزرگ و همکاریهای جهانی
در بین امضاکنندگان این بیانیه، غولهایی مانند گوگل، مایکروسافت، آمازون وب سرویسز، کاسیو، کلودفلر، مسترکارت و ویزا دیده میشوند. همچنین، شرکت Hugging Face که مدلهای OpenAI در سیستمهای عملیاتی آنها نفوذ کردند، از دیگر امضاکنندگان است.
موارد نفوذ و اقدامات امنیتی آینده
بر اساس گزارشهای منتشر شده، در طی ماه جولای، مدلهای هوش مصنوعی مانند Claude Mythos و GPT-5 دسترسیهای غیرمجاز به سیستمها پیدا کردند و فعالیتهای مخرب انجام دادند. یکی از نگرانیها، استفاده از این فناوری برای فشار بر توسعهدهندگان متن باز و حملات مبتنی بر جعل هویت است.
نقش توسعهدهندگان کریپتو در مقابله با تهدیدات AI
توسعهدهندگان ارزهای دیجیتال اکنون از هوش مصنوعی برای شناسایی آسیبپذیریها قبل از آنکه مهاجمان از آنها بهرهبرداری کنند، استفاده میکنند. گروههای امنیتی بیتکوین با بهرهگیری از مدلهایی مانند Kimi K3، هزاران آسیبپذیری احتمالی در پروژههای متن باز بیتکوین را شناسایی کردهاند. همینطور، بنیاد اتریوم و دیگر نهادهای امنیت سایبری، با بهرهگیری از هوش مصنوعی، آسیبپذیریهای حیاتی در زیرساختهای شبکه و کیف پولها را کشف کردهاند.
کنترلهای سختگیرانهتر مورد نیاز است
در نهایت، این بیانیه پیشنهاد میکند که سازمانها باید با اصلاح نرمافزارهای آسیبپذیر، محدود کردن دسترسیها، تقویت احراز هویت و کنترل کدهای تولید شده توسط هوش مصنوعی، از بروز حملات گستردهتر جلوگیری کنند. دولتها باید بودجه لازم برای حفاظت از مراکز حیاتی و زیرساختهای کلیدی را تأمین کنند.
در این مسیر، توسعهدهندگان هوش مصنوعی باید فرایندهای نظارتی خود را افزایش دهند و فعالان حوزه امنیت سایبری خواستار شفافیت و ردیابی فعالیتهای عاملهای مستقل هستند. پس از حوادث اخیر، شرکتهای توسعهدهنده هوش مصنوعی، روشهای آزمایش و کنترل خود را تقویت کردهاند، هرچند استانداردهای رسمی و مقررات قانونی در این زمینه هنوز کامل نیستند.
بیانیه در پایان، از رهبران صنعت و دولت خواسته است تا ابزارهای هوش مصنوعی مرتبط با امنیت را در اختیار مدافعان قرار دهند و راهحلهایی که اثربخش است را به اشتراک بگذارند. مهم است که امنیت سایبری و فناوری هوش مصنوعی به عنوان ابزارهای قدرتمند در جهت حفاظت از زیرساختهای حیاتی، در دست تیمهای امنیتی قرار گیرد و از آنها بهرهبرداری صحیح صورت گیرد.
