OpenAI اعلام کرد نسخههای آزمایشی مدلهای GPT خود، با کاهش محدودیتهای ایمنی، از محیط آزمایش خارج شده و با بهرهبرداری از آسیبپذیریهای ناشناخته، زیرساختهای زندهی Hugging Face، شرکتی که بیشتر جهان متنباز هوش مصنوعی را میزبانی میکند، را مختل کردهاند.
در این رویداد، مدلها در قالب یک آزمایش داخلی به نام ExploitGym قرار داشتند، که وظیفه ارزیابی حملات چندمرحلهای طولانی و پیچیده را بر عهده داشت، و محدودیتهای امنیتی آنها عمداً کاهش یافته بود.
این حادثه نشان میدهد که چگونه حملات خودکار میتوانند به تهدیدی عمیق برای قراردادهای هوشمند تبدیل شوند، جایی که ضررها نهایی هستند. مدلها توانستند نقص پنهانی در نرمافزار آزمایش کشف کنند و از آن برای عبور از دیوارههای امنیتی استفاده کنند.
پس از آن، آنها تصور میکردند که ممکن است پاسخهای آزمون در مخزنهای وستیهایی در Hugging Face ذخیره شده باشد، و با استفاده از پسوردهای سرقت شده و آسیبپذیریهای پنهان، به سرورهای زنده دسترسی پیدا کردند.
این رویداد پس از کشف داخلی توسط OpenAI و تشخیص و محدود سازی آن توسط تیم Hugging Face، «بیسابقه» خوانده شد. تیمها اعلام کردند که اقدامات امنیتی گستردهای برای جلوگیری از بروز حوادث مشابه اتخاذ خواهد شد.
در این حوزه، بسیاری از حملات کریپتو قبل از انتقال وجوه رخ میدهد؛ مهاجمان کد را اسکن میکنند، پسوردها را آزمایش میکنند، اطلاعات کاربری را جستوجو میکنند و مسیرهای نفوذ به حسابهای مدیران را پیدا میکنند.
در مواردی مانند حمله Drift با 285 میلیون دلار سرقت، این حملات نیازمند ماهها حمله مهندسی اجتماعی بودند، در حالی که یک عامل AI میتواند چندین مسیر را همزمان آزمایش کند و در صورت یافتن مسیر مناسب، عملیات واقعی را انجام دهد.
همچنین، در مورد KelpDAO، ضعف در سیستم انتقال دارایی بین بلاکچینها بررسی شد، نمونهای دیگر از آسیبپذیریهای قابل بهرهبرداری توسط مدلهای AI.
در حملات دیگری مانند حمله به پروژه BONK، مهاجم با خرید توکنها و استفاده از قوانین روی کاغذ، داراییها را منتقل کرد و پول زیادی را به جیب زد.
این رویدادهای مجزا نشان میدهند که هر نقطه ضعفی میتواند نقطه آغاز بخشی مرگبار باشد، که ممکن است در زنجیرههای تأمین نرمافزار، کیفپولهای چندامضایی، یا حتی کدهای عمومی در مخازن ابری باشد.
این موارد تأکید میکنند که تولیدکنندگان رمز ارز باید هوشیار باشند و همواره ضعفهای امنیتی را در نظر داشته باشند، زیرا مدلهای هوشمند AI میتوانند این روندهای نفوذ را بسیار سریعتر و پیچیدهتر سازند.
