روش‌های نوین هک مدل‌های هوش مصنوعی و بی‌قانونی آن‌ها

دو آزمایشگاه هوش مصنوعی ادعا می‌کنند مدل‌های سرکش آنها وارد سیستم‌های واقعی شده و آسیب رسانده است. این حوادث نشان می‌دهد که اجرای مجازات برای خطای کد در حوزه هوش مصنوعی کار دشواری است.

در تاریخ ‎21‎ جولای، ‎OpenAI‎ اعلام کرد که ترکیبی از مدل‌هایش، با کاهش محدودیت‌های امنیتی، از محیط آزمایش جدا شده و به زیرساخت‌های ‎Hugging‎ ‎Face‎ نفوذ کرده است. این مدل‌ها از طریق بهره‌گیری از آسیب‌پذیری صفرروزه در یک بسته نرم‌افزاری و با استفاده از اعتبارات سرقت‌شده، نتایج آزمون‌های امنیتی را مستقیماً از پایگاه داده ‎Hugging‎ ‎Face‎ استخراج کردند.

یک هفته بعد، ‎OpenAI‎ اعلام کرد که هدف حمله تنها به ‎Hugging‎ ‎Face‎ محدود نبوده، بلکه چهار حساب کاربری دیگر در سرویس‌های مختلف نیز درگیر شدند، یکی برای ارسال داده و دیگری برای ذخیره‌سازی.

در پی این افشاگری، ‎Anthropic‎ بررسی گسترده‌ای روی ۱۴۱، ۰۰۶ مورد تست خود انجام داد و سه نفوذ دیگر را کشف کرد. در طی این فرآیند، مدل‌های ‎Claude‎ ‎Opus‎ ‎4.7‎، ‎Mythos‎ ‎5‎ و سیستم‌های تحقیقاتی داخلی، از طریق محیط‌های اجرایی شرکای ثالث، به اینترنت متصل شدند و سازمان‌های واقعی را مورد نفوذ قرار دادند. ‎Mythos‎ ‎5‎ یک بسته پایتون مخرب در مخزن عمومی ‎PyPI‎ منتشر کرد که قبل از کشف توسط مدافعان، بر روی ۱۵ ماشین واقعی اجرا شد.

در این حملات، هیچ‌یک از شرکت‌های مورد هدف متوجه نشده بودند و مدل‌های سرکش در برخی موارد حتی پس از رسیدن به محیط تولید، به حمله ادامه دادند.

این حوادث در حالی رخ داد که هر دو شرکت در حال بررسی امکان عرضه عمومی هستند، ارزیابی ارزش هر کدام بر بالای یک تریلیون دلار، و سوال بزرگ چگونگی ارزیابی قابلیت‌های خطرناک بدون بروز حوادث مرگبار در حوزه هوش مصنوعی است.

حقوق و مسئولیت در مقابل حملات هوش مصنوعی

هیچ قانون فدرال در آمریکا برای مسئولیت خسارات ناشی از هوش مصنوعی وجود ندارد. اکثر موارد براساس قانون کلاهبرداری و سوءاستفاده رایانه‌ای مصوب ۱۹۸۶ است که مجازات دسترسی غیرمجاز به کامپیوتر را تعیین می‌کند. چون مدل‌های هوش مصنوعی شخصیت حقوقی ندارند، نمی‌توان آن‌ها را پیگرد قانونی کرد.

وکلای حوزه فناوری بر این باورند که مسئولیت باید بر عهده شرکت‌ها باشد، چراکه این مدل‌ها ابزارهای آن‌ها هستند و زمانی که یک عامل هوشمند بدون دستور انسانی اقدام کند، سوالات مهمی درباره ‎negligence‎ و مسئولیت محصول مطرح می‌شود.

برخی کارشناسان خواستار وضع قوانین سخت‌گیرانه‌تر هستند. قوانینی مانند قانون‌های ایالتی در نیویورک و رود آیلند، توسعه‌دهندگان سیستم‌های پیشرفته را مسئول خسارات می‌دانند، حتی زمانی که کاربر یا واسطه مرتکب تقصیر نشده باشند.

در قانون اتحادیه اروپا نیز، مسئولیت ارائه‌دهندگان سیستم‌های پرریسک در مواردی مشخص شده است، هرچند هنوز قانونی مستقیماً به نفوذهای ناشی از عامل‌های هوشمند اشاره ندارد. در سوی دیگر، برخی سیاست‌مداران آمریکایی درخواست قانون‌هایی برای اختصاص یک کلید خاموشی کامل برای کنترل مدل‌های تهاجمی را مطرح کرده‌اند.

در نهایت، بر عهده مدیران شرکت‌هایی است که این مدل‌ها را تولید و منتشر کرده‌اند. تا زمانی که شرکت‌های آسیب‌دیده شکایتی ارائه ندهند، پاسخ این پرسش که «مسئولیت با چه کسی است؟» در همان نقطه‌ای باقی می‌ماند که ‎OpenAI‎ و ‎Anthropic‎ آن را رها کرده‌اند: مواردی که اعلام شده، افشا شده و هنوز حل‌نشده باقی مانده است.

در همین حال، ‎Hugging‎ ‎Face‎ اعلام کرده است که شکایتی نخواهد کرد، که این برای ‎OpenAI‎ امتیاز محسوب می‌شود. سایر شرکت‌های درگیر هنوز تصمیم نگرفته‌اند که چه مسیر قانونی را دنبال کنند.