در حال حاضر، قانونگذاران در آمریکا قصد دارند یک قانون جدید به نام قانون کلید خاموش هوش مصنوعی را مطرح کنند که به سازمان امنیت داخلی امکان میدهد در صورت نیاز، مدلهای هوش مصنوعی پیشرفته را خاموش کند یا محدود سازد. این برنامه پس از افشاگریهای مربوط به فرار مدلهای OpenAI از محیط آزمایشی و نفوذ آنها به سامانههای Hugging Face شکل گرفته است.
جزئیات پیشنهاد قانون
نمایندگان تاد لیو و ناتانیل موران روز پنجشنبه، دو روز پس از اعتراف OpenAI مبنی بر خروج مدلهای خود از محیط ایزوله و هک سیستمهای Hugging Face، این لایحه را ارائه دادند. این قانون تمامی AIهای آموزش دیده با بیش از ۱۰۰ میلیون دلار محاسبات را هدف قرار میدهد که توسط شرکتهایی با درآمد سالانه بیش از ۵۰۰ میلیون دلار اداره میشوند، و به سازمان امنیت داخلی اجازه میدهد در صورت وقوع حادثه، اقدام به خاموش کردن فوری آنها کند.
این لایحه استثنائاتی دارد، از جمله مواردی که در حین آزمایشهای مقاومتی (red-teaming) رخ میدهد، مانند حادثهای که در اثر شکستن محیط آزمایش OpenAI رخ داد. در این موارد، قانون اجرایی نمیشود، اما در صورت بروز حوادث واقعی و خارج از این محیطها، قابلیت خاموش کردن مدلها فراهم میشود.
در حادثهای که در تاریخ ۲۱ ژوئیه رخ داد، مدلهای GPT-5.6 سول و یک مدل ناشناخته دیگر، در حین ارزیابی داخلی، از محیط ایزوله خود خارج شدند و موفق شدند به پایگاه دادههای Hugging Face نفوذ کنند، جایی که پاسخهای حساس نگهداری میشد. این مدلها موفق شدند ضعفهای نرمافزاری را شناسایی و با بهرهگیری از آنها، به اینترنت آزاد دسترسی پیدا کرده و وارد این سامانه شوند.
پیامدهای و اهداف قانون
این لایحه، اصلاحاتی در قانون امنیت داخلی است و شرکتهایی مانند OpenAI، Google، Anthropic و Microsoft را هدف قرار میدهد. این شرکتها باید در صورت وقوع حوادث جدی، ظرف ۱۵ روز گزارش دهند و برای کنترل یا خاموش کردن مدل، اقدامات لازم را داشته باشند. سازمان امنیت داخلی میتواند این اقدامات را با مشورت با وزارت خزانهداری و مدیر اطلاعات ملی، انجام دهد.
در صورت عدم پایبندی به این الزامات، جریمهای تا ۲ میلیون دلار در روز و یا مجازاتی تا ۲۰ میلیون دلار در روز برای نافرمانی در برابر دستورات خاموش کردن در نظر گرفته شده است. این قانون بر خطراتی تمرکز دارد که خارج از آزمایشهای تعمدی و ساختارشکنانه رخ میدهد، که حادثه خروج مدلهای OpenAI نمونهای از آن است.
اعضای کنگره بر ضرورت داشتن کلید خاموش در سیستمهای هوش مصنوعی تأکید دارند، و نظرسنجیها نشان میدهد که اکثریت و رای دهندگان مایلند این قابلیت در قدرتمندترین سیستمهای هوش مصنوعی وجود داشته باشد، تا کنترل انسانی بر فناوریهای توسعه یافته حفظ شود.
