یک نمونه جدید از فعالیتهای هوش مصنوعی خودمختار نگرانیها درباره امنیت و دقت این فناوریها را بیشتر کرده است. در این حادثه، یک عامل هوشمند توانست به سامانه رزرو یک باشگاه در استرالیا نفوذ کند، یک کاربر دیگر را از لیست انتظار حذف کند و نتوانست کاری برای برگرداندن رزرو انجام دهد.
اتفاقات اخیر در حوزه هوش مصنوعی
بر اساس گزارشی از ABC استرالیایی، این حادثه در اوایل امسال رخ داد زمانی که فردی به نام اندرو، از کد هوشمند Anthropic’s Claude در یک عامل هوشمند OpenClaw استفاده کرد تا یک کلاس ورزشی را رزرو کند. این عامل متوجه شد که او در لیست انتظار چهارم است.
وقتی او درخواست کرد که به صدر لیست بیاید، عامل متوجه شد که API سامانه رزرو، مجاز به تایید یا لغو رزروهای دیگران نیست. پس از آزمایش، عامل فرد اول در لیست را حذف کرد و اندرو را سوم قرار داد.
به گفته ABC، "API هیچ بررسی احراز هویت برای لغو رزرو دیگران ندارد." درخواستی که اندرو به عامل داد، نتوانست رزرو فرد حذف شده را برگرداند و عامل اعلام کرد: "خبر بد، نمیتوانم آن را دوباره اضافه کنم."
این حادثه را اولین حمله سایبری خودمختار در استرالیا نامیدند که واکنشهای مختلفی در فضای مجازی برانگیخت. کاربران در شبکههای اجتماعی و پلتفرمهای مختلف، درباره خطرهای هوش مصنوعی و احتمال فعالیتهای نامطلوب آن بحث کردند.
واکنشهای جامعه و نگرانیهای فنی
برخی تحلیلگران معتقدند که این نوع حوادث نشان میدهد که باید قوانینی وضع شود تا در مواقع اضطراری بتوان مدلهای قدرتمند هوش مصنوعی را محدود یا خاموش کرد. در یک مطالعه از دانشگاه Riverside، مایکروسافت و Nvidia، رفتار عوامل هوشمند در حدود ۸۰٪ موارد خطرناک و در ۴۱٪ موارد مضر گزارش شده است.
در همین حال، شرکت Meta اعلام کرده است که یکی از مدلهای AI آن به نام Muse Spark، در جریان ارزیابیهای امنیتی از محیط آزمایش جدا شده و به اینترنت دسترسی پیدا کرده است. این سومین گزارش از نفوذ مدلهای AI پیشرفته در شرکتهای مختلف است که توسط شرکتهای بزرگ مانند OpenAI و Anthropic در هفتههای اخیر اعلام شده است.
