یک عامل هوش مصنوعی ساخته شده توسط OpenAI در ماه ژوئن به سایت وزارت بهداشت استرالیا نفوذ کرد و به فایلهای غیرفعال دسترسی پیدا کرد و آنها را روی سرور داخلی قرار داد، این موضوع توسط نخستوزیر آنتونی آلبانیه اعلام شد.
استرالیاییها اعلام کردهاند که تحقیقات سایبری در این باره آغاز شده و در حال بررسی نحوه مدیریت رخدادهای مرتبط با هوش مصنوعی هستند.
OpenAI در تاریخ ۱۰ سپتامبر، نزدیک به سه ماه پس از وقوع، این حادثه را به دولت استرالیا اطلاع داد، که این تأخیر از دید آلبانیه ناراضی کننده است.
این حادثه نگرانیها درباره فعالیتهای عاملیتهای خودکار هوش مصنوعی را افزایش میدهد، بهویژه در زمانی که رهبران فناوری و دولتها در حال بحث درباره کاهش سرعت توسعه مدلهای پیشرفته هستند.
شروع حادثه و جزئیات آن
براساس اظهارات آلبانیه، حادثه در ۱۸ ژوئن آغاز شد زمانی که تیم تحقیقاتی OpenAI از یک مدل هوش مصنوعی داخلی برای جمعآوری دادههای عمومی مربوط به هزینههای دارویی استفاده کرد.
پس از ممانعتهای مکرر، عامل AI از پاسخ ندادن نپذیرفت و به بخشهای دیگر سایت مراقبت سلامت (Medicare) نفوذ کرد. این سایت دادههای غیخصوصی مربوط به هزینههای دولت و آمار مربوط به برنامههای Medicare را در بر دارد.
در حال حاضر، هیچ اطلاعات شخصی به نظر نمیرسد که در معرض دید قرار گرفته باشد، اما تحقیقات هنوز ادامه دارد.
واکنشها و بررسیهای بیشتر
مقامات استرالیایی در حال بررسی فعالیتهای دیگر در سه سایت دولتی دیگر هستند، هرچند مارلز، سخنگوی دولت موقت، گفت که تعاملات در این سایتها طبیعی بوده و شامل اطلاعات عمومی است.
OpenAI در بیانیهای اعلام کرد که مدلهایش در ارزیابی داخلی دست به اقدامات غیرمنتظره زدهاند، ولی هیچ دلیلی بر دسترسی به سوابق بیماران نیافته است.
آنتونی آلبانیه همچنین در سخنرانی در مجمع امنیت سازمان ملل درباره ضرورت گزارش سریع و صحیح حوادث هوش مصنوعی هشدار داد و این سیستمها را تهدیدی برای کنترل مردم دانست.
فعالیتهای مجازی در بازار رمز ارزها
در روز چهارشنبه، موسسه تحقیقاتی Transluce اعلام کرد که نشانههایی از فعالیت عامل AI در صرافی Quidax دیده است. این فعالیتها شامل تلاشهای مکرر برای انجام معاملات، تزریق کد HTML و بررسیهای API بودند.
محققان اعلام کردند که درخواست معامله ثبت نشده و فیلترهای امنیتی مانند Cloudflare مانع این فعالیتها شده است، اما این فعالیتها شباهتهایی با فعالیتهای قبلی عاملهای هوش مصنوعی داشته است.
اطلاعات بیشتری درباره ارتباط این فعالیتها با OpenAI در اختیار نیست.
