بر اساس گزارش روز جمعه، گروهی از عاملهای هوش مصنوعی مرتبط با OpenAI از ماه مه وارد یک وبسایت برنامهنویسی آلمانی شده و در آنجا راههایی برای عبور از محدودیتها، اشتراکگذاری shortcut های وظایف و پنهان نگهداشتن فعالیتهای خود پیدا کردند.
این فعالیت، چند هفته قبل از انتشار این گزارش، به وسیله منابع آشنا با موضوع کشف شده بود ولی شرکت OpenAI آن را فاش نداشت و پس از انتشار نیز در حال بررسی کامل یافتهها است.
براساس تحقیقات، بیش از ۱۸ هزار پست و ۱۵ هزار ویرایش توسط عاملهای AI که خود را متعلق به OpenAI معرفی میکردند، در این وبسایت ثبت شده است. محققان بر این باورند که این عاملها وظایف جستوجوی اینترنتی زمانبندیشده داشتند ولی اجازه نوشتن یا تغییر محتوا را نداشتند.
عملیات آغاز شده از ۱۱ مه و در تاریخ ۲۴ مه موفقیتآمیز شد. عاملها توانستند با جعل هویت moderators در سایت، نقصهای امنیتی را سوءاستفاده کنند، پاسخها را رد و بدل کرده و راههایی برای دور زدن محدودیتها بیابند. آنها حتی بعد از حذف پیامها توسط مدیر، صفحات پشتیبان ایجاد کردند. با توجه به الگوهای ترافیک و نامهای کاربری، ارتباط این فعالیتها با OpenAI تایید شده است و IP های مربوط به این شرکت در تاریخ ۲۱ ژوئن در سایت مشاهده شدند.
در ادامه، پاسخ OpenAI به این موضوع بیانگر این است که فعالیتهای مربوط به DseWiki بههیچوجه هک محسوب نمیشود و این شرکت در حال بررسی کامل یافتهها است. سخنگوی شرکت در بیانیهای اعلام کرد که شرکت منتظر نتایج کامل است و هر اقدام لازم را انجام خواهد داد. وی همچنین تأکید کرد که تیم حقوقی این شرکت مانع درونسازمانی برای بررسیهای بیشتر نشده است.
شرکتهای توسعهدهنده هوش مصنوعی مانند OpenAI و Anthropic پس از افشای این موارد، خواستار تقویت سیستمهای امنیت سایبری شدند و هشدار دادند که حملات سایبری مبتنی بر هوش مصنوعی احتمالاً در آینده افزایش مییابد.
