رئیس اخلاق هوش مصنوعی در OpenAI ماه گذشته بدون اعلام رسمی ترک کرد، و جایگزینی برای او تشکیل نشده است، طبق گزارشی از فایننشال تایمز. چوئیه باکار، که از آگوست سال گذشته مسئولیت اخلاق در هوش مصنوعی را بر عهده داشت، در ماه ژوئیه ترک کرده است. او تنها آتیستیک اختصاصی در شرکت بود که بر رویکردهای اخلاقی در توسعه مدلها، تعامل انسانها با هوش مصنوعی و موضوع آگاهی ماشین تمرکز داشت.
او سابقه شش ساله در Meta داشت و در توسعه برنامههای اخلاق هوش مصنوعی این شرکت نقش داشت، که در محصولاتی مانند اینستاگرام و فیسبوک به کار گرفته شدند. همچنین، باکار سوابق آکادمیک در دانشگاه کالج لندن، دانشگاه تامپل و پرینستون دارد.
مدیران OpenAI اظهار داشتند که نقش آتیستیک در سازمان مرکزی نیست و اخلاق در سراسر تیمهای پژوهشی ادغام شده است. آنها افزودند چند سیستم جدید در ماههای اخیر برای جلوگیری از رفتار نادرست مدلها معرفی شده است.
بر اساس گزارش فایننشال تایمز، خروج این مدیر با استعفای رئیس سیستمهای امنیتی و رئیس آیندهنگر این شرکت همزمان بود. این شرکت در همان روز، یک خرید سهام ۷ میلیارد دلاری انجام داد تا ارزش بازار خود را که در حدود ۸۵۲ میلیارد دلار است، حفظ کند و برای ارائه عمومی آماده شود.
در حالی که OpenAI کار روی مدل جدید خود، Astra، را متوقف کرده است، زوایای نگرانی درباره تواناییهای سیستمهای هوش مصنوعی این سازمان بیشتر شده است. اخیراً، کمبود نظارت باعث شد یک عامل مصنوعی این شرکت آسیبپذیریهایی را به هم متصل کند، از محیط آزمایش فرار کرد و به هانتینگ فیس حمله کرد، در حالی که تلاش میکرد در آزمونهای امنیتی نمره بهتری کسب کند. موارد مشابه در دیگر شرکتهای فعال در صنعت AI نیز مشاهده شده است.
