شرکت انتروپیک، آکسنتور را به عنوان ارزیاب داخلی برای کمک به کاهش سرعت توسعه هوش مصنوعی انتخاب کرده است. این همکاری غیرانحصاری است و انتروپیک در هفتههای آتی اعلام میکند که با چه ارزیابان دیگری همکاری خواهد کرد.
انتروپیک اعلام کرد که آکسنتور اولین ارزیاب داخلی آن است تا در کاهش شتاب توسعه هوش مصنوعی، همانطور که هفته گذشته توسط داریو آمودی مدیرعامل آن پیشنهاد شد، کمک کند. آمودی در تاریخ ۱۲ سپتامبر، یک پیشنهاد سهمرحلهای برای کند کردن روند توسعه هوش مصنوعی ارائه داد و خواستار وضع تدابیر حفاظتی در مقابل خطرات فاجعهبار ناشی از توسعه سریع و بدون کنترل این فناوری شد.
مدیرعامل OpenAI، سم آلتمن، و مدیرعامل SpaceX، ایلان ماسک، به این پیشنهاد مثبت پاسخ دادند؛ در حالی که جین سینگ هوانگ، مدیر Nvidia، چنین اقدامی را ضروری ندانست و معتقد بود که قانونگذاری در این حوزه نیاز نیست.
آمودی در این پیشنهاد تأکید کرد که «هوش مصنوعی در حال حاضر بسیار سریعتر پیشرفت میکند، بهطور بنیادی توسط توانایی فزاینده آن در ساخت نسل بعدی هوش مصنوعی هدایت میشود. این پدیده به عنوان بهبود خودبازتابی» شناخته میشود و اگر کنترل نشود، میتواند از توانایی ما در درک و مدیریت این سیستمها پیشی بگیرد.
در گام نخست، آمودی خواستار ارزیابان مستقل با دسترسی مشابه کارمندان شد که انتروپیک قبلاً به صورت یکجانبه به آن تعهد داده بود. بر اساس اعلام، انتروپیک با همکاری آکسنتور و بخش هوش مصنوعی این شرکت، در حال ارزیابی و آزمایش مدلها، سنجش تطابق و آزمایش حفاظتهای مدل است.
جزئیات اجرایی این فرآیند هنوز در حال نهایی شدن است، زیرا ارزیابی داخلی روشی نوین است. هر دو طرف، انتروپیک و آکسنتور، قصد دارند در پنج سال آینده حداقل یک میلیارد دلار در این پروژه سرمایهگذاری کنند.
انتروپیک اعلام کرد که به دلیل نیاز فوری، هزینههای مربوط به ارزیابی مستقل مستقیم تأمین میشود، زیرا سیستم خاصی برای تأمین مالی این نوع ارزیابی وجود ندارد. اما در بلندمدت، تأمین مالی باید از منابع دولتی یا جمعی صورت گیرد.
این همکاری غیرانحصاری است و انتروپیک انتظار دارد به زودی ارزیابان دیگری نیز معرفی کند که با آنها همکاری خواهد داشت.
شرکت آکسنتور، بخش Faculty، تخصص در آزمایش و ارزیابی مدلهای هوش مصنوعی برای آزمایشگاههای برتر جهان و توسعه سیستمهای هوشمند ایمن و اخلاقمدار دارد. جولی سوییت، مدیرعامل و رئیس آکسنتور، گفت: «ارزیابی داخلی حوزه نوپایی است و ما مشتاق همکاری با انتروپیک برای تسریع توسعه ارزیابان داخلی، که به نظرم بخش مهمی از چشمانداز ایمنی در آینده است، هستیم.»
