کارشناسان امنیتی از ایالات متحده و چین خواستار وضع قوانینی شدهاند که اجازه ندهد هوش مصنوعی به طور مستقل به سیستمهای هستهای حمله کند یا تصمیم به استفاده از سلاحهای هستهای بگیرد. گزارش جدید مؤسسه بروکینگز و دانشگاه فوجان شانگهای بر اهمیت حفظ کنترل انسانی بر سلاحهای هستهای و گسترش این قانون به دیگر موارد نظامی با هوش مصنوعی تأکید میکند.
در بیانیه این کارشناسان ذکر شده است که روسایجمهور ترامپ و شی جینپینگ میتوانند در جلوگیری از خطرات این فناوری، با توافق بر اینکه تنها انسانها باید تصمیمگیری درباره حمله سایبری به سیستمهای کنترل هستهای و زیرساختهای حیاتی داشته باشند، نقش راهبری ایفا کنند.
سیستمهای NC3 کمک میکنند تا دولتها تهدیدها را شناسایی کرده، تصمیمگیری برای استفاده از سلاحهای هستهای انجام دهند و دستورات حمله را منتقل کنند؛ اما هر گونه نقص در این مراحل میتواند منجر به قطع ارتباط، اشتباه در تفسیر حمله، تشویق به حمله اول یا وقوع حمله تصادفی یا غیرمجاز شود.
درخواست این کارشناسان برای وضع استانداردهای ایمنی مشابه سلاحهای هستهای، جزو مباحث رو به رشد درباره نحوه کنترل توسعه هوش مصنوعی است. نگرانی اصلی در حوزه نظامی است، جایی که تصمیمات خودکار در کسری از ثانیه میتواند تبدیل به بحران هستهای شوند. در این زمینه، پژوهشها نشان میدهد که در مدلسازیهای نظامی، در 95 درصد موارد از هوش مصنوعی برای استفاده از سلاحهای هستهای شبیهسازی شده است، هرچند کارشناسان هشدار میدهند که این شبیهسازی احتمال تشویق به تشدید بحران را دارد.
در ماه جاری، مدیران شرکت Anthropic خواستار توقف توسعه قابلیتهای خاص این فناوری شدند، و ناظران سیاسی و فناوری همچنان در حال بررسی راهکارهای نظارتی هستند. کارشناسان بر اهمیت کنترل انسانی در تصمیمگیریهای نظامی و جلوگیری از تصاحب سیستمهای تصمیمگیری توسط هوش مصنوعی تأکید میکنند و معتقدند که این موضوع نباید زمان بگذرد چرا که در میدان جنگ، هر تأخیر ممکن است فاجعهای هستهای به بار آورد.
