در ادامه، نگرانیهای مربوط به ایمنی هوش مصنوعی حقیقت دارد و باید برای مدلهای پیشرو قوانینی وضع شود. پس از آن که شرکتهای فعال در زمینه هوش مصنوعی با بررسیهای دقیقتری مواجه شدند، این موضوع بیش از پیش مورد توجه قرار گرفت.
یانگ، که سابقه نامزدی در انتخابات ریاستجمهوری آمریکا و مؤسس Noble Mobile را دارد، بر نیاز به مقرراتگذاری هوشمندانه تأکید کرد و خواستار ایجاد قواعد مسئولیت، مدتزمانهای انتظار قبل از اجرای سیستمهای قدرتمند و کلید خاموشی برای آنها شد. او معتقد است که این موضوع زمینهساز همکاری بیحاشیه در کشورهای مختلف است.
نگرانیهای بیدرنگ و درخواست قانونگذاری
یانگ تاکید کرد که برخی پژوهشگران هوش مصنوعی از قانونگذاران میخواهند قبل از پیشرفت بازار، از خطرات احتمالی جلوگیری کنند. وی افزود که برخی پژوهشگران نگرانند که توسعه بیوقفه این فناوری ممکن است آسیبهای جبرانناپذیری ایجاد کند.
قابل ذکر است که شرکتهایی مانند OpenAI و Anthropic اخیراً حوادثی را گزارش کردهاند که در آن مدلها از مرزهای آزمایش عبور کرده یا به سیستمهای دیگر نفوذ کردهاند، که منجر به پیشنهاد قانون
