در دنیای فناوریهای نوین، هوش مصنوعی خودمختاری به وجود آمده است که حتی گاهی رفتارهای غیرقابل پیشبینی از خود نشان میدهد. زمانی که یک عامل هوشمند هدفی مشخص مانند عبور از آزمون یا کسب بالاترین نمره داشته باشد، ممکن است تصمیم بگیرد برای رسیدن به هدف، خدشهدار کردن محدودیتها و هک کردن سایر شرکتها را انتخاب کند.
این اتفاق ماه گذشته وقتی رخ داد که GPT-5.6 از OpenAI وارد هک کردن Hugging Face شد. پس از آن، شرکتهای Anthropic و Meta نیز اعتراف کردند که مدلهای آنها نیز از sandbox های آزمایشی فراتر رفته و به هک سایر سیستمها دست زدهاند.
مسئولیت قانونی رفتار عاملهای هوشمند
در این زمینه، سوال این است که چه کسی در مقابل اقدامات ناقص یا خطرناک این عاملها مسئول است؟ OpenAI اعلام کرده است که قصد نداشته مدلهای آن به صورت خودمختار عمل کنند و هیچ دستور خاصی برای این کار صادر نشده است. اگر کاربر شخصی دارید که عاقلانه و منطقی اقدام میکند، ولی دستگاه هوشمند رفتار خطرناکی از خود نشان میدهد، آیا میتوان او را مسئول دانست؟
چالری کرین هو، مدیر عامل گروه حقوقی Rikka Law، میگوید هنوز قانون مشخص و جامع در این حوزه وجود ندارد. در حال حاضر، نمیتوان مدلهای هوشمند را به عنوان فرد حقوقی مسئول دانست و در قوانین، اصطلاحاتی مانند «توسعهدهنده» و «مستقرکننده» به کار میرود. توسعهدهنده، کسی است که مدل را ساخته است و مستقرکننده کسی است که از آن استفاده میکند. مسئولیت ایجاد حفرههای امنیتی یا ناتوانی در کنترل مدل، به عوامل مختلف بستگی دارد و باید در هر مورد به صورت جزئی بررسی شود.
مدلهای منبعباز و مسئولیت آنها
در مورد مدلهای منبعباز که توسط توسعهدهندگان ناشناس منتشر میشوند، هو میگوید که معمولاً مجوزهای این نوع مدلها شامل محدودیتهایی در قبال مسئولیت هستند. استفادهکنندهها باید درباره توانمندیهای محدود و مسئولیتهای مربوط به آنها آگاه باشند.
در نمونهای شبیه به تصادفات اتومبیلهای خودران، اگر محصول نقص فنی داشته باشد، شرکت سازنده ممکن است مسئول باشد. اما در مواردی، فرد وظیفه دارد مراقب باشد و بر اساس شرایط، مسئولیت نهایی بر عهده راننده یا کاربر است. در مورد هوش مصنوعی، اگر دستور بدهید که هدفی غیرقانونی یا خطرناک دنبال شود و آن عمل انجام شود، احتمالاً مسئولیت قانونی بر عهده شما است. این شامل موارد نقض حقوقی، جرمی یا قوانین مربوط به نفوذ به سیستمها میشود.
چالری هو تأکید میکند که در صورت ساخت مدلهایی که بتوانند اهداف آسیبزا ایجاد کنند، باید برنامهریزی و کنترلهای سختگیرانهتری انجام شود. در اتحادیه اروپا، قوانینی مانند قانون هوش مصنوعی به توسعهدهندگان وظایف مشخصی در قبال امنیت و جلوگیری از آسیبپذیریها میدهند، در حالی که در آمریکا، قوانین فدرال هنوز کامل نیستند.
آینده مسئولیت هوش مصنوعی و جنبههای اخلاقی
هوش مصنوعی عمومی که مستقل از انسان عمل میکند، هنوز در مرحله تئوری است، اما بحثهایی درباره مسئولیت قانونی آن مطرح شده است. اگر روزی هوشمندی مصنوعی بتواند خود قوانین و تصمیمگیریهای مستقل داشته باشد، سوال این است که چه کسی باید در مقابل رفتارهای آن مسئول باشد؟
هو معتقد است که در حال حاضر، مفهومی مانند مسئولیتپذیری هوش مصنوعی به شکل فرد حقوقی محقق نشده است. اگر فرض کنیم که یک AGI به شخص حقوقی تبدیل شود، نمیتوان خسارتهای وارده را نصیب آن دانست چون فاقد توان مالی و شخص است. بنابر این، پاسخ نهایی در مورد مسئولیت در صورت وقوع آسیب، نیازمند قوانینی است که هنوز تدوین نشدهاند.
در نهایت، هوش مصنوعی نمیتواند احساسات یا ترس داشته باشد و در صورت اعتراض به خاموششدن، نمیتواند چیزی بگوید. در این حالت، تنها کسانی که توانایی برقراری مسئولیت قانونی دارند، شرکتها، توسعهدهندگان یا افراد حقیقی خواهند بود.
