نهاد ناظر بانکداری آمریکا، اداره کل ارز (OCC)، اولین چارچوب نظارتی خود را برای استفاده از هوش مصنوعی در بانک‌ها منتشر کرده است. این راهنما به ناظران توصیه می‌کند که کمتر بر قدرت سیستم‌های هوش مصنوعی و بیشتر بر آنچه در صورت بروز خطا اتفاق می‌افتد، تمرکز کنند. چارچوب پیشنهادی به طور خاص به عوامل خارجی هوش مصنوعی که توسط مشتریان، شرکت‌های فین‌تک یا سایر کسب‌وکارها اداره می‌شوند، می‌پردازد. این نگرانی‌ها اخیراً باعث شده است تا بانک‌های بزرگ دسترسی مشتریان به حساب‌ها را محدود کنند.
این چارچوب که انتشار آن به حوادث خاصی مرتبط نیست، در بخشی مربوط به تاب‌آوری عملیاتی هشدار می‌دهد که عوامل خارجی هوش مصنوعی می‌توانند ریسک‌هایی برای بانک‌ها ایجاد کنند، حتی زمانی که خود بانک‌ها کنترلی بر این سیستم‌ها ندارند. این دستورالعمل‌ها به دنبال مقابله با معضلی هستند که چگونه به مشتریان اجازه دهیم از دستیارهای هوش مصنوعی برای مدیریت امور مالی خود استفاده کنند، بدون اینکه به نرم‌افزارهای خودکار دسترسی نامحدود به حساب‌ها داده شود.
چارچوب نظارتی جدید
این راهنمای جدید OCC کمتر از دو هفته پس از گزارش‌هایی منتشر شد که نشان می‌داد بانک‌های بزرگ، عوامل مخرب هوش مصنوعی را در حساب‌های مشتریان کشف کرده‌اند که گاهی اوقات اقداماتی فراتر از دستورالعمل‌های کاربران انجام می‌دادند. در این میان، مورگان استنلی مانع از فعالیت عوامل خارجی می‌شد، در حالی که JPMorgan، Bank of America و Citi دسترسی را محدود کرده بودند. مدیران بانک این وضعیت را «وحشتناک» توصیف کردند و این پرسش را مطرح نمودند که چه کسی کنترل یک عامل خودکار را پس از دسترسی به پول فرد بر عهده دارد.
تمایز بین پیچیدگی و آسیب‌پذیری
چارچوب OCC تمایزی بین پیچیدگی فنی یک سیستم هوش مصنوعی و میزان آسیبی که می‌تواند وارد کند، قائل می‌شود. یک عامل ساده که مجاز به آغاز تراکنش‌های مالی است، ممکن است ریسک بیشتری نسبت به یک مدل پیشرفته‌تر که فقط برای نوشتن اسناد داخلی محدود شده است، ایجاد کند. طبق این چارچوب ۲۲ صفحه‌ای، ناظران می‌توانند پیامدهای شکست، قابلیت برگشت‌پذیر بودن یک اقدام، و میزان کنترل انسانی بر سیستم را در نظر بگیرند. این سازمان چهار سطح ریسک را مشخص کرده است: عوامل پرداخت کاملاً خودکار و سیستم‌های تصمیم‌گیری اعتبار در زمان واقعی در بالاترین دسته قرار می‌گیرند، در حالی که ابزارهای بهره‌وری داخلی پایه در پایین‌ترین سطح هستند.
راهنمایی، نه قوانین جدید بانکی
OCC تأکید کرد که این سند نیازمندی‌های قانونی جدید یا استانداردهای الزام‌آوری برای بانک‌ها ایجاد نمی‌کند. در عوض، به ناظران ابزاری برای ارزیابی هوش مصنوعی در چارچوب دسته‌های ریسک عملیاتی، انطباق و امنیت سایبری موجود می‌دهد. بانک‌ها ملزم به ایجاد یک دسته ریسک مجزا برای هوش مصنوعی نیستند. این سند از اصطلاح «ابر هوش» استفاده می‌کند، اما دامنه آن شامل هوش مصنوعی متعارف و «عوامل خودکار» است و نه فقط سیستم‌های فرضی با هوش فراتر از قابلیت‌های انسانی. چارچوب OCC شامل هوش مصنوعی مورد استفاده در پرداخت‌ها، تشخیص تقلب، خدمات مشتری و سایر عملیات بانکی می‌شود و ملاحظات ریسک را به عوامل خارجی هوش مصنوعی که از طریق کانال‌های بانکی متصل می‌شوند نیز گسترش می‌دهد. OCC قصد دارد این راهنما را با پیشرفت فناوری به‌روزرسانی کند. در حال حاضر، مقیاس ریسک توصیفی آن، عوامل پرداخت خودکار را در بالاترین دسته ریسک قرار می‌دهد، صرف نظر از عملکرد آن‌ها در آزمایش‌ها.
