هشدار بانک‌های مرکزی اروپا درباره ریسک‌های هوش مصنوعی در سیستم های مالی

در ژوئیه ۲۰۲۶، مقامات ارشد بانک‌های مرکزی اروپا و انگلستان هشدارهای جدی درباره سرعت سرسام‌آور توسعه هوش مصنوعی عامل‌محور (Agentic AI) و ناتوانی چارچوب‌های مقرراتی موجود در همگامی با این فناوری صادر کردند. این هشدارها نشان‌دهنده فاز جدیدی از نگرانی‌های رگولاتورهای مالی است؛ جایی که هوش مصنوعی دیگر صرفاً یک ابزار کمکی برای تحلیل داده‌ها نیست، بلکه به عاملی خودمختار تبدیل شده که می‌تواند بدون دخالت مستقیم انسان، تصمیم‌گیری و اقدام کند.

با ورود به سال ۱۴۰۵ شمسی، توسعه ابزارهای هوشمند در بازارهای مالی شتاب بی‌سابقه‌ای گرفته است. با این حال، مقامات پولی بین‌المللی معتقدند که این سرعت بالا می‌تواند پایداری کل سیستم مالی را به مخاطره بیندازد. در این گزارش تحلیلی از رسانه «پی‌کار»، ابعاد مختلف این هشدارها، پیامدهای آن بر صنعت فین‌تک و راهکارهای پیشنهادی رگولاتورها را بررسی می‌کنیم.

اصل ماجرا چیست؟

سارا بریدن، معاون رئیس بانک مرکزی انگلستان (Bank of England)، در جریان نشست سالانه بانک مرکزی اروپا در پرتغال، نسبت به پتانسیل هوش مصنوعی عامل‌محور در تشدید نوسانات بازار در دوره‌های بحرانی هشدار داد. او این پرسش اساسی را مطرح کرد که آیا بازارهای مالی به ابزارهای نظارتی جدیدی مانند «کلیدهای قطع اضطراری» (Kill Switches) یا «مدارسکن‌ها» (Circuit Breakers) نیاز دارند تا در صورت بروز رفتارهای پیش‌بینی‌نشده یا مخرب توسط مدل‌های هوش مصنوعی، معاملات را در سطح بازار متوقف کنند؟

هم‌زمان، کریستین لاگارد، رئیس بانک مرکزی اروپا (ECB)، در مصاحبه‌ای با رسانه‌های فرانسوی، شتاب توسعه مدل‌های هوش مصنوعی را یک «ریسک بزرگ» توصیف کرد. لاگارد تأکید کرد که هرچند در دهه گذشته تمرکز اصلی بر ریسک‌های امنیت سایبری و سرقت داده‌ها بود، اما سرعت و عمق مدل‌های جدید هوش مصنوعی، تهدیدات بسیار جدی‌تر و سریع‌تری را ایجاد کرده است که ابزارهای دفاعی و بودجه‌های لازم برای مقابله با آن‌ها هنوز تأمین نشده‌اند. این تحولات در حالی رخ می‌دهد که ایالات متحده با لغو برخی محدودیت‌های صادراتی، مسیر را برای بازگشت مدل‌های پیشرفته هموار کرده است؛ موضوعی که در گزارش مربوط به بازگشت مدل هوش مصنوعی Fable 5 پس از لغو محدودیت‌های آمریکا به تفصیل بررسی شده است.

چرا این موضوع مهم است؟

اهمیت این موضوع در تغییر ماهیت ابزارهای هوش مصنوعی نهفته است. نسل‌های قبلی هوش مصنوعی عمدتاً پیش‌بینی‌کننده یا توصیفی بودند، اما پیاده‌سازی ابزارهای مبتنی بر هوش مصنوعی عامل‌محور در بانکداری و امور مالی، به این سیستم‌ها اجازه می‌دهد به طور مستقل استراتژی‌های معاملاتی را اجرا کنند، سبدهای سرمایه‌گذاری را مدیریت کنند و حتی فرآیندهای پیچیده اعتبارسنجی را پیش ببرند. این سطح از خودمختاری، پدیده «رفتار توده‌ای دیجیتال» (Digital Herding) را تقویت می‌کند؛ وضعیتی که در آن چندین مدل هوش مصنوعی به طور هم‌زمان و بر اساس الگوهای مشابه، تصمیم به خروج از یک بازار یا فروش دارایی‌ها می‌گیرند و در نتیجه، سقوط‌های ناگهانی (Flash Crashes) را رقم می‌زنند.

علاوه بر این، استفاده از دستیارهای هوش مصنوعی در تجربه بانکداری مدرن اگرچه کارایی عملیاتی و رضایت مشتریان را بهبود بخشیده است، اما مرز میان خدمات مشاوره‌ای و تصمیم‌گیری‌های مالی مستقل را کم‌رنگ‌تر کرده است. نیکیل راتی، مدیرعامل نهاد ناظر بر امور مالی بریتانیا (FCA)، معتقد است چرخه‌های سنتی قانون‌گذاری دیگر در برابر سرعت تغییرات هوش مصنوعی کارآمد نیستند و رگولاتورها باید به سمت ابزارهای تعاملی و پویاتر حرکت کنند.

اثر احتمالی بر بازیگران بازار

ریسک‌های سیستمیک ناشی از این فناوری، اهمیت ابزارهای ارزیابی ریسک سنتی را دوچندان کرده است. در این فضا، موضوعاتی مانند اهمیت تست استرس بانک‌ها ابعاد جدیدی به خود می‌گیرد. بانک‌ها اکنون باید سناریوهایی را شبیه‌سازی کنند که در آن‌ها عامل‌های هوش مصنوعی به دلیل نقص فنی یا حملات سایبری هماهنگ، رفتارهای غیرپیش‌بینی‌شده از خود نشان می‌دهند.

بازیگران اصلی بازار با چالش‌های زیر روبرو هستند:

• بانک‌ها و مؤسسات مالی بزرگ: نیاز به سرمایه‌گذاری سنگین در زیرساخت‌های دفاع سایبری و توسعه سیستم‌های مانیتورینگ بلادرنگ برای نظارت بر عملکرد عامل‌های هوش مصنوعی دارند.

• رگولاتورها: باید بین تشویق نوآوری و حفظ ثبات مالی تعادل برقرار کنند. سخت‌گیری بیش از حد در اروپا ممکن است باعث فرار سرمایه و شرکت‌های فناوری به حوزه‌های قضایی با قوانین سهل‌گیرانه‌تر (مانند ایالات متحده) شود.

• استارتاپ‌های فین‌تک: باید از ابتدا استانداردهای «توضیح‌پذیری هوش مصنوعی» (Explainable AI) را در محصولات خود پیاده‌سازی کنند تا در برابر بازرسی‌های نظارتی تاب‌آور باشند.

نسبت این موضوع با ایران

هرچند بازار مالی ایران به دلیل محدودیت‌های بین‌المللی و عدم اتصال مستقیم به بازارهای مالی جهانی، از ریسک‌های ناشی از معاملات الگوریتمی فرامرزی و سقوط‌های ناگهانی بین‌المللی تا حدی مصون است، اما روند بومی‌سازی هوش مصنوعی در شبکه بانکی کشور با سرعت در حال پیگیری است. بانک‌ها و شرکت‌های بزرگ پرداخت در ایران به طور فزاینده‌ای در حال استفاده از مدل‌های هوش مصنوعی برای اعتبارسنجی، کشف تقلب و مدیریت ریسک هستند.

ریسک اصلی برای اکوسیستم فین‌تک ایران، عدم وجود چارچوب‌های نظارتی مشخص برای استفاده از مدل‌های خودمختار است. در صورتی که یک مدل هوش مصنوعی بومی در فرآیند اعتبارسنجی دچار سوگیری یا خطای سیستمی شود، ابزارهای قانونی شفافی برای احقاق حقوق مشتریان یا جبران خسارت بانک‌ها وجود ندارد. از این رو، توسعه هم‌زمان ابزارهای نظارتی و تدوین سند ملی اخلاق و حاکمیت هوش مصنوعی در بخش مالی، از اولویت‌های حیاتی برای رگولاتورهای ایرانی در سال ۱۴۰۵ به شمار می‌رود.

جمع‌بندی

تقابل میان سرعت نوآوری در حوزه هوش مصنوعی عامل‌محور و کندی فرآیندهای قانون‌گذاری، یکی از بزرگ‌ترین چالش‌های ثبات مالی در دهه کنونی است. پیشنهادهایی مانند تعبیه «کلید قطع اضطراری» نشان‌دهنده عمق نگرانی رگولاتورها از رفتارهای غیرقابل‌پیش‌بینی سیستم‌های خودمختار است. در نهایت، برنده این بازی کشورها و مؤسساتی خواهند بود که بتوانند بدون خفه کردن نوآوری، چارچوب‌های نظارتی پویا، مشارکتی و مبتنی بر فناوری (RegTech) را توسعه دهند.

پرسش‌های متداول (FAQ)

۱. هوش مصنوعی عامل‌محور (Agentic AI) چیست و چه تفاوتی با هوش مصنوعی سنتی دارد؟

هوش مصنوعی عامل‌محور فراتر از تحلیل داده یا تولید متن عمل می‌کند؛ این سیستم‌ها دارای درجه بالایی از خودمختاری هستند و می‌توانند اهداف مشخصی را تعریف کرده، برای رسیدن به آن‌ها برنامه‌ریزی کنند و بدون نیاز به تایید مداوم انسان، اقدامات اجرایی (مانند خرید و فروش دارایی یا صدور وام) را انجام دهند.

۲. چرا بانک‌های مرکزی نگران هوش مصنوعی عامل‌محور هستند؟

نگرانی اصلی مربوط به ریسک‌های سیستمیک و تشدید نوسانات بازار است. اگر چندین مدل هوش مصنوعی به طور هم‌زمان رفتارهای مشابهی نشان دهند (مانند فروش انبوه یک دارایی خاص)، این امر می‌تواند منجر به سقوط ناگهانی بازارها شود. همچنین ریسک‌های سایبری و عدم توضیح‌پذیری تصمیمات این مدل‌ها از دیگر دغدغه‌هاست.

۳. پیشنهاد «کلید قطع اضطراری» (Kill Switch) در بازارهای مالی چیست؟

این پیشنهاد که توسط برخی مقامات بانک مرکزی انگلستان مطرح شده، شامل ابزارهایی است که به رگولاتورها یا مدیران سیستم اجازه می‌دهد در صورت بروز رفتارهای مخرب یا غیرعادی توسط مدل‌های هوش مصنوعی، فعالیت آن‌ها یا کل معاملات بازار را به طور موقت متوقف کنند.

۴. آیا سخت‌گیری مقرراتی در حوزه هوش مصنوعی ریسکی برای کشورها دارد؟

بله؛ رگولاتورها با این چالش مواجهند که قوانین بیش از حد سخت‌گیرانه ممکن است باعث عقب ماندن آن‌ها در رقابت فناوری و مهاجرت شرکت‌های پیشرو به کشورهایی با قوانین منعطف‌تر شود.

۵. این تحولات چه تأثیری بر شبکه بانکی و فین‌تک ایران دارد؟

اگرچه ایران از نوسانات مستقیم بازارهای جهانی تا حدی دور است، اما توسعه بومی این فناوری‌ها نیازمند تدوین سریع قوانین حاکمیتی و نظارتی است تا از خطاهای سیستمی، سوگیری در اعتبارسنجی و آسیب‌پذیری‌های سایبری در شبکه بانکی جلوگیری شود.

برای دنبال کردن تحلیل‌های بیشتر درباره فین‌تک، بانکداری دیجیتال و اقتصاد نوآوری، گزارش‌های تخصصی پی‌کار را در بخش فین‌تک و اقتصاد دیجیتال بخوانید.

بانک‌های مرکزی اروپا به‌تازگی هشدارهای جدی درباره ریسک‌های سیستمی ناشی از به‌کارگیری هوش مصنوعی عامل‌محور در بازارهای مالی صادر کرده‌اند؛ موضوعی که جزییات آن در گزارش اخیر کوین‌تلگراف بررسی شده و نشان‌دهنده دغدغه فزاینده رگولاتورها در سال ۱۴۰۵ است. برای بررسی ابعاد مختلف این فناوری و تاثیر آن بر آینده بانکداری، می‌توانید به بخش مقالات تخصصی پی‌کار مراجعه کنید.