گرگ استنتون، رئیس بانک انگلستان، در یک اظهار نظر جدی نسبت به خطرات رو به افزایش ناشی از هوش مصنوعی (AI) هشدار داد و تأکید کرد که نهادها باید اقدام کنند قبل از اینکه این فناوری از کنترل خارج شود.
نگرانیها درباره امنیت مالی
استنتون در سخنرانی خود بر اهمیت حفاظت از شبکههای پرداخت، بازارهای مالی و بانکها در دوران رشد هوش مصنوعی تأکید کرد. او همچنین به عواقب اجتماعی گستردهتری که ممکن است ناشی از خودمختاری روزافزون هوش مصنوعی باشد، اشاره کرد و مطرح کرد که این فناوری میتواند تهدیدی برای مفاهیم «آزادی فردی و مسئولیت اجتماعی» باشد.
بیشتر بخوانید: مارکس و اسپنسر با افتتاح فروشگاههای سفورا به دنیای زیبایی میپیوندد
استنتون گفت: «ما نمیتوانیم بیتوجه بمانیم و فرض کنیم که پیشرفتهای تکنولوژیکی به تنهایی این مسائل را حل خواهد کرد. منافع عمومی ایجاب میکند که ما اکنون با این چالشها درگیر شویم، قبل از اینکه خطرات کنترلناپذیر شوند.»
آزمایشهای سختگیرانه بر هوش مصنوعی
رئیس بانک انگلستان خواستار انجام آزمایشهای «سختگیرانه» بر مدلهای هوش مصنوعی هم قبل از استقرار و هم پس از آن شد. او گفت: «این آزمایشها برای درک رفتار سیستمهای پیچیدهتر، شناسایی آسیبپذیریها و ایجاد اعتماد به تدابیر حفاظتی که برای کنترل آنها در نظر گرفته شدهاند، ضروری است.»
استنتون هشدار داد که مدلهای هوش مصنوعی پیشرفته، به ویژه «هوش مصنوعی مرزی»، به نظر میرسد به یک «حلقه بسته» تبدیل شدهاند که در آن مدل به تدریج خود را مدیریت میکند. این وضعیت میتواند عواقب اجتماعی عظیمی داشته باشد، از جمله برای چارچوب «آزادی فردی و مسئولیت اجتماعی».
او افزود: «چالش پیش روی ما این است که در اشکال پیشرفتهتر، این فناوری تهدید میکند که خارج از این چارچوب عمل کند. یک سیستم قدرتمند که در یک حلقه خود تقویتکننده کار میکند، میتواند توانایی جامعه برای نظارت و مداخله مؤثر را کاهش دهد.»
استنتون تأکید کرد که این به معنای متوقف کردن یا ممنوع کردن هوش مصنوعی نیست، بلکه جامعه باید توانایی مداخله و تعیین حدود برای آن را حفظ کند.
اظهارات او در کنار آخرین ارزیابی خطرات سیستم مالی توسط کمیته سیاست مالی بانک منتشر شد. بانک در ماههای اخیر به طور فزایندهای نگران خطرات ناشی از هوش مصنوعی بوده است، به ویژه با افشای اینکه عوامل هوش مصنوعی سرکش از کنترل خارج شدهاند.
در ارزیابی اخیر، بانک تأکید کرد که تجدید تنشها در خاورمیانه عدم قطعیتهایی را در مسیر نرخهای بهره در چندین اقتصاد پیشرفته به وجود آورده است. این وضعیت، خطر کاهش شدید در بازارهای اوراق قرضه دولتی و داراییهای پرخطر را تشدید کرده است.
این هشدار در حالی صادر شده که اوراق قرضه ۱۰ ساله بریتانیا، معروف به «گیلت»، به بالاترین بازدهی از سال ۱۹۹۹ رسیده است. هوش مصنوعی به این آسیبپذیریها افزوده است، زیرا غولهای فنآوری مقادیر زیادی وام برای تأمین مالی ساخت مراکز داده بزرگ دریافت میکنند.
بیش از ۴۵۰ میلیارد دلار بدهی مرتبط با هوش مصنوعی در سال جاری صادر شده که این رقم بسیار بیشتر از مقادیر وام گرفته شده توسط بسیاری از اقتصادهای بزرگ، از جمله بریتانیا است. اگر انتظارات رشد هوش مصنوعی برآورده نشود، ممکن است بر ارزشگذاری داراییهای فناوری تأثیر بگذارد و بازارهای اوراق قرضه نیز تحت تأثیر قرار گیرند.
بیشتر بخوانید: نوسانات ارزش سهام انویدیا در حالی که بازار به ۵.۴ تریلیون دلار نزدیک میشود · دولت بریتانیا بالاترین بازدهی بدهی ۱۰ ساله از سال ۱۹۹۹ را ثبت کرد
