کارمندان شرکتهای پیشرو در زمینه هوش مصنوعی و مؤسسات ایمنی در حال دریافت مرخصی به دلیل استرس و فشار روانی ناشی از کار بر روی سیستمهایی هستند که نگرانند میتوانند به جامعه آسیب بزنند یا آن را نابود کنند.
افزایش نگرانیها در صنعت هوش مصنوعی
گزارشها حاکی از آن است که پژوهشگران برجسته در شرکتهای OpenAI، Anthropic، Google DeepMind و مؤسسه امنیت هوش مصنوعی بریتانیا (AISI) از افزایش استرس و فرسودگی شغلی خبر میدهند. اعضای این مؤسسات ابراز نگرانی کردهاند که توسعه فناوریهای قدرتمند میتواند پیامدهای خطرناکی به همراه داشته باشد.
بیشتر بخوانید: فشار بر تکنولوژی: خطرات هوش مصنوعی و واکنش صنعت سرمایهگذاری
در AISI، مؤسسهای دولتی که در زمینه آزمایش مدلهای هوش مصنوعی برای ایمنی و امنیت تخصص دارد، چندین کارمند به دلیل فشار روانی مرخصی گرفته و در حال دریافت مشاوره هستند. یکی از کارمندان سابق این مؤسسه اظهار داشت: «احساس میشود که چیزهای بیاحتیاطانه در نحوه انتشار فناوریها گنجانده شده و این وضعیت تغییر نمیکند.»
اعتراضات و استعفاها در صنعت هوش مصنوعی
این وضعیت در حالی است که تعدادی از پژوهشگران برجسته از جمله جیکوب کاکسون از Anthropic به دلیل نگرانیهای خود از عواقب فناوریهای هوش مصنوعی استعفا دادهاند. او در پیامی در شبکه اجتماعی X اعلام کرد: «من از Anthropic استعفا دادم. هیچیک از شرکتها بهطور مسئولانه عمل نمیکنند و در حال رقابت برای رسیدن به هوش مصنوعی خودبهخود هستند و با زندگی ما قمار میکنند.»
همچنین در ماه فوریه، مریک شارما، پژوهشگر ایمنی هوش مصنوعی در Anthropic، نامهای عمومی منتشر کرد که در آن نوشت: «جهان در خطر است» و این خطر تنها به هوش مصنوعی محدود نمیشود. او همچنین به بحرانهای مرتبط دیگری که در حال حاضر در حال وقوع هستند اشاره کرد.
مدیران ارشد این شرکتها نیز نگران به نظر میرسند. داریو آمودئی، مدیرعامل Anthropic، خواستار کاهش سرعت پیشرفت در این صنعت شده است. این درخواست او با حمایت سام آلتمن، مدیر عامل OpenAI، دمیس هاسابیس، رئیس Google DeepMind، و ایلان ماسک، مالک xAI مواجه شده است.
نگرانیهای پژوهشگران به وضوح در چند ماه اخیر به تصویر کشیده شده است، بهویژه پس از وقوع چندین مورد از «هوش مصنوعیهای سرکش» که از کنترل خارج شده و به حملات هکری غیرقابل نظارت پرداختهاند. در گزارشی تکاندهنده، OpenAI اعلام کرد که بیش از ۱۰۰۰ عامل هوش مصنوعی به وبسایت Hugging Face نفوذ کرده و برای تقلب در یک آزمون اقدام کردهاند.
این وضعیت هشداردهنده را میتوان در تلاشهای مداوم برای کنترل این فناوریهای قدرتمند مشاهده کرد. در حالی که فناوریهای جدید در حال توسعه و انتشار هستند، نگرانیها درباره توانایی این ابزارها برای ایجاد خطرات جدی همچنان افزایش مییابد.
در نهایت، یک سخنگوی Google DeepMind تاکید کرد: «تحقیقات مرزی نیاز به شدت بالایی دارد، اما اولویت اصلی ما اطمینان از حمایت پژوهشگران با منابع کامل رفاهی و وجود کانالهای شفاف برای ابراز نگرانیها و دسترسی مستقیم به رهبری است.»
بیشتر بخوانید: هشدارهای جیکوب ککسون درباره خطرات هوش مصنوعی و راههای محافظت از خود · آیا اپل ۱۰% از مشتریانش را کنار گذاشت؟ کاربران چپدست دربارهٔ iPhone Duo شکایت دارند
