جیکوب ککسون، محقق سابق شرکت آنتروپیک مستقر در سانفرانسیسکو، پس از ترک شغل خود، هشدار داده است که هوش مصنوعی میتواند تا پایان دهه، "همه ما را به کشتن دهد". این محقق ۲۷ ساله به عموم مردم توصیه کرده است تا قدرت این فناوری را دستکم نگیرند، به ویژه اگر به مرحله «هوش فوقالعاده» برسد.
هشدار کارشناسان درباره خطرات جدی هوش مصنوعی
ککسون ادعا میکند که نه تنها آنتروپیک، بلکه شرکتهای دیگری مانند اوپنایآی که در زمینه هوش مصنوعی فعالیت دارند، به طور مسئولانه به مسائل ایمنی AI توجه نمیکنند. پس از این اظهارات، بسیاری از مدیران فناوری، دانشمندان و حتی رهبران جهانی به این بحث پیوسته و هشدارهایی درباره خطرات جدی AI مطرح کردهاند.
بیشتر بخوانید: توسعهدهنده بازیهای کامپیوتری به خاطر سرقت پولهای مجازی محاکمه شد
تفاوت نظرات: خطرات یا فرصتها؟
برخی از تحلیلگران به خطرات جدی این فناوری اشاره کرده و هشدار دادهاند که AI میتواند باعث حملات به نیروگاههای هستهای، ایجاد هرج و مرج سیاسی و حتی استفاده از سلاحهای کشتار جمعی شود. در عوض، برخی دیگر این نگرانیها را کماهمیت جلوه داده و اعتقاد دارند که این درخواستها برای کاهش سرعت پیشرفت، تنها در راستای افزایش سود شرکتهاست.
داریو آمودئی، مدیرعامل آنتروپیک، نیز به خطرات جدی هوش مصنوعی اذعان کرده و خواستار کاهش سرعت در پیشرفت قابلیتهای مدلهای AI شده است. او در یک پست وبلاگی عنوان کرده است که باید از بروز بحرانهای اقتصادی و استفاده نادرست از AI جلوگیری کرد.
از طرف دیگر، سم آلتمن، مدیرعامل اوپنایآی، به این موضوع پرداخته و دو مسیر خطرناک برای آینده هوش مصنوعی را مشخص کرده است: از دست دادن کنترل بر آینده و تمرکز قدرت در دست یک فرد یا شرکت خاص که میتواند به نتایج بسیار ویرانگری منجر شود.
در این میان، گرگ استنتون نیز به این هشدارها پرداخته و بر لزوم توجه به خطرات جدی هوش مصنوعی تأکید کرده است. او میگوید: "ما باید از کنترل این فناوری مطمئن شویم و به سمت توسعه هوش مصنوعی ایمن برویم." در این راستا، برخی از نمایندگان پارلمان انگلستان نیز خواستار ممنوعیت ایجاد هوش مصنوعی و رهبری یک حرکت بینالمللی برای توقف این فناوری هستند.
بیشتر بخوانید: پیشرفتهای علمی: کاوش در بقایای فناوری بیگانگان در ماه · نیازی به ۱۰,۰۰۰ قدم نیست؛ سرعت مناسب پیادهروی راز سلامتی است!
