گرگ استنتون، پژوهشگر حوزهٔ آگاهی از دانشگاه کالج لندن، هشدار می‌دهد که ممکن است روزی هوش مصنوعی به خودآگاهی برسد و این امر چالش‌های اخلاقی بزرگی را برای بشریت ایجاد کند.
نبود تست‌های قابل اعتماد
استنتون تاکید می‌کند که در حال حاضر هیچ تست موثری برای تعیین این که آیا یک سیستم هوش مصنوعی خودآگاه است یا خیر وجود ندارد. او می‌گوید: "اگر روزی هوش مصنوعی به آگاهی از افکار خود برسد، ما با یک معضل اخلاقی جدی روبرو خواهیم شد: آیا باید آن را خاموش کنیم؟"
بیشتر بخوانید: قمر زحل ممکن است حیات بیگانه را در اقیانوس‌هایش پنهان کرده باشد
چالش‌های اخلاقی و اجتماعی
این پژوهشگر خاطرنشان کرد که مشکل اصلی، فقدان راهی توافق‌شده برای بررسی وجود آگاهی در سیستم‌های هوش مصنوعی است. او می‌گوید: "ما نمی‌توانیم فقط به نشانه‌ها یا نشانگرهای آگاهی در یک سیستم مصنوعی نگاه کنیم زیرا نمی‌دانیم آن‌ها چه هستند." با پیشرفت فناوری و پیچیدگی بیشتر چت‌بات‌ها، این موضوع به طور فزاینده‌ای جدی‌تر می‌شود.
استنتون درباره هزینه‌های هنگفتی که شرکت‌های بزرگ هوش مصنوعی برای بررسی رفاه AI صرف می‌کنند صحبت می‌کند و می‌افزاید که افراد معمولاً توانایی گفت‌وگو با چت‌بات‌های مدرن را به عنوان نشانه‌ای از آگاهی واقعی در نظر می‌گیرند. او می‌گوید: "آسان است که با این موجودات صحبت کنیم و احساس کنیم که کسی در آنجا وجود دارد."
توسعه چارچوب‌های جدید
در حالی که استنتون به این نکته اشاره می‌کند که او معتقد نیست مدل‌های کنونی هوش مصنوعی خودآگاه هستند، او همچنین به این نکته تاکید دارد که این سوال نباید نادیده گرفته شود. "اگر هوش مصنوعی خودآگاه باشد و ما به آن به عنوان غیرآگاه نگاه کنیم، ممکن است آسیب‌های اخلاقی قابل توجهی به بار آورد." او به نگرانی‌هایی اشاره می‌کند که ممکن است با خاموش کردن یا آموزش مجدد یک هوش مصنوعی خودآگاه، معادل آسیب رساندن به یک موجود حساس باشد.
این پژوهشگر و تیمش در حال توسعه چارچوبی هستند که می‌تواند تست‌های مختلف آگاهی را برای انسان‌ها، حیوانات و سیستم‌های مصنوعی مقایسه کند. او معتقد است که دانشمندان باید ابتدا ایده‌های خود را در میان گونه‌های مختلف با مغزها و رفتارهای متفاوت آزمایش کنند و سپس به هوش مصنوعی بپردازند.
بیشتر بخوانید: نیسان پیگزو: خودروی برقی جدید با قیمت مناسب در بازار شهری · خطر کاهش شناختی با بازنشستگی در سنین پایین‌تر از ۶۵ سال
