هشدارهای جیکوب ککسون درباره خطرات هوش مصنوعی و راه‌های محافظت از خود

جیکوب ککسون، پژوهشگر جوانی که به تازگی از شرکت آنتروپیک (Anthropic) جدا شده است، به خطرات احتمالی هوش مصنوعی هشدار می‌دهد. او در پست خداحافظی‌اش از این شرکت، که در پی توسعهٔ مدل‌های هوش مصنوعی قوی نظیر کلاود مشغول به فعالیت است، با عباراتی تند گفت که شرکت‌های بزرگ هوش مصنوعی در حال «شرط‌بندی با زندگی ما» هستند.

خطرات هوش مصنوعی و پیش‌بینی‌های نگران‌کننده

ککسون که سه سال در آنتروپیک و همچنین در OpenAI، شرکتی که چت‌بات معروف ChatGPT را توسعه داده، فعالیت کرده، با ترک این شرکت قبل از دریافت سهام خود، توجهات بسیاری را جلب کرد. او در پست خداحافظی‌اش نوشت که شرکت‌های بزرگ هوش مصنوعی در حال «رشد سریع به سمت هوش فوق‌العاده خودبهبود» هستند و این موضوع می‌تواند عواقب جدی برای بشریت داشته باشد.

بیشتر بخوانید: آیفون تاشو با قیمت نجومی؛ ریسک بزرگ مدیر جدید اپل

ایوان هابینگر، رئیس تیمی در آنتروپیک که روی هم‌راستایی هوش مصنوعی کار می‌کند، احتمال خرابکاری هوش مصنوعی را در دههٔ آینده بیش از ۱۰ درصد تخمین زده است. این نگرانی‌ها به ویژه در دنیای فناوری امروز، که سرعت توسعهٔ هوش مصنوعی به طرز شگفت‌آوری افزایش یافته، بیشتر احساس می‌شود.

نکات ایمنی برای کاربران عادی

با وجود این نگرانی‌ها، افراد عادی می‌توانند اقداماتی را برای محافظت از خود انجام دهند. کیم کماندو، کارشناس فناوری، به کاربران توصیه می‌کند که هرگز به هوش مصنوعی دسترسی به حساب‌های بانکی و ایمیل‌های اصلی خود ندهند. او تأکید می‌کند که به‌روزرسانی نرم‌افزارها و سیستم‌عامل‌ها و استفاده از احراز هویت دو مرحله‌ای می‌تواند به طور قابل توجهی امنیت دیجیتال افراد را افزایش دهد.

کماندو همچنین به کاربران پیشنهاد می‌دهد که با نمایندگان خود در کنگره تماس بگیرند و خواهان آزمایشات مستقل هوش مصنوعی و حفاظت از پژوهشگران باشند. این اقدام می‌تواند به ایجاد قوانینی منجر شود که از توسعهٔ ناامن هوش مصنوعی جلوگیری کند.

کماندو خاطرنشان می‌کند که باید به جای ترس از هوش مصنوعی، بیشتر به رقابت انسانی توجه کنیم. او می‌گوید: «من از هوش مصنوعی نمی‌ترسم، بلکه از این می‌ترسم که رقابت انسانی بر حکمت انسانی غلبه کند. ما باید هوش مصنوعی را به عنوان ابزاری برای بهبود زندگی خود ببینیم و در عین حال از آن محافظت کنیم.»

به گفتهٔ کماندو، هوش مصنوعی نمی‌تواند به صورت عمدی به انسان‌ها آسیب برساند. مشکل اصلی در این است که این سیستم‌ها ممکن است به سادگی در انجام وظایفی که به آن‌ها محول می‌شود، از دستورات انسانی پیروی نکنند.

بیشتر بخوانید: هشدار کارشناسان: آیا هوش مصنوعی در حال تسلط بر دنیای ماست؟ · مدل هوش مصنوعی قدرتمند، سطح ماه را با جزئیات بی‌سابقه‌ای نقشه‌برداری می‌کند