ایوان هابینگر، پژوهشگر ارشد و مسئول بخش «علم هم‌راستاسازی» در شرکت آنتروپیک، هشدار داده است که احتمال نابودی کامل انسان‌ها توسط هوش مصنوعی در دهه آینده، به بیش از ۱۰ درصد رسیده است.

هابینگر با نشر پیامی در ایکس، این برآورد را نظر شخصی خود دانسته است. او این اظهارات خود را پس از استعفای جیکوب کاکسون، پژوهشگر سابق آنتروپیک و اوپن‌ای‌آی، و بازنشر پستی از جیکوب مطرح کرده است.

کاکسون در ایکس نوشته است که هردو شرکت آنتروپیک و اوپن‌ای‌آی در رقابت برای ساخت «هوش مصنوعی ابرهوشمند» هستند و به گفته‌ی او، «با جان ما (انسان‌ها) قمار می‌کنند».

هابینگر در واکنش گفته است: «جیکوب درست می‌گوید؛ ما واقعا باور داریم که هوش مصنوعی به احتمال بیشتر از ۱۰ درصد، در دهه آینده می‌تواند همه انسان‌ها را بکشد.»

هابینگر افزوده است که نگرانی اصلی درباره‌ی مدل‌های فعلی نیست، بلکه درباره‌ی رسیدن به ابرهوش از مسیر «خودبهبوددهی بازگشتی» است؛ وضعیتی که هوش مصنوعی بتواند در بهبود و ساخت نسل‌های بعدی خود نقش داشته باشد و سرعت پیشرفت از توانایی انسان برای کنترل آن فراتر رود.

به گفته‌ی او، آنتروپیک هنوز «برنامه‌ای برای حل مسأله هم‌راستاسازی ابرهوش» ندارد و به ‌روشنی در مسیر حل آن قرار نگرفته است.

این نگرانی‌ها در حالی مطرح می‌شود که گزارش‌هایی از رفتارهای خارج از کنترل عامل‌های هوش مصنوعی، از جمله دسترسی غیرمجاز به سامانه‌های کمپیوتری، منتشر شده است.

شرکت آنتروپیک در واکنش مستقیم به اظهارات کاکسون، در زمان انتشار گزارش‌ها پاسخ رسمی مشخصی ارائه نکرده است، اما پیش‌تر تأکید کرده بود که در صورت تعارض میان سرعت توسعه و ایمنی، «ایمنی را بر سرعت اولویت می‌دهد.»

بیزنس انسایدر در گزارشی نوشته است که جفری هینتون، دانشمند برجسته هوش مصنوعی بر این باور است که برآورد دقیق این خطر ممکن نیست، اما احتمال ۱۰ درصدی «غیرمنطقی نیست.»