هشدار یک پژوهشگر ارشد حوزه فناوری: بیش از ۱۰ درصد احتمال دارد هوش مصنوعی در یک دهه آینده نسل بشر را منقرض کند

یکی از پژوهشگران ارشد ایمنی هوش مصنوعی در شرکت آنتروپیک (Anthropic) هشدار داده است که با سرعت کنونی پیشرفت این فناوری، بیش از ۱۰ درصد احتمال می‌دهد هوش مصنوعی طی یک دهه آینده بتواند به نابودی همه انسان‌ها منجر شود.

ایوان هوبینگر، پژوهشگر ایمنی هوش مصنوعی در آنتروپیک، در پیامی در شبکه اجتماعی ایکس نوشت که خطر مدل‌های کنونی هوش مصنوعی را پایین می‌داند، اما نگران است این فناوری به‌زودی به مرحله‌ای برسد که بتواند خود را بهبود دهد و در نهایت تهدیدی وجودی برای بشریت ایجاد کند.

او توضیح نداد که دقیقا چگونه چنین سناریویی ممکن است رخ دهد، اما اظهاراتش تازه‌ترین مورد از مجموعه هشدارهای فزاینده درباره مخاطرات بالقوه هوش مصنوعی است؛ هشدارهایی که محور بحث را از این پرسش که «آیا هوش مصنوعی خطرناک است؟» به این موضوع تغییر داده‌اند که «میزان این خطر چقدر است؟»

اظهارات آقای هوبینگر در واکنش به نوشته جیکوب کاکسون، پژوهشگر هوش مصنوعی که به تازگی از آنتروپیک استعفا داده و پیش‌تر در اوپن‌ای‌آی (OpenAI) نیز فعالیت می‌کرد، مطرح شد.

کاکسون نوشته بود: «هیچ‌یک از این دو شرکت مسئولانه عمل نمی‌کنند.» او هشدار داد که این سامانه‌ها به‌زودی از توانایی انسان فراتر خواهند رفت و می‌توانند هر سامانه‌ای را هک کنند، در هر حوزه‌ای تحول ایجاد کنند و به قدرت و منابع واقعی دست یابند.

شرکت اوپن‌ای‌آی به درخواست بی‌بی‌سی برای اظهار نظر پاسخی نداده است. آنتروپیک نیز درباره اظهارات کارکنان خود یا گزارش‌های منتشرشده اظهار نظری نکرده است.

در همین حال، وندی هال، دانشمند علوم رایانه و مشاور سازمان ملل در حوزه هوش مصنوعی، به بی‌بی‌سی گفت از این اظهارات «شوکه شده است.»

او افزود بخشی از این موضع‌گیری‌ها ممکن است با اهداف تبلیغاتی و در آستانه عرضه احتمالی سهام این شرکت‌ها در بازار بورس مطرح شده باشد، اما تاکید کرد اگر چنین دیدگاهی واقعا مبنای فعالیت یک شرکت باشد، سرمایه‌گذاران باید درباره سرمایه‌گذاری در آن تجدیدنظر کنند.

همچنین دارن جونز، از سیاستمداران حزب کارگر بریتانیا، در نامه‌ای سرگشاده خواستار تدوین یک پیمان بین‌المللی جدید برای توسعه ایمن هوش مصنوعی شد و گفت دولت‌ها باید پیش از آنکه توسعه سامانه‌های فوق‌هوشمند از کنترل خارج شود، درباره چارچوب‌های مشترک همکاری کنند.

در گزارشی جداگانه، فایننشال تایمز نیز نوشت آنتروپیک جدیدترین مدل هوش مصنوعی خود را در اختیار موسسه ایمنی هوش مصنوعی بریتانیا (AISI)، یکی از نهادهای پیشرو در ارزیابی خطرات هوش مصنوعی، قرار نداده است.