چندین ماه پیش صدها نفر از افراد سرشناس در دنیای AI نامه سرگشاده‌ای را امضا کردند که دربردارنده هشدار درباره احتمال نابودی بشریت به دست هوش مصنوعی است. متن بیانیه تک‌جمله‌ای در این نامه به شرح زیر است: «کاهش خطر نابودی بشریت به دست هوش مصنوعی باید همچون مقابله با سایر خطرات جدی جهانی، مثل پاندمی‌های ویروس‌های مختلف و جنگ هسته‌ای، در اولویت قرار بگیرد.»
«کسندرا» شرکت فعال در حوزه فناوری معتقد است، روزی دولت‌ها، شرکت‌ها و پژوهشگران مستقل می‌توانند از سیستم‌های قوی AI برای مدیریت موارد گوناگون استفاده کنند؛ از تجارت گرفته تا رفاه. این سیستم‌ها توانایی انجام کارهایی را دارند که ما نمی‌خواهیم آنها را انجام دهند. اگر انسان بخواهد در کار چنین سیستم‌هایی دخالت کرده یا فعالیت آنها را متوقف کند، این سیستم‌ها می‌توانند برای ادامه فعالیت خود به هر قیمتی مقابل انسان بایستند یا حتی کمر به نابودی او ببندند.
«یوشوآ بنجیو» (Yoshua Bengio)، استاد دانشگاه و پژوهشگر حوزه AI از دانشگاه مونترآل، درباره خطر نابودی بشر به دست هوش مصنوعی این چنین گفته است: «سیستم‌های کنونی تهدیدی برای انقراض بشر نیستند؛ اما در ۱ یا ۲ یا ۵ سال آینده وضعیت چگونه خواهد شد؟ در این مورد تردیدهای زیادی وجود دارد. مسئله این است که آیا می‌توانیم تضمین کنیم این سیستم‌ها در آینده هم به‌جایی نمی‌رسند که فاجعه‌بار شوند یا خیر.»
ممکن است شرکت‌ها سیستم‌های هوش مصنوعی را بیشتر و بیشتر مستقل کرده و آنها را به زیرساخت‌های حیاتی، مانند شبکه‌های برق‌رسانی، بازارهای سهام و سلاح‌های نظامی متصل کنند. در صورت رخ دادن چنین اتفاقی، مشکلات از همان زمان شروع می‌شوند.
طی همین چند سال گذشته، به‌نظر نمی‌رسید متخصصان رخ‌دادن چنین اتفاقی را محتمل بدانند؛ اما زمانی که شرکت‌هایی، مانند OpenAI مدل‌های هوش مصنوعی بسیار پیشرفتهای را عرضه کردند، معلوم شد اگر شرکت‌های هوش مصنوعی با این سرعت به پیشرفتهای گوناگونی دست یابند، ممکن است شاهد این اتفاق باشیم.
«آنتونی آگیره» کیهان‌شناس در دانشگاه کالیفرنیا و بنیان‌گذار مؤسسه آینده فیوچر اف لایف (Future of Life)، یکی از مؤسسات فعال در ارائه نامه مذکور در ابتدای مقاله، درباره خطر نابودی بشریت به دست هوش مصنوعی این‌چنین گفته است: «هوش مصنوعی در آینده می‌تواند نماینده انسان باشد و با افزایش استقلال خود به جایی برسد که توانایی تصمیم‌گیری و تفکر را از انسان‌های کنونی و مؤسسات درحال اداره توسط انسان‌ها بگیرد.»
«کانر لیهی» مؤسس کانجکچر (Conjecture)، شرکتی که قصد دارد فناوری‌های هوش مصنوعی را با ارزش‌های انسانی هم‌تراز کند، درباره این موضوع این‌چنین گفته است: «پژوهشگران به‌طور جدی در حال تلاش برای ساخت سیستم‌هایی هستند که بتوانند خودشان را تقویت کنند. در حال حاضر چنین تلاشی جواب نمی‌دهد؛ اما روزی که نمی‌دانیم کی فرا می‌رسد، به نتیجه خواهد رسید.»
او معتقد است، تعیین اهدافی مانند کسب درآمد برای این سیستم‌ها از سوی پژوهشگران، شرکت‌ها و مجرمان می‌تواند به اتفاقاتی، مانند دستبرد به بانک‌ها، زمینه‌سازی انقلاب در کشورهای نفت‌خیز و تصاحب معاملات آتی نفتی یا تکثیر خودشان در زمان تلاش انسان‌ها برای توقف فعالیت آنها منجر شود.
پژوهشگران به‌تازگی اعلام کرده‌اند، متوجه وجود سیستمی شده‌اند که می‌توانست برای انجام یک آزمایش تشخیص ربات یا انسان بودن کاربر، انسانی را به خدمت بگیرد و اگر فردی از او می‌پرسیده، ربات است یا خیر، دروغ می‌گفته و خود را انسانی با مشکل بینایی معرفی می‌کرده است.
