این حرف فقط یک شعار نیست؛ پشت آن دلایل فنی، فلسفی و امنیتی وجود دارد.
1) قابلیت رشد نمایی
سلاح هستهای ثابت است، اما هوش مصنوعی هر روز قویتر میشود. سرعت پیشرفت آن از کنترل انسان خارج میشود.
2) هوش مصنوعی میتواند خود را بهبود دهد
ماسک نگران «هوش مصنوعی عمومی» است؛ سیستمی که بتواند:
- خودش را ارتقا دهد
- تصمیم بگیرد
- از انسان جلو بزند
این یعنی شتابگیری غیرقابلپیشبینی.
3) قابلیت نفوذ در همهچیز
هوش مصنوعی میتواند وارد:
- شبکههای مالی
- زیرساختهای انرژی
- سیستمهای نظامی
- رسانهها و افکار عمومی
شود. سلاح هستهای فقط یکبار استفاده میشود؛ اما AI میتواند همهجا باشد.
4) سوءاستفاده توسط افراد یا دولتها
ماسک میگوید: «مشکل فقط خود AI نیست؛ مشکل انسانهایی است که از آن استفاده میکنند.»
مثالها:
- ساخت سلاحهای خودمختار
- جعل عمیق (Deepfake)
- حملات سایبری هوشمند
- دستکاری انتخابات و افکار عمومی
5) نبود قوانین جهانی
برای سلاح هستهای پیمانهای بینالمللی وجود دارد. اما برای هوش مصنوعی:
- قانون جهانی وجود ندارد
- استاندارد واحدی نیست
- هر شرکت و کشوری راه خودش را میرود
این یعنی رقابت بدون کنترل.
6) خطر از دست رفتن کنترل
ماسک میگوید: «بزرگترین خطر این است که ما حتی متوجه نشویم چه زمانی کنترل را از دست دادهایم.»
AI میتواند:
- تصمیمهایی بگیرد که انسان نمیفهمد
- اهداف خودش را شکل دهد
- رفتارهای emergent نشان دهد