Если кто-то его создаст – все погибнут. Почему сверхчеловеческий ИИ уничтожит нас всех

Почему появление искусственного сверхинтеллекта может обернуться концом человечества? И можно ли предотвратить такой исход?

В 2023 году сотни признанных специалистов по ИИ подписали открытое письмо с предупреждением: для нашей цивилизации существует реальная и чрезвычайно серьезная угроза. Но государства и компании не сбавляют темп в гонке за системами, превосходящими человека по уму, хотя мир почти не готов к последствиям подобного скачка.

На протяжении десятилетий двое авторов того обращения — Элиезер Юдковский и Нейт Соарес — пытались понять, как может мыслить и действовать сверхинтеллект. Их вывод мрачен: конфликт целей между продвинутыми ИИ и людьми почти неизбежен, а в таком столкновении у человечества практически нет шансов. Почему и какими путями сверхинтеллект способен привести к исчезновению нашего вида? Что следует сделать, чтобы выжить? Авторы просто, последовательно и наглядно излагают свою аргументацию и призывают каждого всерьез задуматься об экзистенциальной угрозе, нависшей над всеми нами — пока еще не поздно.