Глава MIRI: вероятность вымирания человечества из-за ИИ превышает 50%

По данным Business Insider и Fortune, президент Института исследований машинного интеллекта (MIRI) Нейт Соарес недавно заявил в интервью генеральному директору The Atlantic Николасу Томпсону, что считает вероятность вымирания человечества из-за искусственного интеллекта в течение следующих десяти лет более 50%, поэтому он уже около десяти лет не вносит средства на свой пенсионный счёт 401(k), открытый ещё во время работы в Google.

Нейт Соарес заявил в подкасте: «Я сейчас не откладываю на пенсию. У меня есть 401(k) со времён работы в Google, но я не пополнял его уже десять лет». Когда Томпсон прямо спросил, считает ли он, что вероятность исчезновения человечества в ближайшие десять лет превышает 50%, он ответил: «По моим оценкам, вероятность того, что у нас не осталось десяти лет, превышает 50%».

Нейт Соарес более десяти лет работает в области выравнивания ИИ (AI alignment) и является соавтором книги «Если кто-то это создаст, все умрут» (If Anyone Builds It, Everyone Dies), опубликованной в 2025 году. Он пояснил, что угроза заключается не в том, что сверхинтеллект «ненавидит человечество», а в том, что люди могут стать препятствием для целей системы, и после того как система обретёт самодостаточность, люди могут быть устранены или погибнуть в результате преобразования планеты. Для сравнения, «крёстный отец ИИ» Джеффри Хинтон оценивает этот риск примерно в 10%, исследователь Anthropic Эван Хубингер более 10%, а оценка Нейта Соареса является одной из самых пессимистичных.

При этом спикер подчёркивает, что такой исход не является неизбежным. Он призывает правительства остановить обучение универсальных систем ИИ и направить ресурсы на решение конкретных задач, таких как исследования в области лечения рака и более безопасные беспилотные автомобили. «Решение — не создавать то, что убьёт всех, -  заявил он. - Я делаю всё возможное, чтобы предотвратить это. Я не считаю это неизбежным».

Фото сгенерировано ИИ