7
1
2.5
0
Исследователи MIT FutureTech и Университета Квинсленда опросили 272 международных эксперта по ИИ. Опрос охватил 24 категории рисков на 2026–2030 годы. Вероятность ИИ-апокалипсиса оценили в 10% при любом сценарии. При отсутствии регулирования она может превысить 20%.
Исследование опубликовал MIT Sloan. Авторы применили метод Дельфи. Это структурированный многораундовый опрос. Каждый участник анонимно оценивал риски. Затем он получал сводку ответов коллег и мог изменить свою позицию. Метод убирает давление авторитетов и ведет к более взвешенному консенсусу. В работе участвовали Александр Саери, Джесс Грэм, Майкл Ноетел, Питер Слэттери и Нил Томпсон из MIT Sloan. Они специально отбирали экспертов с разными взглядами на риски ИИ.
По степени ожидаемой тяжести эксперты назвали пять главных угроз. ИИ-системы с опасными возможностями получили 12% вероятности катастрофических последствий. Оружие, кибератаки и другие инструменты массового поражения получили 12%. Экологический ущерб получил 12%. Неравенство и безработица получили 11%. Концентрация власти и несправедливое распределение выгод от ИИ получили 11%.
Авторы исследования назвали катастрофическим исходом событие с более чем миллионом погибших, убытками свыше 100 млрд долларов или сопоставимым ущербом для цивилизации. При базовом сценарии, без серьезного изменения текущих тенденций, 18 из 24 рисковых категорий получили вероятность такого исхода не ниже 10%.
Наиболее уязвимыми эксперты назвали информационный сектор, национальную безопасность и финансовую систему. Там ИИ уже глубоко встроен в инфраструктуру и процессы принятия решений. Авторы отметили, что большинство рисков носят системный характер. Они не существуют по отдельности. Они накапливаются и усиливают друг друга. Это усложняет их оценку и нейтрализацию. Ранее об этом предупреждали и другие исследователи. Они указывали на опасность мультиагентных экосистем и скрытых манипуляций со стороны ИИ-систем.
Ранее ученые также спорили о том, реальна ли угроза вымирания человечества от ИИ. Мнения разделились. Однако 53% опрошенных специалистов оценили вероятность такого исхода в 10% и выше.
