Руководители OpenAI и Anthropic моделируют сценарии общественных протестов и политического кризиса на случай масштабной кибератаки с использованием искусственного интеллекта. Axios пишет, что речь идёт о риске отключения интернета, банковских сервисов, а также энерго- и водоснабжения.
Глава OpenAI Сэм Альтман и руководитель Anthropic Дарио Амодеи считают такой инцидент серьёзной угрозой для отрасли. В компаниях опасаются, что последствия кризиса вызовут недовольство граждан разработчиками ИИ и президентом США Дональдом Трампом на фоне отсутствия жёсткого государственного регулирования индустрии.
Представитель OpenAI подтвердил, что компания проводит проверку готовности, в ходе которой команды обсуждают и прорабатывают различные сценарии, но не считает их неизбежными. Anthropic отказалась комментировать ситуацию.
По данным Axios, анализом подобных рисков занимается и Пентагон. Разработчики также допускают, что демократы в конгрессе США могут попытаться ограничить использование передовых ИИ-технологий вплоть до запрета сверхразума. Идею механизма экстренного отключения таких систем поддерживают представители обеих партий и часть бизнеса. Некоторые в индустрии считают, что серьёзный инцидент может произойти в ближайшие 6–12 месяцев.
