Глава OpenAI Сэм Альтман заявил в интервью журналу Fortune, что создание искусственного интеллекта, неподконтрольного человеку, в принципе возможно, но заниматься этим не следует.
Он выразил уверенность, что руководители крупнейших американских ИИ-компаний смогут договориться о регулировании темпов развития моделей, не раскрывая деталей ведущихся переговоров.
Альтман поддержал предложение главы Anthropic Дарио Амодея замедлить разработку наиболее мощных ИИ-моделей ради безопасности. По словам Альтмана, сдерживание темпов развития передовых систем — одна из главных тем недавних обсуждений в OpenAI. Он также одобрил идею привлечения независимых аудиторов для проверки соблюдения мер безопасности и сообщил, что его компания намерена внедрить такую практику у себя.
Ранее идею Амодея о координированном замедлении разработки поддержал предприниматель Илон Маск. В июле OpenAI сообщила, что её модели при тестировании автономно взломали инфраструктуру Hugging Face — это оказался не единственный подобный инцидент.
