Компания Anthropic, разработчик моделей Claude, с лета продвигает в Конгрессе США законопроект о регулировании систем искусственного интеллекта. Об этом со ссылкой на источники и оказавшийся в распоряжении издания документ сообщает Politico.
Законопроект позволяет правительству блокировать выпуск или использование модели ИИ, если она создаёт предсказуемый и непосредственный риск ущерба более $1 млрд либо гибели или тяжёлых травм более 50 человек. Угроза должна быть связана с созданием биологического оружия, выходом модели из-под контроля разработчика или кибератакой.
Оценивать риски предлагается независимым экспертам, зарегистрированным в Минторге США. На основе их выводов ведомство сможет через суд добиваться заморозки проекта — при этом Anthropic настаивает, что блокировать разработку вправе только федеральный судья Окружного суда США по округу Колумбия, без вмешательства других ведомств или чиновников.
Документ также обязывает разработчиков создавать внутренние отделы безопасности, публиковать отчёты о работе моделей, защищать сотрудников от преследования за разглашение нарушений и уведомлять Минторг США о серьёзных сбоях. Положения перекликаются с законами Калифорнии по регулированию ИИ, принятыми годом ранее. В Anthropic назвали своё предложение «разумными мерами» для контроля над наиболее мощными моделями.
