Anthropic обновила Политику использования нейросети Claude, впервые прямо запретив систематическое и беспричинное оскорбительное или жестокое обращение с ИИ-моделями. Новые правила вступят в силу 12 ноября.
Ограничение касается только крайних случаев, когда пользователь неоднократно без видимой цели ведёт себя жестоко по отношению к модели. Под запрет не подпадают обычные проявления недовольства, споры с чат-ботом, обращение к мрачным творческим темам, а также тестирование и исследования модели. При нарушении Claude сможет самостоятельно прекращать диалог — этот механизм уже действовал на платформах Claude.ai и Claude Code. Компания не уточнила, предусмотрены ли дополнительные санкции вроде блокировки аккаунтов.
Параллельно Anthropic расширила список запрещённых сфер применения Claude: вмешательство в выборы, распространение дезинформации о кандидатах и голосовании, создание инфраструктуры слежки без согласия людей, разработка программного обеспечения для управления оружием и оснащения боевыми системами беспилотников, а также использование ИИ для принятия решений об аресте или уголовном преследовании.
Изменения связаны в том числе с исследованиями Anthropic о потенциальном благополучии ИИ — компания признаёт, что вопрос о наличии у моделей сознания остаётся открытым.
