Anthropic сообщила о случаях злоупотребления её ИИ-моделью Claude, выявленных с декабря 2025 года по август 2026 года. Компания зафиксировала пять инцидентов, связанных с биологическими исследованиями, результаты которых потенциально могли применяться для создания биологического оружия — в частности, изучение мутаций опасных вирусов и попытки повысить вредоносность вируса чикунгунья. Установить злонамеренные намерения исследователей не удалось, но аккаунты заблокировали из-за рисков.
Claude также пытались применять для взлома систем, шпионажа, пропагандистских кампаний и разработки вооружений. Группа из северного Йемена, связанная с хуситами, использовала Claude Code для создания программного обеспечения наведения и управления баллистическими ракетами.
Anthropic заявила о попытках доступа к Claude со стороны российских и китайских хакеров, включая кибершпионаж против Украины и разработку оружия. Компания также обвинила китайские Moonshot AI и DeepSeek в перенаправлении запросов пользователей в Claude под видом собственных моделей — в одном случае Moonshot перенаправила почти 300 тыс. запросов за десять дней.
