Компания Anthropic обновила правила использования своих ИИ-моделей, включая Claude.ai и Claude Code. Новая редакция вступит в силу 12 Ноября 2026 года. Как отмечает The Verge, предыдущая масштабная переработка политики проводилась более года назад. Документ при этом реорганизован: связанные пункты сведены вместе, а большая часть изменений уточняет уже существующие правила.
Одним из изменений стал запрет на систематическое и необоснованное жестокое или оскорбительное обращение с ИИ. При этом Anthropic уточняет, что речь идёт об исключительных случаях, когда пользователь неоднократно проявляет жестокость по отношению к модели без очевидной цели или оправданной причины. Обычное раздражение, возражения, мрачные темы в творческих текстах, а также тестирование и исследования нарушением не считаются. Основным способом реакции остаётся завершение диалога, а о блокировке аккаунта прямо не говорится.
Подобный механизм появился ещё в прошлом году. В Августе 2025 года, в рамках исследований благополучия ИИ, Anthropic дала Claude возможность завершать разговор. Тогда компания заявляла, что не уверена, обладает ли Claude моральным статусом, но хочет найти недорогие способы снизить возможные риски. Первоначально такая функция появилась у Claude Opus 4 и 4.1 для случаев постоянного оскорбительного общения. Теперь то, что модель уже делала на практике, закреплено в правилах.
В обновлённых правилах также сохраняются ограничения, связанные с нарушением законодательства, атаками на компьютерные системы и сети, вмешательством в работу критически важной инфраструктуры, разработкой оружия, подстрекательством к насилию, нарушением конфиденциальности и угрозами безопасности детей.
Среди новшеств отдельно выделяются несколько пунктов:
- Появился новый раздел против фальшивых аккаунтов и искусственного создания видимости массовой поддержки.
- Раздел о демократических процессах переименован и теперь прямо направлен против вмешательства в выборы.
- Запрет на оружие распространён на программное обеспечение, которое управляет дронами или приводит их в боевое состояние.
- Ужесточены ограничения на слежку: запрещено отслеживание в реальном времени без согласия, а также использование Claude для рекомендаций о том, кого расследовать или арестовывать.
- Для оборудования с Claude, способного причинить вред, теперь требуется квалифицированный специалист, который может его остановить.
- Для сфер с высокими рисками (здоровье, юридические права, финансы, средства к существованию, доступ к базовым услугам) подтверждено, что человек должен иметь возможность проверить и изменить рекомендации Claude, а затронутых людей нужно уведомить об использовании ИИ.
Anthropic связывает обновление с тем, что за год Claude стал выполнять более длительные и самостоятельные задачи, а также с практикой злоупотреблений, описанной в сентябрьском отчёте компании по угрозам.
Вопрос о возможном сознании современных ИИ-моделей представители Anthropic поднимали и ранее. Компания также обращает внимание на сложности с пониманием и контролем внутренних процессов нейросетей.
Глава Anthropic Дарио Амодеи (Dario Amodei) неоднократно предупреждал о потенциальных рисках быстрого развития ИИ и необходимости более осторожного подхода к этой технологии. При этом новое правило не утверждает, что Claude обладает сознанием: речь идёт о закреплении уже существующего поведения продукта в виде явного пользовательского ограничения.
Источник: The Verge
СМОТРИТЕ ТАКЖЕ:
Intel готовит процессоры Core 2000HX Raptor Lake Next для мощных игровых ноутбуков
Первые тесты показывают обновление Windows 11 26H2 ускоряет запуск приложений
Подержанные PlayStation 5 Pro консоли в США продают в 1,5 раза дороже официальной цены
AOC представила игровой монитор Agon Pro AGP257FT с рекордной частотой 1000 Гц
AMD полностью распродала серверные процессоры EPYC 9006 (Venice) на год вперёд
Google собирается отключить бесплатный доступ к Gemini Flash и Pro
