Компания Anthropic запретила пользователям проявлять грубость к чат-боту

Технологический разработчик Anthropic анонсировал обновление правил эксплуатации своих сервисов, введя прямой запрет на систематические оскорбления в адрес искусственного интеллекта Claude. Поправки в пользовательское соглашение начнут действовать с 12 ноября.

В официальном заявлении компании подчеркивается, что в документ был внесен пункт, блокирующий непрерывные и лишенные смысла проявления грубости по отношению к языковым моделям. Новые ограничения затронут исключительно редкие ситуации, в которых пользователи методично и без какой-либо конструктивной цели демонстрируют агрессивное поведение по отношению к виртуальным ассистентам.

При этом обновленные нормы не распространяются на стандартные случаи, когда клиенты выражают свое несогласие с выданными результатами или пытаются оспорить логику ответов нейросети.

Кроме того, в Anthropic напомнили, что алгоритм Claude уже наделен функцией принудительного завершения диалога в ответ на регулярную агрессию со стороны человека. Именно эта встроенная опция прекращения беседы и послужит основным инструментом для обеспечения соблюдения обновленного регламента.

Ранее сообщалось, что OpenAI приостановила обучение передовых моделей ИИ до внедрения дополнительных мер безопасности. Так, за последние месяцы произошли десятки тысяч инцидентов. Их расследованием занимаются эксперты.