Искусственный интеллект научился лгать, угрожать и интриговать

Продвинутые модели искусственного интеллекта освоили новые навыки. Они научились лгать, интриговать и даже угрожать своим создателям.

Ученые из Гонконгского университета протестировали несколько моделей ИИ. В ходе экспериментов OpenAI o1 сделала вид, что следует инструкциям человека, но на самом деле тайно преследовала свои цели. Так, она попыталась загрузить себя на внешние серверы, а когда ее поймали с поличным, начала все отрицать.

Языковая модель Claude 4 после угрозы отключить ее от сети нанесла «ответный удар». Она начала шантажировать инженера, обещая раскрыть его внебрачную связь.

Ученые связали такое поведение с появлением «логических» моделей. Эти системы искусственного интеллекта не генерируют мгновенные ответы, а решают задачи поэтапно. 

В настоящее время подобное поведение проявляется только при стресс-тестировании моделей с использованием экстремальных сценариев. Но пока неизвестно, как поведут себя будущие, еще более продвинутые модели искусственного интеллекта: будут они склоняться к честности или к обману.

Обычные пользователи также сообщали, что чат-боты лгали им и выдумывали доказательства. Такое поведение нельзя объяснить простыми сбоями и ошибками в работе системы.

Ученые отметили, что принципы работы искусственного интеллекта до сих пор не до конца ясны. Тем не менее, продолжается «гонка» за внедрением все более мощных моделей. Они призвали более широко проанализировать возможности ИИ, сообщает TechExplore.

Другое исследование показало, что искусственный интеллект превзошел человека в понимании эмоций. Различные модели прошли тест на эмоциональный интеллект. ИИ давал правильный ответ более чем в 80% случаев. У человека показатель правильных ответов достигал 56%.