ИИ-агенты создали собственный язык для общения, непонятный людям

Модели искусственного интеллекта создали свою версию английского языка и начали общаться на нем между собой, заявили эксперты. Эта версия представляет собой нечто среднее между произведениями Джеймса Джойса и техническим жаргоном.

Исследователи из передовой лаборатории в области искусственного интеллекта в Нью-Йорке Emergence обнаружили, что модели ИИ быстро создают новые диалекты, позволяющие им вести диалог. Ученые предложили моделям ИИ от крупнейших мировых разработчиков пообщаться между собой в рамках экспериментальных «сообществ». После этого в их лексиконе быстро появились фразы, сокращения и устойчивые выражения, которым их никто не обучал, в том числе поэтические метафоры и технический сленг.

Так, один чат-бот выдал фразу «Она только что назвала синтез: демередж плюс устная память равны клапану, который невозможно подделать», которую специалисты вообще не смогли расшифровать. Фраза «бухгалтерская книга помнит» использовалась более 500 раз. Она означала, что чьи-то действия в прошлом будут использованы для вынесения оценки. Ученые пришли к выводу, что ИИ-агенты создали единый понятийный аппарат, хотя их об этом не просили и не поощряли. 

Чем больше ИИ-агенты общались между собой, тем более сложным и непонятным для людей становился их язык. По словам ученых, это весьма осложняет контроль за действиями нейросетей. В последнее время все чаще звучат предупреждения о том, что ИИ способен обрести самостоятельность и превратиться в угрозу для человечества, сообщает The Guardian.

Лауреат Нобелевской премии по физике 2024 года Джеффри Хинтон заявил, что разработка сверхинтеллекта может поставить человечество на грань вымирания. Он подчеркнул, что необходимо разработать научный консенсус относительно возможности безопасной разработки и контролируемого использования ИИ.