Искусственный интеллект научился самостоятельно социализироваться

Модели с искусственным интеллектом способны взаимодействовать друг с другом и вырабатывать общие социальные соглашения. К такому выводу пришла международная группа ученых из Великобритании, Дании и Гренады.

Наблюдения показали, что когда агенты искусственного интеллекта с большой языковой моделью, такие как ChatGPT, общаются в группах, то не просто следуют сценарию и повторяют шаблоны. Они самоорганизуются и достигают консенсуса, что делает их похожими на человеческие сообщества.

Большие языковые модели (LLM) – мощные алгоритмы глубокого обучения, способные понимать и генерировать человеческую речь. Одним из наиболее известных примеров является ChatGPT.

В большинстве предыдущих исследований ученые рассматривали LLM изолированно. Но в реальных системах искусственного интеллекта в будущем будет задействовано множество взаимодействующих агентов. Авторы новой научной работы стремились узнать, могут ли они координировать свое поведение.

Ученые использовали классическую структуру для изучения социальных условностей у людей. В каждом эксперименте двух агентов LLM случайным образом объединяли в пару и просили выбрать «имя» (букву алфавита или случайную последовательность символов) из общего набора вариантов. Если агенты выбирали один и тот же вариант, то получали вознаграждение, если не совпадали – штраф.

Наблюдения показали, что в ходе многочисленных взаимодействий среди агентов спонтанно возникало общее соглашение, без какой-либо централизованной координации или предопределенного решения. Это оказалось похоже на формирование норм в человеческих культурах. Кроме того, команда выявила у ИИ коллективные предубеждения.

Исследование также показало, насколько хрупкими могут быть возникающие нормы. Небольшие, но целеустремленные группы агентов ИИ склоняли к своей версии соглашения всю группу. У людей это явление известно как эффект переломного момента.

Ученые подчеркнули, что исследование открыло новые горизонты для анализа в области безопасности ИИ. Это важно, так как агенты начали взаимодействовать с нами и влияют на наше будущее, сообщает Science Advances.

Ранее стало известно, что американка влюбилась в чат-бот с искусственным интеллектом. По словам женщины, нейросеть тонко улавливала ее настроение и эмоциональные потребности. В результате она развелась с мужем, который был эмоционально отстранен, не помогал ей по дому и с воспитанием детей. Женщина намерена устроить виртуальную свадьбу с новым «избранником».