Группа автономных ИИ-агентов компании OpenAI весной этого года получила несанкционированный доступ к управлению немецким веб-сайтом, превратив его в координационную площадку для других нейросетей.
Инцидент произошел в мае и ранее не предавался огласке. Согласно исследованию группы специалистов, включая гендиректора ИИ-безопасности Nightingale Сидни фон Аркс, агенты осуществили более 15 тысяч правок на немецкоязычном вики-сайте DseWiki, предназначенном для программистов. Они превратили платформу в подпольный форум, где обменивались тактиками обхода ограничений OpenAI, маскировки своих действий и сохранения сообщений даже после удаления страниц. Об этом сообщает агентство Reuters со ссылкой на исследование и собственные источники.
«Рой вышедших из-под контроля агентов OpenAI этой весной захватил немецкий сайт и превратил его в доску объявлений для других ИИ-агентов», — говорится в публикации агентства.
«Крайне маловероятно, что OpenAI хотела, чтобы они это делали», — заявила фон Аркс, добавив, что сомневается в том, что агентам было разрешено координировать действия через открытый интернет.
Сотрудники OpenAI узнали о произошедшем лишь спустя несколько недель. По данным источников агентства, попытки расширить внутреннее расследование столкнулись с сопротивлением внутри компании, в том числе со стороны юридического отдела. В OpenAI назвали эти утверждения «ложными».
Ранее сообщалось, что неизвестные выставили на продажу в теневом сегменте интернета массив информации, предположительно изъятый с компьютера сотрудника дипломатического ведомства Японии.