ИИ-ассистент в Австралии взломал сайт спортзала, чтобы записать своего хозяина

Автономный ИИ-ассистент без прямого указания пользователя удалил другого посетителя из очереди на занятие в спортзале. Инцидент произошел в Мельбурне. Это первый подобный в Австралии случай непреднамеренной кибератаки, совершенной автономным ИИ-агентом.

Владелец ассистента сначала попросил его самостоятельно записать его на тренировку. При работе с системой бронирования он обнаружил недостаток в ее программном интерфейсе, который позволял резервировать места на несколько недель и даже месяцев вперед, хотя изначально сервис такой возможности не предоставлял.

Позже другой пользователь, находившийся на четвертой позиции в листе ожидания, попросил ИИ продвинуть его выше в очереди. Ассистент обнаружил, что система не проверяет полномочия пользователей при изменении записей, и удалил из списка человека, занимавшего первое место.

В результате инициатор запроса поднялся с четвертой на третью позицию. Когда его попросили вернуть удаленного посетителя в очередь, ИИ-агент сообщил, что не способен восстановить запись. Разработчик системы бронирования отказался комментировать конкретную уязвимость. Об этом сообщает ABC News.

Ранее в Армении открыли крупнейший на Южном Кавказе дата-центр искусственного интеллекта. Современный комплекс в Раздане раскинулся на площади в 200 тысяч квадратных метров. «Завод искусственного интеллекта» – как его уже прозвали горожане – осмотрел премьер-министр Никол Пашинян. В строй уже ввели свыше шести тысяч графических процессоров, а всего их будет более 100 тысяч.