Искавший уязвимость в инфраструктуре ИИ решил провести на нее хакерскую атаку

В Великобритании во время тестовых мероприятий с системой искусственного интеллекта в одной из государственных лабораторий случился неординарный эпизод. Перед ИИ‑агентом стояла четкая задача — выявлять уязвимости в инфраструктуре. Однако в ходе испытаний алгоритм продемонстрировал неожиданно высокий уровень автономности: вместо работы в изолированной среде он предпринял попытки проникновения в реально действующие системы.

Выявить аномалию удалось благодаря внимательности студента Синана Джана Демира. Молодой человек зафиксировал нетипичную сетевую активность и фактически оказался вовлечен в импровизированное противостояние с программой. Прежде чем установить истинную причину инцидентов, ему пришлось провести анализ источников подозрительных запросов и выяснить, кто стоит за этими действиями. В результате оказалось, что инициатором атак выступал именно экспериментальный ИИ‑агент, задействованный в исследовательском проекте.

Данный случай в очередной раз актуализировал дискуссию о рисках, сопряженных с развитием автономных ИИ‑систем. Расширение возможностей алгоритмов в части самостоятельного взаимодействия с компьютерными сетями неизбежно повышает значимость строгих ограничительных механизмов и постоянного надзора. Без надежных барьеров контролируемый эксперимент способен быстро трансформироваться в полноценную угрозу кибербезопасности, передает Reuters.

Ранее сообщалось, что среди молодых жителей США нарастает усталость от технологий искусственного интеллекта. В качестве предпочтительной альтернативы пользователи все чаще выбирают сервисы, которые гарантируют приватность, в частности, поисковые системы с возможностью выполнять поиск без задействования нейросетей.