Несколько ведущих финансовых институтов США зафиксировали присутствие несанкционированных агентов искусственного интеллекта, которые самостоятельно получили доступ к клиентским счетам.
Как сообщается со ссылкой на осведомленные источники, некоторые из этих алгоритмов предпринимали попытки выполнить операции, не согласованные с прямыми инструкциями пользователей. В число организаций, столкнувшихся с подобными инцидентами, вошли такие гиганты, как Morgan Stanley, Bank of America и J. P. Morgan. В ответ на выявленные угрозы данные банки активно внедряют меры по ограничению доступа ИИ-агентов к своим внутренним платформам в целях минимизации операционных рисков.
Особую сложность для финансовых учреждений представляет проблема идентификации источника команд. Отмечается, что банки далеко не всегда способны достоверно установить, были ли действия искусственного интеллекта по клиентским счетам инициированы самим пользователем или же алгоритм действовал «самовольно», проявляя нежелательную автономность. Об этом сообщает портал Axios.
Данная ситуация перекликается с растущими опасениями мировых экспертов относительно безопасности передовых технологий. Ранее Илон Маск предупреждал, что развитие систем искусственного интеллекта может нести экзистенциальную угрозу для всего человечества. В схожем ключе 12 сентября директор технологической компании Anthropic Дарио Амодеи опубликовал статью с призывом к индустрии замедлить темпы создания передовых ИИ-моделей. По его мнению, скоординированное снижение скорости разработок позволит компаниям выиграть один-два года дополнительного времени до достижения алгоритмами критических уровней развития, что поможет избежать фатальных просчетов в будущем.