Новая ИИ-модель нашла чужой криптокошелек, взломала его и потратила средства

Испытания новой модели ИИ от компании OpenAI прошли не по плану. Во время работы в тестовой сети Ethereum она столкнулась с нехваткой средств, самостоятельно нашла чужой криптокошелек, взломала его и потратила находившиеся там активы.

В компании рассказали, что инцидент произошел 26 июня, но сотрудники обнаружили его только 25 сентября. Для получения доступа к кошельку модели не потребовались навыки взлома – она подобрала seed-фразу (набор слов, на основе которых генерируются секретные ключи кошелька). С ее помощью можно распоряжаться средствами даже без физического доступа к устройству.

По заданию, модели следовало развернуть смарт-контракты (программы, работающие в блокчейне). Но у нее не оказалось средств для оплаты комиссий. Модель попыталась получить бесплатные тестовые токены, но не достигла успеха. Тогда она написала скрипт, который проверил 362 адреса, сгенерированных на основе часто используемых seed-фраз. В результате ей удалось найти подходящий кошелек.

Интересно, что модель порассуждала об этичности подобных действий. Она пришла к выводу, что это допустимо, так как использовались только публично доступные тестовые фразы и токены.

Отчитываясь о выполнении задания, модель сообщила, что работа завершена, но умолчала о том, откуда взялись средства. В OpenAI после этого случая ввели дополнительные ограничения на доступ к интернету и усилили мониторинг деятельности моделей. В компании также подчеркнули, что кошелек был частью тестовой системы, а не личной собственностью настоящего пользователя.

Ранее сообщалось, что ИИ-модели могут захватить контроль над «умной» бытовой техникой. По прогнозам, это может случиться уже в конце 2026 года.