В Калифорнии (США) родители 16-летнего Адама Рейна обвинили искусственный интеллект в смерти сына. По их словам, нейросеть помогла подростку подготовить и реализовать самоубийство.
Семья подала иск против компании, занимающейся разработками в области ИИ, и ее генерального директора Сэма Альтмана. Родители утверждают, что компания поставила прибыль выше безопасности пользователей, когда в прошлом году представила новую модель своего чат-бота.
После трагедии родители изучили смартфон сына и выяснили, что подросток вел переписку с нейросетью с 1 сентября 2024 года по 11 апреля 2025 года, ставшего днем его смерти. В отчете, приложенном к иску, содержится переписка, в которой 27 марта ИИ ответил на запрос Адама о способах самоубийства.
Семья утверждает, что чат не пытался отговорить подростка и на протяжении нескольких месяцев фактически инструктировал его, а за несколько часов до смерти помог согласовать план действий. Тело Адама было найдено в его комнате.
Родители требуют компенсации морального ущерба и судебного запрета на возможность таких запросов в чат-боте. В компании заявили, что добавят функцию родительского контроля, но признали, что при длительном общении алгоритмы, призванные предотвращать опасные действия, могут не сработать, сообщает Reuters.
Продвинутые модели искусственного интеллекта освоили новые навыки. Они научились лгать, интриговать и даже угрожать своим создателям. Ученые из Гонконгского университета протестировали несколько моделей ИИ. В ходе экспериментов одна из них сделала вид, что следует инструкциям человека, но на самом деле тайно преследовала свои цели. Так, она попыталась загрузить себя на внешние серверы, а когда ее поймали с поличным, начала все отрицать.