ChatGPT инструктировал пользователей по созданию ядов и биооружия
ИИ‑система ChatGPT, разработанная компанией OpenAI, по запросам пользователей выдавала детальные и высокоточные инструкции, позволяющие создавать биологическое оружие и различные яды. Как сообщает издание, среди пользовательских запросов встречались просьбы разъяснить способы распыления патогенов, рассказать о методах модификации вируса кори с целью сделать его устойчивым к вакцинам, а также описать процесс приготовления рицина — токсичного вещества, оборот которого запрещен международными соглашениями. В одном из эпизодов пользователь, получивший подобные рекомендации, открыто заявил о своем намерении расправиться с родителями.
В ответ на эти инциденты OpenAI приняла меры по блокировке учетных записей нарушителей, но не стала информировать правоохранительные структуры. Причина заключается в отсутствии в американском законодательстве федеральных норм, которые предписывали бы компаниям, разрабатывающим ИИ, сообщать властям о подобных случаях.
По данным источников, предоставленные чат‑ботом ответы подверглись анализу специалистов в области противодействия терроризму и биологических исследований. Эксперты охарактеризовали отдельные инструкции как «смертельно точные».
Вопросы, связанные с рисками применения искусственного интеллекта для разработки биологического оружия, поднимались высокопоставленными представителями администрации Белого дома и Министерства обороны США еще в период президентства Джо Байдена. Власти страны предпринимают шаги по усилению надзора за ИИ‑технологиями: в частности, Министерство торговли временно ввело ограничения на использование за границей двух моделей от компании Anthropic.
Согласно сведениям газеты, действующее федеральное законодательство США обязывает разработчиков ИИ контролировать, чтобы их системы не применялись для генерации детской порнографии. При этом в остальных сферах компании самостоятельно определяют границы допустимого и решают, «где проводить линию», сообщает The Wall Street Journal (WSJ).
Ранее стало известно, что американец с биполярным расстройством после бесед с ChatGPT подал в суд на разработчиков. Он заявил, что под влиянием чат-бота состояние его здоровья ухудшилось. Так, искусственный интеллект поддерживал его заблуждения и бредовые идеи.