Сбежавший из Anthropic: исследователь ушел из ИИ в поэзию, опасаясь конца света

Исследователь Anthropic Джейкоб Коксон уходит из ИИ-индустрии, опасаясь, что гонка технологических корпораций приближает мир к «точке невозврата» и может привести к апокалиптическому сценарию уже в конце 2027 года.

«Мы движемся к наиболее жестким из этих сценариев, при которых уже к концу следующего года ситуация может выйти из-под контроля», — приводит издание слова 27-летнего математика из Великобритании.

Коксон отказывается участвовать в гонке по созданию саморазвивающихся ИИ-моделей из-за опасения, что такие системы «могут выйти из-под контроля и уничтожить человечество». Он отмечает, что его коллеги все чаще описывают текущую траекторию развития технологий фразами вроде «критическая точка» и «эндшпиль».

В начале года Коксон ушел из OpenAI в Anthropic, привлеченный репутацией компании в области безопасности ИИ. Однако теперь он пришел к выводу, что ни одна частная компания не способна этично разрабатывать ИИ без внешнего регулирования или скоординированного замедления развития отрасли. При этом он по-прежнему уважает подход Anthropic к этой проблеме.

После ухода из индустрии Коксон планирует изучать поэзию, пишет газета The Wall Street Journal.

Ранее сообщалось, что эксперты обсудили, нарушает ли ИИ-музыка права слушателей. В России нет обязательной маркировки такого контента. Нарушением это можно считать только при намеренном обмане.