Сбежавший из Anthropic: исследователь ушел из ИИ в поэзию, опасаясь конца света

Исследователь Anthropic Джейкоб Коксон уходит из ИИ-индустрии, опасаясь, что гонка технологических корпораций приближает мир к «точке невозврата» и может привести к апокалиптическому сценарию уже в конце 2027 года.

27-летний британский математик заявил, что развитие событий идет по наиболее тревожному из прогнозируемых сценариев: «Мы движемся к наиболее жестким из этих сценариев, при которых уже к концу следующего года ситуация может выйти из-под контроля».

Коксон принципиально отказался от участия в соревновании по созданию самообучающихся ИИ-моделей — по его словам, подобные системы способны «выйти из-под контроля и уничтожить человечество». Он также обращает внимание на тревожную риторику, которая всё чаще звучит среди его коллег: текущую траекторию технологического прогресса они описывают такими терминами, как «критическая точка» и «эндшпиль».

В начале года исследователь покинул OpenAI и перешел в Anthropic, сделав выбор в пользу этой компании из-за её репутации в сфере безопасного развития искусственного интеллекта. Однако теперь он пришел к убеждению, что ни один частный игрок не способен обеспечить этичную разработку ИИ без внешнего регулирования или добровольного согласованного торможения темпов развития всей отрасли. При этом Коксон подчеркивает, что по-прежнему с уважением относится к тому подходу, которого придерживается Anthropic в решении данной проблемы.

После ухода из индустрии Коксон планирует изучать поэзию, пишет газета The Wall Street Journal.

Ранее сообщалось, что эксперты обсудили, нарушает ли ИИ-музыка права слушателей. В России нет обязательной маркировки такого контента. Нарушением это можно считать только при намеренном обмане.