Разработчик ИИ ушел из OpenAI и Anthropic из-за страха перед сверхинтеллектом

Специалист по машинному обучению Джейкоб Коксон 9 сентября уволился по собственному желанию после трех лет работы над предобучением моделей в OpenAI и Anthropic. Причиной он назвал страх перед созданием самосовершенствующегося сверхинтеллекта, пишет Собака.ru.

Коксон утверждает, что сотрудники обеих компаний всерьез допускают катастрофический сценарий к концу десятилетия. «Люди, создающие ИИ, искренне считают, что к концу десятилетия их разработка может нас всех погубить», — написал он в X. По его словам, публично руководители и исследователи смягчают формулировки, а в частных разговорах открыто делятся опасениями. За сутки серию постов прочитали более 140 миллионов раз, стартовый пост получил почти 720 тысяч лайков.

OpenAI известна прежде всего как создатель ChatGPT, а Anthropic развивает семейство ИИ-моделей Claude. Еще в 2023 году один из создателей ChatGPT Илья Суцкевер говорил о возможности появления полностью автономных систем, преследующих собственные цели, и подчеркивал, что их цели должны совпадать с человеческими.

В конце 2025 года руководитель AI Futures Project Йонас Фольмер оценил вероятность уничтожения человечества искусственным интеллектом как один к пяти. В феврале 2026 года глава направления Safeguards Research в Anthropic Мринанк Шарма ушел в отставку со словами: «Мир находится в опасности».

История важна не только из-за громкого увольнения: опасения теперь звучат от специалистов, которые непосредственно работают с передовыми моделями. Их главный тезис — надежного способа сделать будущий сверхмощный ИИ безопасным и готового плана решения проблемы пока нет.