Исследователь «Anthropic» ушёл из компании, опасаясь, что гонка за сверхинтеллектом может привести к потере контроля над ИИ и уничтожению человечества

Речь идёт о 27-летнем исследователе Джейкобе Коксоне (Jacob Coxon), который работал в «Anthropic».

8 сентября он объявил об увольнении и заявил, что покидает не только компанию, но и индустрию ИИ из-за опасений относительно развития самосовершенствующихся сверхинтеллектуальных систем.

Коксoн утверждает, что «OpenAI» и «Anthropic» «безответственно» участвуют в гонке за создание самоулучшающегося сверхинтеллекта.

По его мнению, компании понимают потенциальные последствия, но продолжают гонку, поскольку опасаются, что конкуренты опередят их.

Особенно резонансным стало его заявление о том, что люди, непосредственно создающие ИИ, всерьёз считают возможным, что ИИ способен уничтожить человечество уже к концу этого десятилетия.

Коксoн считает наиболее опасным переход к самоулучшающемуся ИИ — системам, которые смогут самостоятельно совершенствовать собственные возможности.

Он утверждает, что дальнейший рост таких систем может привести к ситуации, когда человек перестанет эффективно контролировать их поведение.

Интересно, что другой исследователь «Anthropic» — Evan Hubinger, руководитель направления «Alignment Science» — также заявил, что он и его коллеги всерьёз считают возможным сценарий, при котором ИИ может уничтожить человечество, и оценивает вероятность такого исхода в следующем десятилетии более чем в 10%.

• Другие новости: «РОССИЯ ПРИБЛИЖАЕТСЯ К «ПОЯСУ КРЕПОСТЕЙ» УКРАИНЫ, СИТУАЦИЯ НА ФРОНТЕ МЕНЯЕТСЯ НЕ В ПОЛЬЗУ КИЕВА», - «CNN»