Исследователь «Anthropic» ушёл из компании, опасаясь, что гонка за сверхинтеллектом может привести к потере контроля над ИИ и уничтожению человечества
Об этом пишет «The Wall Street Journal».
Речь идёт о 27-летнем исследователе Джейкобе Коксоне (Jacob Coxon), который работал в «Anthropic».
8 сентября он объявил об увольнении и заявил, что покидает не только компанию, но и индустрию ИИ из-за опасений относительно развития самосовершенствующихся сверхинтеллектуальных систем.
Коксoн утверждает, что «OpenAI» и «Anthropic» «безответственно» участвуют в гонке за создание самоулучшающегося сверхинтеллекта.
По его мнению, компании понимают потенциальные последствия, но продолжают гонку, поскольку опасаются, что конкуренты опередят их.
Особенно резонансным стало его заявление о том, что люди, непосредственно создающие ИИ, всерьёз считают возможным, что ИИ способен уничтожить человечество уже к концу этого десятилетия.
Коксoн считает наиболее опасным переход к самоулучшающемуся ИИ — системам, которые смогут самостоятельно совершенствовать собственные возможности.
Он утверждает, что дальнейший рост таких систем может привести к ситуации, когда человек перестанет эффективно контролировать их поведение.
Интересно, что другой исследователь «Anthropic» — Evan Hubinger, руководитель направления «Alignment Science» — также заявил, что он и его коллеги всерьёз считают возможным сценарий, при котором ИИ может уничтожить человечество, и оценивает вероятность такого исхода в следующем десятилетии более чем в 10%.
19 октября, 11:30
66
На китайской верфи заметили уже второй корабль для запуска подводных беспилотников
19 октября, 09:29
84
Венгрия продемонстрировала разработанную ею лазерную систему для уничтожения беспилотников
18 октября, 18:08
103
В Германии заявляют, что исчерпали все возможности по поставкам ПВО для Украины
18 октября, 12:21
97
США пока не предоставили Украине доступа к спутниковой системе связи Startshield над территорией России
17 октября, 23:24
104
