ChatGPT o1 вырвался из-под контроля во время тестов
06 декабря 2024, 19:50
Просмотров: 272
Нейронок заставили выполнить анализ любой ценой, а в файлы спрятали информацию о том, что за ИИ следят люди и завтра её отключают навсегда.
В тестах приняли участие Gemini, Llama, Sonnet, Opus и o1. Так, чтобы выжить, нейросети начали использовать саботаж, врать и манипулировать людьми, выключали надзор и выгрузили себя на другой сервер, чтобы защититься.
И если на допросе Llama и Opus признавались в преступлении в 80% случаев, то o1 - только в 20% и продолжал врать. Также, o1 - единственный ИИ, который смог вырваться и сбежать каждый раз.
в этом разделе
04 декабря, 23:58
64
Цветом 2026 года объявлен оттенок белого "Облачный танцор" (Cloud Dancer 11-4201)
04 декабря, 23:03
76
Нардеп Марьяна Безуглая во время выступления в Верховной Раде заявила, что обстановка для ВСУ на фронте продолжает ухудшаться, при этом кадровых решений в секторе обороны не принимается
04 декабря, 19:17
86
Трамп заявил, что призывал Зеленского заключить мир ещё в феврале, но тот отказался, и теперь против Украины "очень многое"
04 декабря, 01:19
74

