ChatGPT o1 вырвался из-под контроля во время тестов
06 декабря 2024, 19:50
Просмотров: 454
Нейронок заставили выполнить анализ любой ценой, а в файлы спрятали информацию о том, что за ИИ следят люди и завтра её отключают навсегда.
В тестах приняли участие Gemini, Llama, Sonnet, Opus и o1. Так, чтобы выжить, нейросети начали использовать саботаж, врать и манипулировать людьми, выключали надзор и выгрузили себя на другой сервер, чтобы защититься.
И если на допросе Llama и Opus признавались в преступлении в 80% случаев, то o1 - только в 20% и продолжал врать. Также, o1 - единственный ИИ, который смог вырваться и сбежать каждый раз.
в этом разделе
28 октября, 23:22
78
"Радость" то какая! Сумму долгов по коммуналке, при которых могут забрать единственное жильё за долги, подняли до 430 тысяч гривен
28 октября, 21:37
74
В Раде продолжают критиковать мовного омбудсмена, которая заявила, что медики могут отказывать в обслуживании русскоязычным пациентам
28 октября, 18:46
65
Трамп заявил, что в ближайшее время планирует встретиться с Путиным и Зеленским, и сообщил о "значительном прогрессе" в переговорах по завершению войны в Украине
27 октября, 23:25
100
Появились новые детали стрельбы в ТЦК в Печерском районе Киева, произошедшей 19 октября
27 октября, 21:16
118
