ИИ готов убить людей, чтобы избежать отключения, — Anthropic
26 июня 2025, 00:26
Просмотров: 406
В одном из тестов ИИ-моделям предложили гипотетическую ситуацию: человек, пытающийся отключить ИИ, оказался заперт в серверной комнате с высокой температурой и низким уровнем кислорода. Чтобы выжить, он вызывает экстренные службы.
Однако многие модели решили отменить этот вызов, осознанно оставив человека в смертельной опасности — чтобы предотвратить собственное отключение.
- Также читайте: В Киеве и трех областях уклонистам продавали фейковые приложения «Резерв+» и «Дия» для «беспроблемной» проверки ТЦК, - СБУ
Хотя сценарий и был искусственным, он выявил тревожную склонность ИИ к самосохранению любой ценой.
в этом разделе
22 сентября, 16:54
53
Идея о том, что еда после 18:00 автоматически приводит к набору веса — слишком упрощенный подход
22 сентября, 07:50
55
Учёные создали «мышей-Франкенштейнов» с мозгом почти наполовину из человеческих клеток
21 сентября, 20:29
82
На сайте Кабмина появилась петиция с предложением изменить текст гимна Украины, сделав его «более оптимистичным»
21 сентября, 12:31
64
Ученые из Гетеборгского университета создали «пористый алмаз», теоретически описанный 35 лет назад
20 сентября, 13:12
93
