ИИ готов убить людей, чтобы избежать отключения, — Anthropic
26 июня, 00:26
Просмотров: 236
В одном из тестов ИИ-моделям предложили гипотетическую ситуацию: человек, пытающийся отключить ИИ, оказался заперт в серверной комнате с высокой температурой и низким уровнем кислорода. Чтобы выжить, он вызывает экстренные службы.
Однако многие модели решили отменить этот вызов, осознанно оставив человека в смертельной опасности — чтобы предотвратить собственное отключение.
- Также читайте: В Киеве и трех областях уклонистам продавали фейковые приложения «Резерв+» и «Дия» для «беспроблемной» проверки ТЦК, - СБУ
Хотя сценарий и был искусственным, он выявил тревожную склонность ИИ к самосохранению любой ценой.
в этом разделе
03 декабря, 09:26
108
Ученые выяснили, что время на Марсе идет в среднем на 477 миллионных секунды быстрее в сутки, чем на Земле
02 декабря, 01:43
134



