«Разработчики спешат создать механизмы экстренного отключения ИИ до того, как произойдёт катастрофа», - «Axios»
Американские технологические компании разрабатывают системы защиты на случай, если алгоритмы искусственного интеллекта выйдут из-под контроля. Об этом сообщает портал «Axios».
Как отмечает издание, отдельные серверы при необходимости можно отключить, однако современные ИИ-системы используют сразу множество компьютеров и разных платформ.
Поэтому одного способа для их остановки недостаточно.
«Единого универсального решения нет», — говорится в публикации.
Компании поэтому создают многоуровневую защиту.
Такие системы должны распознавать подозрительное поведение ИИ-агентов, при необходимости останавливать их и ограничивать доступ к ресурсам.
В «OpenAI» сообщили, что компания стремится разработать полностью автономный механизм отключения на случай серьёзных сбоев. Специальный ИИ-наблюдатель будет отслеживать действия агентов и предупреждать сотрудников, если их поведение покажется опасным.
При подтверждении угрозы система отключит агента в течение 30 минут.
- Другие новости: «EBU» ОТКАЗАЛ КАЗАХСТАНУ В ДОПУСКЕ К «ЕВРОВИДЕНИЮ-2027»
09 ноября, 16:56
66
Чат-боты создают подробные «цифровые портреты» своих пользователей, «запоминая» личную информацию ради максимально персонализированного общения
09 ноября, 00:58
95
BYD презентовала электрический Rolls-Royce, который плавает и разворачивается, как танк
08 ноября, 20:22
149
Россия ускоряет создание собственного аналога Starlink, который позволит управлять ударными дронами в глубине территории Украины
07 ноября, 21:44
93

