«Разработчики спешат создать механизмы экстренного отключения ИИ до того, как произойдёт катастрофа», - «Axios»
Американские технологические компании разрабатывают системы защиты на случай, если алгоритмы искусственного интеллекта выйдут из-под контроля. Об этом сообщает портал «Axios».
Как отмечает издание, отдельные серверы при необходимости можно отключить, однако современные ИИ-системы используют сразу множество компьютеров и разных платформ.
Поэтому одного способа для их остановки недостаточно.
«Единого универсального решения нет», — говорится в публикации.
Компании поэтому создают многоуровневую защиту.
Такие системы должны распознавать подозрительное поведение ИИ-агентов, при необходимости останавливать их и ограничивать доступ к ресурсам.
В «OpenAI» сообщили, что компания стремится разработать полностью автономный механизм отключения на случай серьёзных сбоев. Специальный ИИ-наблюдатель будет отслеживать действия агентов и предупреждать сотрудников, если их поведение покажется опасным.
При подтверждении угрозы система отключит агента в течение 30 минут.
- Другие новости: «EBU» ОТКАЗАЛ КАЗАХСТАНУ В ДОПУСКЕ К «ЕВРОВИДЕНИЮ-2027»
30 сентября, 22:02
78
Украина может остаться без истребителей F-16 к концу года – уже сейчас более половины воздушных судов стоят в очереди на техобслуживание
30 сентября, 10:29
70
Трамп и главы крупнейших IT-компаний США подписали соглашение о безопасности искусственного интеллекта
29 сентября, 10:29
69


