«Разработчики спешат создать механизмы экстренного отключения ИИ до того, как произойдёт катастрофа», - «Axios»
Американские технологические компании разрабатывают системы защиты на случай, если алгоритмы искусственного интеллекта выйдут из-под контроля. Об этом сообщает портал «Axios».
Как отмечает издание, отдельные серверы при необходимости можно отключить, однако современные ИИ-системы используют сразу множество компьютеров и разных платформ.
Поэтому одного способа для их остановки недостаточно.
«Единого универсального решения нет», — говорится в публикации.
Компании поэтому создают многоуровневую защиту.
Такие системы должны распознавать подозрительное поведение ИИ-агентов, при необходимости останавливать их и ограничивать доступ к ресурсам.
В «OpenAI» сообщили, что компания стремится разработать полностью автономный механизм отключения на случай серьёзных сбоев. Специальный ИИ-наблюдатель будет отслеживать действия агентов и предупреждать сотрудников, если их поведение покажется опасным.
При подтверждении угрозы система отключит агента в течение 30 минут.
- Другие новости: «EBU» ОТКАЗАЛ КАЗАХСТАНУ В ДОПУСКЕ К «ЕВРОВИДЕНИЮ-2027»
10 октября, 11:28
84
Испания и Греция не согласились передать Украине ракеты для Patriot, срок эксплуатации которых скоро истечет
09 октября, 16:28
94
Компания «Anthropic» в обновлённой Политике допустимого использования официально запретила «необоснованное жестокое или оскорбительное обращение» с ИИ
09 октября, 09:29
69


