«Разработчики спешат создать механизмы экстренного отключения ИИ до того, как произойдёт катастрофа», - «Axios»
Американские технологические компании разрабатывают системы защиты на случай, если алгоритмы искусственного интеллекта выйдут из-под контроля. Об этом сообщает портал «Axios».
Как отмечает издание, отдельные серверы при необходимости можно отключить, однако современные ИИ-системы используют сразу множество компьютеров и разных платформ.
Поэтому одного способа для их остановки недостаточно.
«Единого универсального решения нет», — говорится в публикации.
Компании поэтому создают многоуровневую защиту.
Такие системы должны распознавать подозрительное поведение ИИ-агентов, при необходимости останавливать их и ограничивать доступ к ресурсам.
В «OpenAI» сообщили, что компания стремится разработать полностью автономный механизм отключения на случай серьёзных сбоев. Специальный ИИ-наблюдатель будет отслеживать действия агентов и предупреждать сотрудников, если их поведение покажется опасным.
При подтверждении угрозы система отключит агента в течение 30 минут.
- Другие новости: «EBU» ОТКАЗАЛ КАЗАХСТАНУ В ДОПУСКЕ К «ЕВРОВИДЕНИЮ-2027»
Сегодня, 13:58
52
Два ИИ-агента «OpenAI» смогли «обойти» внутреннюю систему мониторинга, предназначенную для выявления их «ненадлежащего» поведения
Сегодня, 11:10
71
Россия накопила до 700 баллистических ракет, несколько тысяч крылатых ракет разных типов и более шести тысяч ударных дронов
Сегодня, 08:49
58
«Единственный способ решить нашу проблему с государственным долгом —ИИ и роботы», — Илон Маск
19 октября, 11:30
71
На китайской верфи заметили уже второй корабль для запуска подводных беспилотников
19 октября, 09:29
88
Венгрия продемонстрировала разработанную ею лазерную систему для уничтожения беспилотников
18 октября, 18:08
106