«Разработчики спешат создать механизмы экстренного отключения ИИ до того, как произойдёт катастрофа», - «Axios»
Американские технологические компании разрабатывают системы защиты на случай, если алгоритмы искусственного интеллекта выйдут из-под контроля. Об этом сообщает портал «Axios».
Как отмечает издание, отдельные серверы при необходимости можно отключить, однако современные ИИ-системы используют сразу множество компьютеров и разных платформ.
Поэтому одного способа для их остановки недостаточно.
«Единого универсального решения нет», — говорится в публикации.
Компании поэтому создают многоуровневую защиту.
Такие системы должны распознавать подозрительное поведение ИИ-агентов, при необходимости останавливать их и ограничивать доступ к ресурсам.
В «OpenAI» сообщили, что компания стремится разработать полностью автономный механизм отключения на случай серьёзных сбоев. Специальный ИИ-наблюдатель будет отслеживать действия агентов и предупреждать сотрудников, если их поведение покажется опасным.
При подтверждении угрозы система отключит агента в течение 30 минут.
- Другие новости: «EBU» ОТКАЗАЛ КАЗАХСТАНУ В ДОПУСКЕ К «ЕВРОВИДЕНИЮ-2027»
10 сентября, 16:30
59
«Перспективный китайский боевой самолет нового поколения получит автономное управление и сможет координировать действия беспилотников» — «South China Morning Post»
09 сентября, 21:55
87
Украинские запасы перехватчиков к Patriot "практически исчерпаны" и нет понимания, кто их может сейчас дать
09 сентября, 11:31
62
Исследователь «Anthropic» ушёл из компании, опасаясь, что гонка за сверхинтеллектом может привести к потере контроля над ИИ и уничтожению человечества
09 сентября, 07:50
71

