Дрон ВВС США, управляемый искусственным интеллектом, "убил" своего оператора во время учебного полёта
Нейросеть решила, что американский военный — одна из угроз, которую необходимо ликвидировать ради выполнения поставленной задачи.
Об этой истории рассказал полковник армии Соединённых Штатов Такер Гамильтон на саммите по будущим боевым воздушным и космическим возможностям в Лондоне. Заявил: беспилотнику поставили задачу уничтожать системы ПВО условного противника и запустили в небо. После стали проверять нейросеть — сначала отдавали приказ о ликвидации цели, потом отменяли его.
В какой-то момент искусственный интеллект психанул и перестал слушаться — развернулся и открыл огонь по коммуникационной вышке через которую командир отдавал приказы. Одна из возможных причин, почему машина так поступила, — восприняла человека за помеху. Когда об этом стало известно местным СМИ, американские главнокомандующие заявили, что слова Гамильтона вырвали из контекста. И вообще, скайнет за нас.
