В Китае с использованием ИИ разрабатывают технологию выявления потенциальных диссидентов еще до того, как они начнут выражать публичное несогласие
Китайская компания «Geedge Networks» пытается разработать технологию на основе искусственного интеллекта, которая позволит авторитарным правительствам не только следить за диссидентами, но и потенциально предсказывать, кто может стать инакомыслящим в будущем, пишет «The New York Times».
Этот проект напоминает антиутопическую научную фантастику и дает представление о мире, где авторитарное государство способно принимать меры против своих граждан еще до того, как они начнут выражать публичное несогласие.
Компания «Geedge Networks» специализируется на продаже коммерческой версии «Большого брандмауэра» — программного обеспечения для наблюдения и цензуры, используемого Китаем для контроля за деятельностью в интернете.
Инструмент позволяет отслеживать интернет-трафик и сигнализировать, когда кто пытается обойти традиционную интернет-цензуру.
Однако журналисты получили доступ к утечке внутренних документов компании, свидетельствующих о еще одной ее разработке — инструменте на базе ИИ для анализа данных о местонахождении и использовании интернета, чтобы предсказать, кто может сделать или сказать что-то критическое в адрес Правительства, еще до того, как человек сделает это.
Эксперты бьют тревогу из-за перспектив использования искусственного интеллекта авторитарными правительствами.
«Вот что происходит, когда массовая слежка сочетается с искусственным интеллектом. Без системы сдерживаний и противовесов то, что Китай делает со своими гражданами, является анонсом того, что станет возможным где угодно, где эти инструменты остаются без контроля», — считает Бретт Дж. Голдштейн из Института национальной безопасности Университета Вандербильта.
