Папа Римский Лев XIV призвал не позволить владельцам искусственного интеллекта захватить власть над человечеством

Документ называется «Великолепное человечество» («Magnifica humanitas») и проводит мысль, что ИИ должен служить человечеству, а не помогать концентрировать власть.

«Vatican News» приводит основные положения энциклики:

Технология не является силой, враждебной человечеству, или злом, но никогда не бывает нейтральной, потому что принимает черты тех, кто её разрабатывает, финансирует, регулирует и использует;

Технологии не должны находиться в руках немногих, увеличивая разрыв между теми, кто включен в цифровую революцию, и теми, кто исключен из нее. В цифровую эпоху социальная справедливость требует обеспечения справедливого доступа к возможностям для всех людей, защиты наиболее уязвимых, борьбы с ненавистью и дезинформацией, а также подчинения использования технологий общественному контролю, «чтобы руководящим принципом была не только прибыль, но и достоинство каждого человека и общее благо всех людей»;

Необходим бдительный подход к ИИ. Выбор не должен диктовался исключительно эффективностью и прибылью. ИИ может имитировать и моделировать человека, но он не обладает моральным сознанием, эмпатией, межличностными или духовными способностями. Следует быть ответственными на каждом этапе разработки технологии, учитывая правовые рамки в области ИИ;

Нельзя игнорировать воздействие новых технологий на окружающую среду, поскольку они требуют больших объемов энергии и воды;

ИИ необходимо разоружить, освободить его от менталитета военной и экономической конкуренции: «Разоружение означает дискредитацию предположения о том, что техническая мощь автоматически дает право на управление. Разоружение не означает отказ от технологий, а предотвращение их господства над человечеством»;

ИИ порождает новые формы рабства, в том числе на добыче редкоземельных элементов, необходимых для технологий. Важно бороться с новыми формами рабства.

Также папа раскритиковал использование оружия, связанного с ИИ, поскольку «нет алгоритма, который мог бы сделать войну морально приемлемой».

«ИИ не устраняет присущую конфликту бесчеловечность; напротив, он может лишь быстрее вызывать конфликты и делать их более безличными, снижая порог для применения насилия, превращая оборону в прогнозирование угроз и тем самым сводя жертв к данным. Таким образом, он приучит нас к мысли, что насилие неизбежно и нуждается лишь в оптимизации», - отметил понтифик.

Отметим, мысли о том, что искусственный интеллект в современных войнах может стать «оружием массового поражения», уже звучат со стороны компаний, которые уже применяют ИИ в военных технологиях.

• Другие новости: МИД РОССИИ ОПЯТЬ ПРИЗВАЛО ПЕРСОНАЛ ДИПЛОМАТИЧЕСКИХ МИССИЙ И МЕЖДУНАРОДНЫХ ОРГАНИЗАЦИЙ ПОКИНУТЬ КИЕВ