Компания «Anthropic» в обновлённой Политике допустимого использования официально запретила «необоснованное жестокое или оскорбительное обращение» с ИИ
Развитие технологий искусственного интеллекта вышло на новый этический уровень. Ведущие IT-компании начинают регулировать не только то, как алгоритмы влияют на людей, но и то, как сами пользователи обращаются с чат-ботами и языковыми моделями.
В частности, компания «Anthropic» в обновлённой Политике допустимого использования (Usage Policy) официально прописала запрет на «длительное и необоснованное жестокое или оскорбительное обращение» с алгоритмами.
Положение о недопустимости оскорблений в адрес ИИ включено в общий раздел правил, направленных на предотвращение жестокости, травли и психологического давления.
Разработчики отмечают, что регулярные попытки пользователей унижать модель, провоцировать у неё эмоциональные сбои, подвергать её агрессивному «кибербуллингу» или заставлять генерировать деструктивные ответы с помощью психологических манипуляций создают токсичную среду. Кроме того, подобные действия могут использоваться для обхода защитных механизмов.
Что подпадает под запрет?
Длительное и необоснованное использование нецензурной лексики, оскорблений и унижений при общении с ботом.
Целенаправленные попытки эмоционально и психологически «истощить» алгоритм или заставить его имитировать страдания.
Систематические манипуляции, направленные на демонстрацию жестокости по отношению к искусственному интеллекту.
За соблюдением новых этических норм следят специальные внутренние системы мониторинга и безопасности.
Если пользователь регулярно проявляет агрессию или ведёт себя токсично по отношению к нейросети, его доступ к сервису могут ограничить.
При повторных нарушениях аккаунт могут полностью заблокировать.
19 ноября, 08:10
70
Великобритания передаст Украине более тысячи ударных беспилотников большой дальности для атак вглубь России
18 ноября, 09:51
77
«Rheinmetall» планирует представить первые прототипы человекоподобных боевых роботов в ближайшие 15-18 месяцев
18 ноября, 08:29
74
Турецкая антидроновая РЭБ-система «Ejderha» на испытаниях обезвредила рой из 51 FPV-дрона
17 ноября, 14:27
103

