Компания «Anthropic» в обновлённой Политике допустимого использования официально запретила «необоснованное жестокое или оскорбительное обращение» с ИИ
Развитие технологий искусственного интеллекта вышло на новый этический уровень. Ведущие IT-компании начинают регулировать не только то, как алгоритмы влияют на людей, но и то, как сами пользователи обращаются с чат-ботами и языковыми моделями.
В частности, компания «Anthropic» в обновлённой Политике допустимого использования (Usage Policy) официально прописала запрет на «длительное и необоснованное жестокое или оскорбительное обращение» с алгоритмами.
Положение о недопустимости оскорблений в адрес ИИ включено в общий раздел правил, направленных на предотвращение жестокости, травли и психологического давления.
Разработчики отмечают, что регулярные попытки пользователей унижать модель, провоцировать у неё эмоциональные сбои, подвергать её агрессивному «кибербуллингу» или заставлять генерировать деструктивные ответы с помощью психологических манипуляций создают токсичную среду. Кроме того, подобные действия могут использоваться для обхода защитных механизмов.
Что подпадает под запрет?
Длительное и необоснованное использование нецензурной лексики, оскорблений и унижений при общении с ботом.
Целенаправленные попытки эмоционально и психологически «истощить» алгоритм или заставить его имитировать страдания.
Систематические манипуляции, направленные на демонстрацию жестокости по отношению к искусственному интеллекту.
За соблюдением новых этических норм следят специальные внутренние системы мониторинга и безопасности.
Если пользователь регулярно проявляет агрессию или ведёт себя токсично по отношению к нейросети, его доступ к сервису могут ограничить.
При повторных нарушениях аккаунт могут полностью заблокировать.
29 октября, 19:28
102
Украина действительно использовала коммерческий Starlink для военных операций, несмотря на запрет со стороны компании Илона Маска
29 октября, 16:28
60
