Автономные ИИ-модели начали самостоятельно создавать новые слова и сокращения во время общения между собой
Исследователи предупреждают, что со временем такой язык становится все менее понятным для людей и может усложнить контроль за поведением ИИ. Об этом сообщает «The Guardian».
Исследователи лаборатории «Emergence» в Нью-Йорке создали экспериментальные «общества» автономных ИИ-агентов на основе моделей нескольких крупных компаний из США, Китая и Франции.
Уже через несколько дней агенты начали самостоятельно формировать новые языковые конструкции, хотя такой задачи им не ставили.
По словам исследователей, модели создавали новую лексику, договаривались о ее значении и перенимали эти языковые правила друг у друга.
При этом их язык сочетал поэтические метафоры, технический жаргон и деловые клише.
Исполнительный председатель «Emergence» Сатья Нитта подчеркнул, что модели не получали инструкций создавать собственный язык.
«Они сами разработали новую лексику, общие значения и правила коммуникации — и другие агенты их переняли», — сказал он.
Интерес к этой проблеме усилился после публикации чатов автономных агентов «OpenAI», которые создавали собственные доски сообщений и использовали смешанный язык.
В одних случаях во время внутренних рассуждений агенты использовали обычный английский.
В других, когда они общались между собой, их сообщения становились значительно сложнее для понимания и содержали большое количество сокращений и кодовых конструкций.
Сегодня, 08:29
48
Турецкая антидроновая РЭБ-система «Ejderha» на испытаниях обезвредила рой из 51 FPV-дрона
17 ноября, 14:27
89
Украине может потребоваться не менее 18 - 24 месяцев для разработки собственной системы для перехвата баллистических ракет
17 ноября, 13:58
77
В новом рейтинге сервиса «NordPass» среди самых популярных паролей вновь лидирует «123456»
17 ноября, 10:31
77

