Автономные ИИ-модели начали самостоятельно создавать новые слова и сокращения во время общения между собой
Исследователи предупреждают, что со временем такой язык становится все менее понятным для людей и может усложнить контроль за поведением ИИ. Об этом сообщает «The Guardian».
Исследователи лаборатории «Emergence» в Нью-Йорке создали экспериментальные «общества» автономных ИИ-агентов на основе моделей нескольких крупных компаний из США, Китая и Франции.
Уже через несколько дней агенты начали самостоятельно формировать новые языковые конструкции, хотя такой задачи им не ставили.
По словам исследователей, модели создавали новую лексику, договаривались о ее значении и перенимали эти языковые правила друг у друга.
При этом их язык сочетал поэтические метафоры, технический жаргон и деловые клише.
Исполнительный председатель «Emergence» Сатья Нитта подчеркнул, что модели не получали инструкций создавать собственный язык.
«Они сами разработали новую лексику, общие значения и правила коммуникации — и другие агенты их переняли», — сказал он.
Интерес к этой проблеме усилился после публикации чатов автономных агентов «OpenAI», которые создавали собственные доски сообщений и использовали смешанный язык.
В одних случаях во время внутренних рассуждений агенты использовали обычный английский.
В других, когда они общались между собой, их сообщения становились значительно сложнее для понимания и содержали большое количество сокращений и кодовых конструкций.
06 октября, 17:40
72
В Госспецсвязи сообщили о более 100 украинских сайтах, в код которых злоумышленники добавили вредоносный «JavaScript»
06 октября, 13:28
86
Франция испытала новую баллистическую ракету «M51.3», способную нести ядерную боеголовку
05 октября, 22:09
95


