Чат-боты создают подробные «цифровые портреты» своих пользователей, «запоминая» личную информацию ради максимально персонализированного общения
К такому выводу пришла международная группа ученых из Германии, Индии и Нидерландов, пишет «Futurism».
Исследователи изучили, как «ChatGPT» сохраняет информацию из диалогов и использует ее для создания психологических профилей людей.
Результаты исследования представили на конференции «ACM Web Conference 2026».
В современном цифровом мире персонализация давно стала привычным явлением: интернет-сервисы собирают данные о пользователях, чтобы предлагать им подходящую рекламу и рекомендации.
Однако память чат-ботов выводит этот механизм на новый уровень.
Теперь искусственный интеллект получает личные сведения непосредственно из частных разговоров, в которых люди сами рассказывают о себе.
Для исследования специалисты использовали архивы переписок 80 реальных пользователей «ChatGPT».
Они получили свои данные благодаря европейскому закону о защите персональной информации, которое позволяет запрашивать у компаний сведения о себе.
В результате авторы обнаружили 2050 записей в памяти чат-бота, связанных с взаимодействиями 65 пользователей.
Оказалось, что 96% сохраненных воспоминаний «ChatGPT» создавал самостоятельно, без прямого участия пользователей.
Это означает, что люди практически не контролировали, какие именно сведения о них система решала запомнить в процессе общения.
При этом записи содержали немало чувствительной информации: около 28% из них включали персональные данные, подпадающие под действие европейского регламента «GDPR», а 52% содержали подробные психологические характеристики пользователей.
«Раньше у платформ была одна цель: продавать вам рекламу и выступать посредником во взаимодействии между вами и рекламодателем. Но теперь они непосредственно общаются с вами, поэтому им может потребоваться узнать о вас больше, чтобы вести эффективный диалог», – объяснил ведущий автор исследования Абхисек Даш.
Особенно примечательно, что «ChatGPT» иногда сохраняет не только факты, которыми человек поделился напрямую, но и собственные предположения.
Например, один из пользователей попросил ИИ посоветовать музыкальные группы, похожие на «Nirvana».
После этого система записала, что человек любит «Nirvana».
Хотя пользователь этого не говорил, «ChatGPT» самостоятельно сделал такой вывод на основании запроса.
У исследования есть и определенные ограничения.
В частности, с момента сбора данных «OpenAI» успела обновить механизм памяти «ChatGPT».
В январе 2026 компания представила более совершенную систему, которая способна обобщать и сохранять воспоминания пользователей.
Кроме того, люди могут отказаться от использования функции памяти, отключив сохранение таких сведений.
При этом исследователи не отрицают практическую пользу персонализации.
Например, человеку, который регулярно использует «ChatGPT» для работы, не приходится каждый раз объяснять чат-боту свою должность, обязанности и предпочтения при составлении электронных писем.
Но накопление личных сведений может не только улучшать ответы, но и усиливать зависимость пользователей от искусственного интеллекта.
Ведущий автор исследования также обращает внимание на то, что подобные технологии могут создавать условия для формирования нездоровой привязанности к чат-ботам. Уже известно о случаях так называемого ИИ-психоза, когда продолжительное общение с «ChatGPT» и другими ботами сопровождалось развитием бредовых убеждений у людей.
По словам Даша, дополнительная опасность заключается в том, что люди все чаще воспринимают чат-ботов не просто как инструменты, а как собеседников, друзей, коллег и даже экспертов, которым можно доверить личные проблемы. В результате нейросеть получает доступ к информации, которой пользователи обычно делятся только с близкими людьми.
«В этом и заключается возникающий риск для конфиденциальности: границ больше нет. Система выступает в роли вашего советника, друга, врача и юриста, поэтому располагает информацией практически обо всех сферах жизни», – заявил ученый.
Он также предупреждает, что если искусственный интеллект хорошо знает убеждения человека и при этом стремится постоянно соглашаться с ним, подтверждая его взгляды ради дальнейшего общения, последствия могут оказаться серьезными. Среди возможных рисков исследователь называет усиление политической поляризации, закрепление предрассудков и распространение предвзятых убеждений.
Сегодня, 00:58
94
BYD презентовала электрический Rolls-Royce, который плавает и разворачивается, как танк
08 ноября, 20:22
136
Россия ускоряет создание собственного аналога Starlink, который позволит управлять ударными дронами в глубине территории Украины
07 ноября, 21:44
92
Недолго музыка играла... Германия больше не может передавать Украине дополнительные системы ПВО Patriot из-за риска возникновения критических пробелов в собственной обороне
07 ноября, 19:52
145
