В «Microsoft» уверены, что «искусственный интеллект нужно создавать для людей, а не как человека»
Глава направления ИИ в «Microsoft» Мустафа Сулейман считает, что попытки представить ИИ как «осознающего себя» являются ошибочными. Об этом сообщается на сайте «CNBC».
По словам Сулеймана, исследования, предполагающие возможность «страданий» или эмоционального опыта у ИИ, вводят в заблуждение. «Если сформулировать вопрос неправильно, ответ тоже будет неправильным. Это полностью неверная постановка задачи», - отметил он.
Сулейман является одним из наиболее заметных представителей индустрии, выступающих против идеи «сознательного» ИИ - систем, которые могут создавать впечатление, будто они переживают эмоции. В 2023 году он стал соавтором книги «The Coming Wave», посвященной рискам ИИ и других развивающихся технологий, а также опубликовал эссе под названием «Мы должны создавать ИИ для людей, а не ИИ как человека».
Интерес к «эмоциональному» или «компаньонскому» ИИ растет - такие продукты разрабатывают, в частности, «Meta» и «xAI». При этом технологические компании продолжают движение в сторону систем, способных выполнять широкий спектр интеллектуальных задач на уровне человека (AGI).
Однако Сулейман подчеркивает различие между функциональными возможностями ИИ и наличием субъективного опыта. Он ссылается на концепцию биологического натурализма, согласно которой сознание возможно только при наличии живого мозга. «Люди имеют права, потому что способны испытывать боль и стремятся ее избегать. У моделей этого нет - это лишь симуляция», - отметил он.
При этом Сулейман подчеркнул, что не призывает запрещать исследования в этой области, но считает необходимым ясно обозначать пределы возможностей технологий.
Выступая ранее на «Paley International Council Summit», Сулейман заявил, что «Microsoft» не будет разрабатывать чат-ботов для эротического взаимодействия - в отличие от некоторых конкурентов.
Сулейман присоединился к «Microsoft» в 2024 году после сделки на 650 млн долларов по поглощению его стартапа «Inflection AI». До этого он был сооснователем «DeepMind», которую приобрела «Google».
По его словам, важным фактором перехода в «Microsoft» стали технологическая база компании и стремление создать собственные модели ИИ полного цикла. Он также подчеркнул, что сервисы Microsoft строятся таким образом, чтобы ИИ осознавал свою роль помощника, а не «личности».
На прошлой неделе «Microsoft» представила обновления для «Copilot», включая новый режим общения «Real Talk», предназначенный для того, чтобы ИИ мог мягко разбирать аргументы пользователя и предлагать альтернативные точки зрения.
Сулейман отметил, что такой подход помогает формировать у ИИ «персональность», но в рамках четко заданных ценностей и без попыток имитировать эмоции. При этом он подчеркнул, что развитие ИИ сопровождается рисками, требующими осторожности.
