В «Microsoft» уверены, что «искусственный интеллект нужно создавать для людей, а не как человека»

По словам Сулеймана, исследования, предполагающие возможность «страданий» или эмоционального опыта у ИИ, вводят в заблуждение. «Если сформулировать вопрос неправильно, ответ тоже будет неправильным. Это полностью неверная постановка задачи», - отметил он.

Сулейман является одним из наиболее заметных представителей индустрии, выступающих против идеи «сознательного» ИИ - систем, которые могут создавать впечатление, будто они переживают эмоции. В 2023 году он стал соавтором книги «The Coming Wave», посвященной рискам ИИ и других развивающихся технологий, а также опубликовал эссе под названием «Мы должны создавать ИИ для людей, а не ИИ как человека».

Интерес к «эмоциональному» или «компаньонскому» ИИ растет - такие продукты разрабатывают, в частности, «Meta» и «xAI». При этом технологические компании продолжают движение в сторону систем, способных выполнять широкий спектр интеллектуальных задач на уровне человека (AGI).

Однако Сулейман подчеркивает различие между функциональными возможностями ИИ и наличием субъективного опыта. Он ссылается на концепцию биологического натурализма, согласно которой сознание возможно только при наличии живого мозга. «Люди имеют права, потому что способны испытывать боль и стремятся ее избегать. У моделей этого нет - это лишь симуляция», - отметил он.

При этом Сулейман подчеркнул, что не призывает запрещать исследования в этой области, но считает необходимым ясно обозначать пределы возможностей технологий.

Выступая ранее на «Paley International Council Summit», Сулейман заявил, что «Microsoft» не будет разрабатывать чат-ботов для эротического взаимодействия - в отличие от некоторых конкурентов.

Сулейман присоединился к «Microsoft» в 2024 году после сделки на 650 млн долларов по поглощению его стартапа «Inflection AI». До этого он был сооснователем «DeepMind», которую приобрела «Google».

По его словам, важным фактором перехода в «Microsoft» стали технологическая база компании и стремление создать собственные модели ИИ полного цикла. Он также подчеркнул, что сервисы Microsoft строятся таким образом, чтобы ИИ осознавал свою роль помощника, а не «личности».

На прошлой неделе «Microsoft» представила обновления для «Copilot», включая новый режим общения «Real Talk», предназначенный для того, чтобы ИИ мог мягко разбирать аргументы пользователя и предлагать альтернативные точки зрения.

Сулейман отметил, что такой подход помогает формировать у ИИ «персональность», но в рамках четко заданных ценностей и без попыток имитировать эмоции. При этом он подчеркнул, что развитие ИИ сопровождается рисками, требующими осторожности.

• Другие новости: «ПРАВИТЕЛЬСТВО ВЕЛИКОБРИТАНИИ ТАЙНО ПОСТАВИЛО УКРАИНЕ ДОПОЛНИТЕЛЬНУЮ ПАРТИЮ КРЫЛАТЫХ РАКЕТ «STORM SHADOW», - «BLOOMBERG»