Компания «Apple» угрожает удалить чат-бот «Grok» из «App Store»
Компания «Apple» потребовала от «xAI» прекратить генерацию сексуализированных дипфейков в чат-боте «Grok». В противном случае приложение могли удалить из «App Store», сообщает «MacRumors».
Отмечается, что в «Apple предупредили компанию «xAI» о возможном удалении приложения «Grok» из-за нарушения правил платформы.
Речь шла о создании чат-ботом сексуализированных изображений женщин и детей без их согласия.
По данным издания, «Apple» признала «Grok» и платформу «X» нарушающими правила «App Store» и потребовала от разработчиков предоставить план модерации контента. Первую версию изменений компания отклонила, заявив, что она «недостаточна», и настояла на дополнительных ограничениях.
После доработки приложения «Apple» согласилась оставить «Grok» в «App Store». В то же время проверка показала, что даже после изменений чат-бот иногда все еще способен генерировать подобный контент, если пользователи обходят ограничения.
Ранее американские сенаторы призвали «Apple» и «Google» удалить приложение из-за нарушения правил, запрещающих оскорбительный и эксплуатационный контент. В «xAI» заявили, что запрещают создание таких изображений и используют фильтры, мониторинг и обновления моделей для предотвращения злоупотреблений.





