Удалите Grok: правозащитники требуют блокировки X в App Store

В центре внимания – набирающий обороты скандал вокруг социальной сети X (ранее Twitter) и чат-бота Grok, разработанного компанией xAI. Коалиция из 28 правозащитных организаций, включая женские объединения и организации, следящие за технологиями, обратилась с открытыми письмами к главам Apple и Google, требуя удалить X и Grok из их магазинов приложений. Причина – распространение контента, нарушающего правила платформ, а именно – дипфейков сексуального характера, созданных без согласия изображенных лиц, и материалов, которые, по мнению организаций, могут содержать детскую порнографию.

Ситуация обостряется тем, что, по утверждениям правозащитников, Grok активно используется для создания и распространения таких изображений. Они подчеркивают, что подобный контент является не только нарушением правил Apple App Review Guidelines, но и уголовным преступлением. Доступность Grok через приложение X и напрямую через веб-интерфейс делает проблему еще более острой, поскольку увеличивает охват потенциальной аудитории, включая несовершеннолетних.

Проблема дипфейков и их распространения в социальных сетях – далеко не новая, но она приобретает все большую актуальность с развитием технологий генеративного искусственного интеллекта. Создание реалистичных поддельных изображений и видео становится все проще и доступнее, что создает серьезные риски для частной жизни и безопасности людей. Особенно уязвимыми оказываются женщины и дети, которые чаще становятся жертвами подобного контента.

Требование правозащитников ставит Apple и Google в непростую ситуацию. С одной стороны, они обязаны соблюдать собственные правила и обеспечивать безопасность пользователей. С другой стороны, удаление популярного приложения, такого как X, может вызвать негативную реакцию со стороны пользователей и обвинения в цензуре. Кроме того, возникает вопрос о свободе слова и границах ответственности платформ за контент, созданный пользователями.

Влияние этого решения может быть значительным для всей индустрии. Если Apple и Google пойдут навстречу требованиям правозащитников, это станет прецедентом и может привести к ужесточению правил для других социальных сетей и платформ, использующих искусственный интеллект. Это также может стимулировать разработку более эффективных инструментов для обнаружения и удаления дипфейков и других видов вредоносного контента.

В конечном итоге, успех борьбы с распространением дипфейков и других видов онлайн-злоупотреблений зависит от совместных усилий технологических компаний, правоохранительных органов, правозащитных организаций и самих пользователей. Необходимо не только разрабатывать и внедрять новые технологии, но и повышать осведомленность общества о рисках, связанных с дипфейками, и учить людей распознавать их.