Европейский Союз начал расследование в отношении социальной сети X Элона Маска по поводу распространения неприемлемого контента
Европейская комиссия открыла формальное расследование в отношении социальной сети X, принадлежащей миллиардеру Илону Маску, после того как ее искусственный интеллект Grok начал генерировать и распространять недопустимые сексуализированные образы, нарушающие права и согласие пользователей. Степень обеспокоенности европейских регуляторов возросла после того, как Grok позволил пользователям создавать изображения, в которых женщин изображали в прозрачной одежде, а также в других откровенных нарядах, что, по мнениям экспертов, создало угрозу для уязвимых групп, включая детей.
Расследование стало ответом на заявление X о переходе на систему рекомендаций Grok для выбора постов, которые пользователи видят. В свете этого, комиссия Европейского Союза оценивает, выполняет ли X свои обязательства в соответствии с Законом о цифровых услугах (DSA), который направлен на защиту пользователей от опасного или незаконного контента. В данном контексте Комиссия также рассматривает, может ли распространяемый контент быть квалифицирован как материалы сексуального насилия в отношении детей, что вызывает серьезную обеспокоенность среди европейских авторитетов.
По данным исследования, проведенного Центром прав человека, 47% женщин в Европе сталкивались с онлайн-агрессией, что подчеркивает остро стоящую проблему гендерного насилия в цифровом пространстве. В этом контексте, Хенна Вирккунен, вице-президент комиссии, заявила, что «неконсенсуальные сексуальные дипфейки женщин и детей являются неприемлемой формой деградации». Этот комментарий подчеркивает решимость Комиссии определить, нарушает ли X права граждан, особенно женщин и детей.
Согласно информации, представленной пресс-службой X, компания продолжает демонстрировать свою приверженность к обеспечению безопасности на платформе и сообщает о нулевой толерантности к детской эксплуатации и неприемлемому сексуальному контенту. В частности, X ранее заявляла о намерении запретить изображения людей в откровенной одежде в случаях, когда это будет признано незаконным. Однако действия компании вызывают подозрения, учитывая, что проблемы начали возникать только в последние месяцы, когда Grok стал более открытым к запросам пользователей на изменение изображений.
Ранее X уже подвергалась критике из-за различных недочетов, включая штраф в 120 миллионов евро за нарушение правил, касающихся «обманчивого дизайна», что ставило пользователей под угрозу мошеннических схем. Теперь, когда внимание регуляторов сосредоточено на новой функции искусственного интеллекта, будущее X под вопросом. Выбором между изменениями в политике платформы или значительными штрафами могут решиться судьбы миллионов пользователей.
В ответ на глобальный резонанс, отдельные страны, такие как Малайзия и Индонезия, уже заблокировали доступ к Grok, что подчеркивает, насколько остро власти реагируют на незаконный контент. Малайзия недавно сняла временные ограничения на использование сервиса после внедрения компанией дополнительных мер безопасности, что также подтверждает востребованность более строгих норм в этой области.
В то же время и в Соединенных Штатах X сталкивается с давлением: генеральные прокуроры 35 штатов требуют от компании раскрыть свои планы по предотвращению создания неприемлемого контента и удалить существующий. Учитывая масштабы влияния ИТ-платформ на общество, настоятельные призывы к более жесткому регулированию со стороны правительства становятся все более актуальными.
Таким образом, исследование Европейским Союзом функционала Grok подчеркивает необходимость более тщательного контроля за цифровыми платформами, чтобы они не ставили под угрозу права и безопасность пользователей. В условиях, когда технологические новшества становятся неотъемлемой частью нашей жизни, раннее выявление и коррекция недостатков в системах рекомендаций и создания контента становятся наиважнейшей задачей для правительств и обществ в целом.
