ЕС начинает официальное расследование в отношении социальной сети X из-за алгоритма ИИ
Европейский Союз открыл формальное расследование в отношении социальной сети X, принадлежащей Илону Маску, после того как её искусственный интеллект Grok начал генерировать неприемлемые сексуализированные дипфейки. Данный шаг стал ответом на многочисленные жалобы пользователей и обеспокоенность общественности в связи с распространением неподобающего контента на платформе.
Регуляторы ЕС также расширили отдельное, продолжающееся расследование, касающееся рекомендаций X, после того как платформа объявила о переходе на систему искусственного интеллекта Grok для определения того, какие посты будут видны пользователям. Это решение вызвало серьезные опасения, так как Grok позволял пользователям с помощью своих инструментов редактирования изображений изменять фото и создавать образы, в том числе с элементами откровенной одежды.
Критически настроенные исследователи отметили, что некоторые генерируемые изображения могли содержать детей, что усугубляет ситуацию. В ответ на эти нарушения, некоторые страны уже заблокировали доступ к услугам Grok или выпустили предупреждения.
Исполнительный орган ЕС проводит анализ того, соблюдает ли X обязательства в соответствии с новыми европейскими цифровыми регламентами, направленными на предотвращение распространения незаконного контента. Европейская Комиссия подчеркивает, что распространение «манипулированных сексуально откровенных изображений» представляет собой серьезный риск, угрожающий гражданам ЕС.
Анализируется способность Grok соответствовать требованиям Закона о цифровых услугах (DSA), охватывающего широкий спектр норм по обеспечению безопасности интернет-пользователей от вредоносного контента и продуктов. В этом контексте Генеральный прокурор ЕС, Хенна Вирккунен, заявила, что «недопустимые несанкционированные сексуальные дипфейки женщин и детей представляют собой насильственную, неприемлемую форму деградации».
В ответ на запрос комментариев, представитель X сослался на ранее сделанное заявление, в котором компания утверждает о своей приверженности созданию безопасной платформы и отсутствии терпимости к эксплуатации детей и неприемлемому содержимому.
X уже сталкивался с проблемами из-за нарушений, связанных с неправильным использованием синего значка для верификации, за что в декабре получил штраф в размере 120 миллионов евро. С учетом этого, расследование в отношении Grok может привести как к обязательствам X изменить свою практику, так и к новым финансовым санкциям.
Между тем, Министерство внутренних дел Малайзии и Индонезии уже заблокировало доступ к Grok в ответ на глобальные споры, став первыми странами, принявшими такие меры. Однако после того, как X представила дополнительные меры безопасности, власти Малайзии временно сняли ограничение.
Также X сталкивается с давлением в Соединенных Штатах: Генеральные прокуроры 35 штатов призвали компанию представить планы по предотвращению создания несанкционированных сексуализированных дипфейков и описать, как они намерены устранить существующий контент с платформы.
В условиях постоянно меняющегося цифрового ландшафта и возрастающей озабоченности по поводу безопасности онлайн-контента, расследование Европейским Союзом подчеркивает необходимость строгого контроля за новыми технологиями и их воздействием на общество. Эксперты обеспокоены тем, что без соответствующих мер, подобные технологии могут серьезно повлиять на безопасность и правозащитные инициативы, особенно в отношении уязвимых групп, таких как женщины и дети.
