A Comissão Europeia anunciou nesta segunda-feira (26) a abertura de uma investigação contra a rede social X pela criação de imagens sexualizadas e sem consentimento por parte de sua inteligência artificial, o Grok, e examinará se a empresa de propriedade do empresário Elon Musk cumpre com suas obrigações sob as leis digitais europeias.

Em comunicado, Bruxelas informou que avaliará se o X examinou adequadamente e mitigou os riscos associados à implementação das funções do Grok na União Europeia, incluindo a possível distribuição de conteúdo ilegal, como imagens manipuladas sexualmente explícitas que podem, até mesmo, ser consideradas material de abuso sexual infantil.

“Estes riscos parecem ter se concretizado. Por isso, a Comissão investigará se o X cumpre com suas obrigações sob a Lei de Serviços Digitais para avaliar e mitigar riscos sistêmicos (…) e de produzir e enviar à Comissão um relatório de riscos ad hoc sobre as funcionalidades do Grok que tenham um impacto fundamental no perfil de risco do X antes de lançá-lo”, declarou.

Mesmo antes de iniciar a investigação, a Comissão Europeia já havia ordenado à rede social X que conservasse toda a sua documentação interna relativa ao Grok durante o ano de 2026, no âmbito da investigação em curso sobre a plataforma para analisar sua política contra conteúdos ilegais.

A ordem ocorreu em meio a uma polêmica pela geração de imagens de crianças e mulheres nuas geradas pelo Grok nas últimas semanas, que levaram o governo francês a processar o X nos tribunais.

Fontes reconheceram que o X tomou algumas medidas para frear a disseminação deste tipo de imagem após a polêmica e depois que a Comissão Europeia aumentou a pressão sobre a empresa, mas ressaltaram que a investigação recém-aberta “vai além” das imagens sexualizadas, tratando-se de um problema mais generalizado com a arquitetura da rede social e de sua IA.

A Comissão Europeia acredita que, se estas alegações forem comprovadas, o X estaria infringindo vários artigos da Lei de Serviços Digitais à qual está sujeito ao operar na União Europeia, inclusive sobre a avaliação e mitigação de riscos sistêmicos para os cidadãos europeus.

As mesmas fontes indicaram que a investigação não tem um cronograma específico nem prazos definidos, mas que, diante dos riscos relacionados às funcionalidades do Grok, o processo tramitará “de maneira prioritária” em Bruxelas.

Bruxelas já multou o X em dezembro do ano passado em 120 milhões de euros por descumprir obrigações de transparência de acordo com esta lei, devido ao “design enganoso” de seu selo de verificação azul, à falta de transparência de seu repositório publicitário e à falta de acesso a dados públicos para pesquisadores.

Em paralelo, Bruxelas também prorrogou nesta segunda-feira sua investigação iniciada em 2023 sobre se o X cumpre com suas obrigações de gestão de riscos em seus sistemas de recomendação de conteúdo, o que incluirá o impacto da mudança para um sistema baseado na inteligência artificial do Grok.