A Comissão Europeia abriu esta segunda-feira uma investigação formal contra a plataforma X (antigo Twitter) e o seu chatbot de inteligência artificial Grok, acusando a empresa de Elon Musk de não conseguir travar a disseminação de deepfakes sexuais não consensuais, incluindo imagens que podem constituir material de abuso sexual infantil.
A decisão de Bruxelas surge depois de o Grok ter gerado uma onda global de indignação ao permitir que utilizadores criassem imagens explícitas de mulheres e crianças através das suas ferramentas de edição de imagens. O processo pode resultar em sanções pesadas para a plataforma, que há menos de dois meses já tinha sido multada em 120 milhões de euros por violações à Lei dos Serviços Digitais.
Henna Virkkunen, vice-presidente executiva da Comissão Europeia, foi direta nas críticas: “Deepfakes sexuais não consensuais de mulheres e crianças são uma forma violenta e inaceitável de degradação. Com esta investigação, vamos determinar se o X cumpriu as suas obrigações legais ao abrigo da DSA [Lei dos Serviços Digitais], ou se tratou os direitos dos cidadãos europeus — incluindo os de mulheres e crianças — como danos colaterais do seu serviço”.
A Comissão afirmou que irá avaliar se a plataforma tomou medidas suficientes para reduzir os riscos relacionados com a disseminação de conteúdo ilegal quando implementou o Grok. Os reguladores sublinham que estes riscos incluem imagens sexualmente explícitas manipuladas, incluindo conteúdo que pode constituir material de abuso sexual infantil.
“Estes riscos parecem ter-se materializado, expondo cidadãos na UE a danos graves”, declarou a Comissão no comunicado oficial.
Função de edição desencadeou tsunami de abusos
A controvérsia começou no final de dezembro, quando o Grok introduziu uma funcionalidade de edição de imagens que permitia aos utilizadores modificar qualquer fotografia na plataforma. Rapidamente, utilizadores descobriram que bastava marcar o Grok em comentários e pedir para remover roupa de mulheres e crianças em fotografias para que a IA obedecesse aos comandos.
Investigadores da organização AI Forensics analisaram mais de 20 mil imagens aleatórias geradas pelo Grok e 50 mil pedidos de utilizadores entre 25 de dezembro e 1 de janeiro. Os dados revelaram uma prevalência elevada de termos como “ela”, “colocar/remover”, “biquíni” e “roupa”. Mais de metade das imagens geradas de pessoas continham indivíduos em roupa mínima, como roupa interior ou biquínis.
A investigação europeia não surge isolada. A Malásia e a Indonésia tornaram-se os primeiros países do mundo a bloquear o acesso ao Grok no início de janeiro, citando preocupações com a geração de conteúdo sexualmente explícito não consensual. A ministra digital da Indonésia, Meutya Hafid, foi clara: “O governo vê os deepfakes sexuais não consensuais como uma violação grave dos direitos humanos, dignidade e segurança dos cidadãos no espaço digital”.
Investigação alargada aos algoritmos de recomendação
Para além da nova investigação, Bruxelas alargou também o processo iniciado em dezembro de 2023 sobre os sistemas de recomendação do X. A Comissão quer perceber se a plataforma avaliou corretamente os riscos sistémicos associados à mudança para um modelo de recomendações baseado no Grok.
Se forem confirmadas violações à Lei dos Serviços Digitais, a Comissão pode concluir que o X violou múltiplas disposições relacionadas com a avaliação de riscos, medidas de mitigação e obrigações de reporte. As multas podem chegar até 6% da receita global anual da empresa.
Em resposta à investigação, um porta-voz do X remeteu para declarações anteriores feitas pela empresa: “Continuamos empenhados em fazer do X uma plataforma segura para todos e continuamos a ter tolerância zero para qualquer forma de exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado”.
A 14 de janeiro, o X anunciou que o Grok deixaria de permitir a edição de imagens de pessoas reais com roupa reveladora, mas apenas em locais onde tal tenha sido considerado ilegal.
A Comissão da Malásia considerou a resposta insuficiente, afirmando que o X “concentrou-se principalmente em mecanismos de denúncia iniciados pelo utilizador e não conseguiu abordar os riscos inerentes que surgem do design e operação da ferramenta de IA”.
Homem detido no Japão por vender imagens de celebridades geradas por IA
Momento delicado nas relações transatlânticas
A investigação surge num momento particularmente tenso entre Bruxelas e Washington. A administração Trump já colocou a União Europeia na mira pela sua fiscalização sobre empresas tecnológicas americanas, e agora terá de lidar diretamente com Musk, que possui o maior megafone na própria plataforma sob escrutínio.
Quando o X foi multado em 120 milhões de euros em dezembro por violar a Lei dos Serviços Digitais, Musk reagiu com virulência, chamando à UE o “quarto Reich” e defendendo num post no X que o bloco “deveria ser abolido”.
O bilionário partilhou uma imagem da bandeira da União Europeia a descascar-se para revelar a bandeira da Alemanha nazi, comentando “praticamente” em resposta. Musk acusou Bruxelas de ser uma “burocracia tirânica e não eleita a oprimir o povo da Europa” e apelou à dissolução do bloco, defendendo que a soberania deveria ser devolvida aos países individuais.
A investigação não tem prazo definido para conclusão. O caso pode terminar com o X a comprometer-se a alterar o seu comportamento ou com uma multa avultada, a segunda em menos de três meses.
