Resumo
- Comissão Europeia investiga o X por possíveis violações da Lei de Serviços Digitais devido ao uso da IA Grok para criar imagens pornográficas.
- Países como Indonésia, Filipinas e Malásia bloquearam o Grok, mas reverteram a decisão após promessas de conformidade de Elon Musk.
- O X enfrenta críticas por falhas nas salvaguardas técnicas e já foi multado em 140 milhões de euros por problemas de transparência e design enganoso.
A Comissão Europeia abriu oficialmente, nesta segunda-feira (26/11), uma investigação contra a rede social X, de Elon Musk. O órgão apura possíveis violações da Lei de Serviços Digitais (DSA) relacionadas ao funcionamento da IA Grok, que pode ter facilitado a disseminação de conteúdo ilegal, incluindo deepfakes não consensuais de mulheres e conteúdo voltado à pornografia infantil.
Segundo reclamações de usuários e denúncias de instituições oficiais ao redor do mundo, o chatbot teria gerado imagens de nudez realista de pessoas reais e menores de idade. Após a repercussão dos casos, Musk declarou que aplicaria consequências pesadas a quem usasse o Grok para gerar esse tipo de conteúdo.
Agora, a Comissão analisa se as ações adotadas pela empresa são suficientes. Além disso, investigará se essas medidas estavam em vigor no momento do lançamento do Grok nos países da UE e se houve falhas no cumprimento das obrigações de transparência e gestão de riscos previstas no DSA.
O inquérito europeu começa duas semanas após o órgão regulador do Reino Unido (Ofcom) iniciar uma investigação própria sobre o mesmo tema e indicar possíveis sanções.
Países como Indonésia, Filipinas e Malásia bloquearam temporariamente o acesso ao chatbot devido à proliferação de conteúdo sexualizado. Segundo a Reuters, os dois últimos países colocaram a ferramenta de volta ao ar após Musk prometer seguir as exigências das nações que proíbem esse tipo de prática.
Filosofia da xAI gera dúvidas na UE
Um dos principais pontos da investigação é a filosofia da xAI, que desenvolve e controla a IA integrada ao X. De acordo com o Financial Times, a empresa teria projetado, sob o teto da liberdade de expressão irrestrita, seus produtos com menos barreiras de segurança do que concorrentes como OpenAI e Google.
A suspeita é de que o X tenha falhado em implementar salvaguardas técnicas eficazes antes de liberar o recurso para milhões de usuários.
A postura, no entanto, vai contra as regulações europeias. Um oficial da UE afirmou ao jornal britânico que, diante dos danos expostos às vítimas dessas imagens, as autoridades “não foram convencidas até agora pelas medidas de mitigação que a plataforma alega ter tomado”.
A chefe de tecnologia da UE, Henna Virkkunen, declarou que “deepfakes sexuais não consensuais de mulheres e crianças são uma forma violenta e inaceitável de degradação”, segundo a Bloomberg.
X é contra controle de conteúdo feito pelo bloco
Em resposta às acusações recentes, o X reiterou que possui uma política de tolerância zero para exploração sexual infantil e nudez não consensual, afirmando que remove contas e colabora com a lei quando necessário.
O X já enfrenta um cenário regulatório delicado na Europa. Em dezembro, a plataforma foi multada em 140 milhões de euros (cerca de R$ 752 milhões) por falhas de transparência e design enganoso dos selos de verificação azuis. Pela DSA, reincidências ou falhas graves no combate a conteúdo ilegal podem render multas de até 6% do faturamento global da empresa.
O embate também ganha contornos políticos. A Bloomberg ressalta que a administração Trump vê as ações da UE como um ataque à liberdade de expressão.
União Europeia abre investigação contra o X após polêmica do Grok
