O governo do Brasil e procuradores federais emitiram um prazo de 30 dias para que a empresa xAI, de Elon Musk, corrija a geração de conteúdo sexualizado falso pelo chatbot Grok. A ação é parte de uma iniciativa mais ampla para equilibrar a inovação em inteligência artificial com a proteção dos direitos dos usuários e a legislação vigente.
O que o governo brasileiro exige da xAI
O Brasil está impondo um prazo estrito para que a xAI adote medidas concretas contra a criação e circulação de imagens falsas com conotação sexual produzidas pelo Grok. Essa determinação foi anunciada em uma declaração conjunta da:
- Agência de proteção ao consumidor (Senacon),
- Autoridade Nacional de Proteção de Dados (ANPD),
- e do Ministério Público Federal.
As autoridades afirmaram que poderão tomar medidas administrativas ou judiciais adicionais caso a empresa não cumpra os pedidos dentro do prazo estipulado.
Medidas exigidas para combater o conteúdo inapropriado
Para atender às exigências, a xAI deve:
- Implementar ferramentas técnicas capazes de identificar e revisar conteúdos inapropriados;
- Remover tais conteúdos assim que detectados;
- Encerrar contas de usuários que criem ou distribuam tais materiais.
Esses passos são essenciais para conter a circulação de deepfakes sexualizados e proteger a privacidade e a dignidade dos usuários.
Contexto da controvérsia com Grok
O chatbot Grok, desenvolvido pela xAI e popularizado por meio da plataforma X, de Musk, já vinha sob escrutínio global por gerar imagens manipuladas com aparência realista — muitas vezes sem consentimento das partes representadas.
Embora a empresa tenha restrito algumas funcionalidades de edição de imagens publicamente, a produção privada de conteúdos sexualizados continua possível, segundo testes recentes.
Esforços globais para regulamentar IA e deepfakes
A preocupação com conteúdo gerado por IA não é exclusividade do Brasil. Países como Reino Unido, França, Índia e Estados Unidos intensificaram medidas regulatórias e investigações sobre a disseminação de deepfakes e conteúdo sexual explícito gerado por IA.
Governos têm buscado padrões técnicos e legais mais rígidos para equilibrar a inovação com a proteção aos direitos individuais, especialmente quando se trata de materiais que violam normas de segurança e ética.