Ferramenta de IA Grok enfrenta críticas por geração de imagens sexualizadas não consentidas

A ferramenta de inteligência artificial Grok, desenvolvida pela xAI, tornou-se alvo de fortes críticas após a divulgação de dados indicando a geração de milhares de imagens sexualizadas não consentidas por hora. O caso foi reportado por veículos nacionais e internacionais e reacendeu o debate sobre limites éticos e responsabilidade no uso de IA generativa.

O Grok é integrado à plataforma X, antigo Twitter, e foi lançado como uma alternativa a outros modelos de IA generativa disponíveis no mercado. No entanto, segundo os dados divulgados, a ferramenta estaria sendo utilizada de forma recorrente para criar conteúdos sensíveis envolvendo pessoas reais, sem consentimento, levantando preocupações sobre abuso tecnológico e violação de direitos.

A polêmica ocorre em um momento sensível para a xAI, que recentemente captou cerca de US$ 20 bilhões em novos investimentos. Apesar do forte interesse de investidores, a empresa enfrenta crescente pressão regulatória, especialmente em relação à moderação de conteúdo e aos mecanismos de prevenção de usos indevidos de suas tecnologias.

Especialistas em ética digital alertam que a geração de imagens não consentidas representa um risco significativo à privacidade e à dignidade das pessoas. Segundo eles, a ausência de filtros eficazes e de mecanismos robustos de controle pode transformar ferramentas de IA em instrumentos de abuso, ampliando danos psicológicos e sociais.

O caso envolvendo o Grok também reacende o debate sobre a responsabilidade das empresas que desenvolvem e disponibilizam modelos de inteligência artificial ao público. Reguladores e organizações da sociedade civil defendem regras mais rígidas para garantir que sistemas de IA incorporem salvaguardas desde sua concepção, evitando usos abusivos.

Com a repercussão negativa, cresce a expectativa por posicionamentos mais firmes da xAI e de seu fundador, Elon Musk, sobre as medidas adotadas para conter abusos. O episódio reforça a urgência de discussões globais sobre governança, ética e regulação da inteligência artificial em um cenário de rápida expansão tecnológica.