Crianças e adolescentes diante da inteligência artificial: novos riscos exigem proteção de imagem e dados
A expansão da inteligência artificial generativa entre crianças e adolescentes trouxe novos desafios para a proteção de direitos como imagem, privacidade, identidade e dignidade. Segundo a pesquisa TIC Kids Online Brasil 2025, 65% dos usuários de internet de 9 a 17 anos já utilizaram ferramentas de IA generativa, principalmente para estudos, busca de informações e criação de conteúdos.
Para Alessandra Tanure, especialista em Direito Digital com atuação na proteção dos direitos de personalidade de crianças e adolescentes, a facilidade de criação e manipulação de conteúdos exige atenção especial. “A inteligência artificial não cria uma exceção aos direitos de personalidade. Crianças e adolescentes continuam protegidos pelo direito à imagem, à identidade, à privacidade e à dignidade. O que muda é a velocidade e a facilidade com que esses direitos podem ser atingidos”, afirma.
Entre os principais riscos estão: Deepfakes e manipulação de imagens: fotografias e vídeos podem ser alterados para criar situações falsas, inclusive com conteúdo sexual, sem o consentimento da vítima. Violação do direito à imagem e à identidade: a IA pode associar a imagem de crianças e adolescentes a situações que nunca ocorreram, atingindo direitos de personalidade. Exposição e uso de dados pessoais: fotos, vídeos, voz, localização, hábitos e outras informações podem ser utilizados por sistemas de IA ou para criação de perfis.
Conteúdo inadequado ou sexualizado: ferramentas de IA podem gerar imagens, respostas e interações incompatíveis com a idade do usuário. “Companheiros” de inteligência artificial: sistemas que simulam amizade ou vínculos afetivos podem criar relações de dependência e ampliar a coleta de informações pessoais.
Um levantamento da SaferNet Brasil identificou 16 casos de deepfakes sexuais em escolas de dez estados, envolvendo pelo menos 72 vítimas, incluindo registros na Bahia. Os episódios mostram como uma fotografia aparentemente comum pode ser transformada em um conteúdo falso e, ainda assim, produzir consequências reais para quem aparece na imagem como constrangimento, exposição, bullying e danos à reputação.
Com o avanço das ferramentas de inteligência artificial, a legislação passou a incorporar também novos desafios do ambiente digital. O ECA Digital, em vigor desde março de 2026, estabeleceu regras voltadas à proteção da privacidade, dos dados pessoais e da segurança de crianças e adolescentes no uso de produtos e serviços digitais. Alterações promovidas pela Lei nº 15.487/2026 também ampliaram a atenção jurídica aos conteúdos produzidos ou manipulados por tecnologias digitais e inteligência artificial.
Para Alessandra Tanure, o ponto central é que a discussão não deve se restringir à imagem que aparece na tela. A origem dos dados utilizados para produzir aquele conteúdo e a forma como as plataformas tratam essas informações também fazem parte do problema. “A proteção precisa acompanhar a tecnologia. No caso de crianças e adolescentes, não basta analisar apenas o conteúdo produzido pela inteligência artificial. É necessário observar também quais dados foram utilizados, como a ferramenta funciona, quem tem acesso às informações e quais consequências aquele conteúdo pode gerar para a vida da criança ou do adolescente”, explica.
Isso significa que a prevenção começa antes mesmo de um eventual deepfake ser criado. Fotografias publicadas em redes sociais, vídeos, áudios, nomes, informações sobre rotina, localização e outros elementos da vida cotidiana podem fornecer material para a criação ou combinação de conteúdos sintéticos. Quanto maior a quantidade de informações disponíveis, maior também pode ser a exposição da criança ou do adolescente.
Por isso, a orientação aos responsáveis não deve ser apenas a de impedir o uso de ferramentas de inteligência artificial. É importante conversar com crianças e adolescentes sobre os riscos de compartilhar imagens, vídeos, voz e informações pessoais, além de verificar quais dados são solicitados pelos aplicativos e como esses dados podem ser utilizados. “A criança ou o adolescente que tem sua imagem manipulada não pode ser tratado como responsável pelo conteúdo que foi criado ou divulgado. A prioridade deve ser interromper a exposição, proteger a vítima e evitar que a situação produza uma segunda violência”, afirma Alessandra.
