Introdução ao tema
Este texto apresenta o tema “Inteligência Artificial, Deepfakes e Violência Digital no Ambiente Escolar”, com base na exposição de Caitlin Sampaio Mulholland (PUC-Rio). A popularização das ferramentas de inteligência artificial generativa permite que uma fotografia comum, como uma selfie ou uma foto escolar, seja transformada em conteúdo sexual falso e compartilhada em grupos e redes sociais. A imagem pode ser falsa, mas a violência e os seus efeitos sociais são reais, e atingem a dignidade, a privacidade e a reputação de crianças e adolescentes.
Caso de deepfake sexual em escola no Brasil
Em 2026, um grupo de oito adolescentes de uma escola brasileira descobriu que um colega de classe havia utilizado inteligência artificial generativa para criar montagens pornográficas falsas a partir de fotografias obtidas de seus perfis privados em redes sociais. As imagens, embora falsas, foram compartilhadas em grupos de mensagens e causaram grave violação à dignidade, privacidade e reputação das vítimas.
As vítimas relatam medo permanente de que as imagens continuem circulando indefinidamente na internet, mesmo após remoção. Especialistas destacam que os danos psicológicos e sociais são reais, independentemente da falsidade do conteúdo.
Da imagem cotidiana à violência sintética
A popularização acelerada e sem regulamentação de ferramentas de Inteligência Artificial abriu margem para uma das formas mais graves e silenciosas de agressão moderna: a violência digital no ambiente escolar. A dinâmica da violência por deepfake não é complexa do ponto de vista técnico, o que torna sua disseminação ainda mais rápida e perigosa. Ela percorre um trajeto bem definido: Fotografia real – IA generativa por ferramentas de “nudificação” – foto falsa, impactos reais. A imagem falsa é lançada em grupos de mensagens de alunos (WhatsApp, Instagram, X, Telegram) ou em fóruns anônimos. A partir desse ponto, a falsidade da imagem perde a relevância perante a concretude do estrago psicológico e social.
O que é “nudificação”?
A SaferNet enquadra a nudificação como deepfakes sexuais, ou seja, imagens de nudez ou de cunho sexual geradas por IA sem consentimento, violando a privacidade e a dignidade das vítimas. A pessoa retratada pode nunca ter produzido ou compartilhado uma imagem íntima original. A imagem sintética é gerada totalmente a partir de fotos comuns, como uma selfie, foto escolar ou imagem pública. O resultado gerado pelas ferramentas de nudificação pode ser hiper-realista e circular como se fosse autêntico. A proximidade entre a vítima, o agressor e a comunidade no contexto escolar amplifica o dano. Além disso, embora a imagem gerada pela IA seja falsa, a violência, a exposição e os efeitos sociais e psicológicos causados são totalmente reais.
Brasil: o mapeamento da SaferNet
No Brasil, o mapeamento da SaferNet, feito em levantamento contínuo, identificou na imprensa 16 casos de deepfakes sexuais em ambiente escolar, com mais de 72 vítimas e 57 agressores identificados, em 10 estados. A própria SaferNet ressalta que os números podem ser maiores, e também foram confirmados casos que não foram noticiados pela imprensa. Esses dados devem ser lidos, portanto, como um mínimo já identificado, e não como retrato completo do problema no país.
A escola como ecossistema da violência
Os casos mapeados pela SaferNet envolvem estudantes e, em alguns episódios, a circulação das imagens dentro da própria comunidade escolar. O dano não termina na produção da imagem falsa, pois a circulação em grupos e redes sociais prolonga a exposição das vítimas. A SaferNet destaca ainda que, à época do levantamento, não havia monitoramento público sistemático sobre a incidência desses crimes, o que dificulta dimensionar o problema. A resposta precisa reunir acolhimento, preservação de evidências, remoção do conteúdo, responsabilização e prevenção. Quando o autor é adolescente, a resposta jurídica deve considerar também a sua condição de pessoa em desenvolvimento.
Austrália: “nudify” e safety by design
Na Austrália, a eSafety Commissioner iniciou, em 2025, uma ação de fiscalização contra um serviço de “nudificação” usado para gerar imagens sexuais de crianças e adolescentes. Dois serviços atraíam cerca de 100 mil visitantes mensais no país. Em 2026, a eSafety adotou medidas contra outro serviço popular de “nudificação”, exigindo proteção mais forte contra o acesso de crianças e contra a produção de deepfakes sexuais. A atuação se dirige ao serviço que oferece a ferramenta, e não apenas a quem a utiliza, o que aproxima o caso do princípio de safety by design: os riscos devem ser avaliados antes de o produto ser disponibilizado ao público. A pergunta regulatória passa a ser: por que o sistema permitia que a fotografia de uma criança fosse transformada em conteúdo sexual?
Espanha: Almendralejo, a foto comum que vira nudez falsa
Em 2023, em Almendralejo, imagens falsas de nudez de meninas foram produzidas a partir de fotografias comuns e circularam entre estudantes. A disseminação se deu por canais de comunicação entre adolescentes e criou uma crise dentro da comunidade escolar. O caso foi noticiado pela imprensa espanhola como o primeiro caso massivo do país, com investigação policial. A questão jurídica central é que a falsidade da representação não elimina o dano à dignidade, à privacidade e à reputação das vítimas.
Coreia do Sul: quando o problema ganha escala
Em 2024, a Coreia do Sul mostrou que a produção de deepfakes sexuais pode ser distribuída por redes digitais sem exigir conhecimento técnico sofisticado. O caso foi noticiado como um escândalo de pornografia deepfake em larga escala, com circulação em grupos no Telegram. A resposta pública passou a envolver escolas, autoridades policiais, educação e plataformas, e as autoridades educacionais registraram centenas de denúncias envolvendo estudantes e professores. A dimensão é sistêmica: não se trata apenas de bullying, mas de um risco de segurança digital e de proteção de crianças e adolescentes.
PL 2.338/2023: regulação baseada em risco
O PL 2.338/2023 foi aprovado pelo Senado em dezembro de 2024 e está em tramitação na Câmara dos Deputados, onde é analisado por uma Comissão Especial e aguarda parecer do relator (consulta em setembro de 2026). Por isso, não deve ser apresentado como lei vigente. A proposta estrutura deveres conforme os riscos dos sistemas de IA, e a proteção de grupos vulneráveis, incluindo crianças e adolescentes, é relevante para a avaliação de impactos e para a governança. Para os deepfakes, o debate envolve prevenção, avaliação de riscos, transparência, governança e responsabilização ao longo da cadeia. O contraste é produtivo: o ECA Digital já cria obrigações vigentes específicas, enquanto o PL 2.338 discute o regime geral de IA.
ECA Digital: da reação à prevenção
O ECA Digital, formalizado pela Lei nº 15.211/2025 e em vigor desde 17 de março de 2026 com regulamentação federal, estabelece um marco regulatório fundamental no combate aos riscos do ambiente virtual para o público infantojuvenil. A legislação marca uma virada de paradigma ao deslocar o foco das atuações puramente reativas para obrigações ativas de prevenção. Sob essa nova abordagem, a proteção de crianças e adolescentes deve ser assegurada desde a concepção e durante todo o ciclo de funcionamento de produtos e serviços digitais, exigindo a adoção de princípios como a segurança por design (safety by design), a governança, a transparência e a privacidade. Dessa forma, o estatuto impõe deveres diretos às plataformas para prevenir e mitigar ameaças como exploração e abuso sexual, violência, bullying, assédio e a exposição a conteúdos pornográficos.
Quem responde pelo dano?
A resposta ao dano exige identificar os agentes da cadeia: o usuário, que cria ou solicita a imagem; o sistema de IA, que a gera; a plataforma, que a hospeda; a rede, que a distribui; a escola, que responde ao episódio; e o Estado, que protege e regula. Essa divisão evita que a discussão se limite a quem cria a imagem, já que o mesmo dano depende de uma ferramenta que a gera, de plataformas e redes que a hospedam e distribuem e de instituições que devem responder ao episódio. A pergunta central é quais deveres correspondem a cada agente na cadeia de produção, circulação e amplificação do dano. As responsabilidades dependem do papel concreto de cada agente e do regime jurídico aplicável.
CONCLUSÃO
A análise anterior permite a reflexão que episódios de violência digital potencializados pela inteligência artificial não podem ser tratados apenas como Bullying. Embora a tecnologia permita a geração de imagens falsas, os seus impactos sociais, psicológicos e institucionais são inteiramente reais, exigindo a superação de uma postura puramente reativa. O caminho apontado pelo ECA Digital (Lei nº 15.211/2025) consolida uma mudança de paradigma essencial ao estabelecer o princípio da segurança desde a concepção (safety by design), responsabilizando e atribuindo deveres de prevenção, governança e mitigação de riscos aos agentes da cadeia digital. Por fim, articulando-se com as discussões sobre o regime geral da IA (como o PL 2.338/2023), evidencia-se que o combate eficaz a essas agressões requer a atuação coordenada entre a regulação estatal, o dever de proteção das plataformas, a responsabilização dos intervenientes e o acolhimento preventivo por parte das instituições de ensino e da comunidade escolar.