Repercussões emocionais, econômicas e jurídicas decorrentes dessas montagens estão longe de ficar restritas às redes sociais.

A popularização dos deepfakes está entre nós. Até pouco tempo atrás a produção de uma montagem a partir de fotos ou vídeos de uma pessoa para inseri-la em novos (e geralmente duvidosos) contextos não era tarefa simples. Era preciso acesso a um número expressivo de fotos ou vídeos, além de poder computacional e expertise para fazer uma montagem convincente.

Hoje existem aplicativos que produzem montagens a partir de uma foto ou de um vídeo. Eles são produto de uma cada vez mais acelerada evolução nas capacidades de aplicações de inteligência artificial para reconhecer padrões e mesclar conteúdos.

Não é de surpreender então que os conteúdos manipulados que brotam nos fóruns da internet ou nos grupos de mensagem já não retratem apenas celebridades. Em especial vem ganhando notoriedade os aplicativos especializados em despir virtualmente as pessoas retratadas em fotos que são submetidas ao app.

Como os recentes casos envolvendo a atriz Isis Valverde e as alunas do Colégio Santo Agostinho revelam, a popularização dos deepfakes afeta famosos e anônimos. E as repercussões emocionais, econômicas e jurídicas decorrentes dessas montagens estão longe de ficar restritas às redes sociais.

Deepfake nos colégios

O caso do Colégio Santo Agostinho, localizado na Barra da Tijuca, Rio de Janeiro, envolveu alunos do 7º ao 9º ano que são suspeitos de terem utilizado um aplicativo de inteligência artificial para criar montagens de suas colegas. Essas montagens consistiam em alterar fotos das jovens para remover suas roupas e, assim, simular nudez. Depois, eles compartilhavam as imagens editadas em grupos de mensagens.

Pelo menos 20 meninas teriam sido expostas por essas ações, o que levou os pais das estudantes a denunciarem o caso à polícia.

O Colégio Santo Agostinho emitiu um comunicado descrevendo o fato como “lamentável” e assegurando que tomaria medidas disciplinares.

Para além da idade dos menores envolvidos, chama atenção nesse caso o fato de as vítimas e os suspeitos dividirem o mesmo ambiente e frequentarem as mesmas aulas, o que torna o sentimento de exposição ainda maior.

Responsabilidade dos menores e dos pais
Criar montagens usando a imagem de uma colega não é uma brincadeira sem consequências. É um ato que pode gerar punições para o menor infrator e até para os pais dele.

O Código Penal pune com reclusão de 6 meses a 1 ano, além de multa, quem realiza “montagem em fotografia, vídeo, áudio ou qualquer outro registro com o fim de incluir pessoa em cena de nudez ou ato sexual ou libidinoso de caráter íntimo” (artigo 216-B, parágrafo único).

Caso o conteúdo retrate menor de idade, o ECA (Estatuto da Criança e do Adolescente) pune com reclusão de 1 a 3 anos, além de multa, quem simula “a participação de criança ou adolescente em cena de sexo explícito ou pornográfica por meio de adulteração, montagem ou modificação de fotografia, vídeo ou qualquer outra forma de representação visual” (Art. 241-C).

Vale lembrar que, segundo o ECA, incorre na mesma pena quem “disponibiliza, distribui, publica ou divulga por qualquer meio, adquire, possui ou armazena o material”. Dessa forma, no âmbito penal, a sanção poderia recair não apenas em quem criou as montagens, mas também em quem as divulgou em grupos de mensagens.

Como as montagens foram feitas por adolescentes, eles não são responsabilizados como adultos, cometendo o que a lei chama de atos infracionais. A punição nesses casos pode incluir a obrigação de reparar o dano, a prestação de serviços à comunidade, além de eventuais restrições à liberdade dos menores nos casos mais graves.

Para além da perspectiva penal, o Código Civil afirma que são também responsáveis “os pais pelos filhos menores que estiverem sob sua autoridade e em sua companhia.” Dessa forma, ações indenizatórias pelos danos materiais e morais causados pelo fato também poderiam ser movidas contra os pais dos menores.

O termo “companhia”, previsto na lei, é geralmente compreendido pelos tribunais mais como influência dos pais sobre o menor do que a efetiva proximidade física. Os tribunais já condenaram pais por práticas de bullying e ameaças cometidas pelos filhos na internet.

Como lidar com o deepfake?
Na sequência do caso do colégio Santo Agostinho, a deputada federal Erika Kokay (PT-DF) apresentou o PL nº 5359/2023 para inserir no ECA a criminalização dos atos de adulteração, montagem ou modificação de fotografia, vídeo ou qualquer outra forma de representação visual por meio de inteligência artificial.

Dentre as modificações propostas está a redação do artigo 240-A, que passaria a punir com pena de reclusão de 5 a 10 anos, além de multa, quem “simular nudez de criança ou adolescente ou a participação em cena de sexo explícito ou pornográfica mediante adulteração, montagem ou modificação de fotografia, vídeo ou qualquer outra forma de representação visual por meio do uso de tecnologias baseadas em Inteligência Artificial.”

Não existe fórmula mágica que impeça a produção de montagens não autorizadas. Quanto mais fotos e vídeos adolescentes publicam e compartilham, mais fácil se torna a criação de um conteúdo ofensivo.

A solução do problema passa por ações que mirem:

– Os adolescentes;
– Seus pais e responsáveis;
– Os aplicativos que tornam as montagens possíveis e;
– As autoridades que vão levar adiante os casos que podem servir de exemplo para dissuadir o espalhamento da prática.

Da mesma forma, a introdução de uma nova lei sozinha não vai mudar os comportamentos da noite para o dia. É preciso que exista um esforço concentrado nas comunicações sobre segurança digital e uso responsável da rede, além de medidas que possam deixar claro que esse comportamento não apenas não passará impune, como também implicará em indenizações que sejam significativas.

A tecnologia nem sempre resolve os problemas gerados pela tecnologia, mas o investimento em ferramentas que possam identificar conteúdos manipulados digitalmente vem ganhando terreno recentemente.

Embora estimulado pela proteção aos direitos autorais, vai ser interessante explorar como soluções de marca d’água ou outras formas de sinalizar a procedência de uma imagem criada por IA pode ser aplicada no combate à desinformação ou a crimes digitais.

Diretores e professores, pais e responsáveis, além —e principalmente— os próprios menores, precisam estar preparados para compreender as consequências do uso de IA para manipular a realidade.

Ainda que os corpos nus expostos nos grupos de mensagens não sejam os corpos verdadeiros das alunas, a fronteira entre o real e o artificial aqui pouco importa. A intimidação é real.

Mais uma vez é preciso lembrar: o que acontece na internet não fica na internet. Os danos ultrapassam a rede e geram consequências do outro lado da tela.