Na última quinta-feira (12), ela iniciou um processo em Hong Kong contra a empresa local Joy Timeline HK Limited. Ela é a responsável por aplicativos bastante populares que, a partir de fotos comuns de um usuário, são capazes de gerar conteúdos de teor sexual sem consentimento e com a aparência de alguém.
Um problema crescente
Segundo a Meta, o processo foi aberto depois de uma longa briga da empresa com desenvolvedores dessas ferramentas. Tecnicamente, já era proibido postar esse tipo de conteúdo ou fazer anúncios dos aplicativos nas redes sociais, seja no formato de deepfakes ou então com montagens que “removem” as roupas de pessoas em fotos.
Porém, as companhias conseguiam burlar o processo de verificação e seguiram veiculando anúncios nas plataformas, seja a partir de alterações no texto ou na imagem da publicidade, além de usar domínios recém criados. Agora, ela vai fechar esse cerco e tentar barrar na Justiça a atuação desses serviços.
A Meta vai ainda compartilhar as URLs identificadas como parte dessas ferramentas com outras empresas donas de serviços digitais que integram um consórcio de proteção infantil na internet, o Tech Coalition’s Lantern. Até agora, mais de 3 mil endereços e quatro redes coordenadas que tentavam publicar esses anúncios foram identificados e desativados.
Fazer montagens de teor sexual com IA é crime
Esses aplicativos, chamados também de “nudificadores” (do termo original nudify em inglês) já estão muito difundidos por fóruns e até lojas de aplicativos, sem disfarçar que o ato de “tirar a roupa” de alguém digitalmente e por manipulação de fotos é o objetivo principal deles.
Pessoas que são vítimas dessas montagens am por um grande impacto emocional, com consequências para a vida pessoal e até profissional, até que o caso seja devidamente resolvido.
Por esse risco e o espalhamento desses apps, o Brasil nos últimos meses aumentou a pena para crimes contra mulheres usando IA, agora podendo chegar a até três anos de prisão. Nos Estados Unidos, um recente projeto de lei também foi aprovado para combater e facilitar a retirada desses conteúdos nas plataformas.
- Assista agora mesmo: Realidade Violada 3: filme do TecMundo sobre abuso infantil na internet está disponível
Para além do problema com imagens de teor sexual, anúncios na Meta prometem ainda cursos que ensinam a criação dessas montagens com IA para vender produtos ou espalhar informações falsas. Quer saber mais sobre isso? Confira a matéria publicada no TecMundo!
