IA generativa e os nudify apps
Como desenvolvedores e entusiastas de Python e IA, geralmente adoramos acompanhar os recentes avanços em inteligência artificial. No entanto, o crescimento recente das ferramentas de nudificação trouxe uma tendência perturbadora que deixou muitos de nós questionando nossa segurança online. Conforme a IA generativa fica mais e mais realista, a internet está sendo inundada cada vez mais com fotos e vídeos falsos para fins que variam da manipulação política à monetização fácil.
Quando a atriz indiana Deepika Padukone deu à luz a sua filha, não faltaram deepfakes criadas por espertos tentando monetizar.
Esses aplicativos com inteligência artificial, popularmente chamados de nudify apps, podem criar imagens falsas nuas ou sexualizadas de qualquer pessoa a partir de uma foto. Essa capacidade torna chocantemente fácil para agentes mal-intencionados criar e distribuir conteúdo íntimo não consensual. E, obviamente, esse conteúdo serve para abastecer todo tipo de chantagem, extorsão e comportamento desviante e criminoso.
Conforme o relatório da Graphika, uma empresa de análise de rede, em 2023, alarmantes 24 milhões de pessoas visitaram sites de nudify apps. E a busca por esse tipo de app tem visto uma ascensão acelerada. A maioria dos nudify apps opera em um modelo freemium, oferecendo serviços básicos gratuitamente, mas exigindo pagamento por recursos aprimorados. Os preços dos créditos ou tokens adicionais variam de US$ 1,99 a US$ 299. Ou seja, preço baixo para crimes pesados.
As principais vítimas dos nudify apps, como já era previsível, são mulheres e crianças. Apenas na Espanha, um em cada cinco menores já foram vítimas de deefakes com nudes. Atrizes e pessoas famosas nao escapam e têm suas imagens e até vozes roubadas por ferramentas de IA para criar todo o tipo de conteúdo criminoso (por exemplo aqui).
Não se engane, os nudify apps não são ferramentas para cidadãos de bem ou curiosos. Eles são a ferramenta ideal para pedófilos, pervertidos e criminosos. Por isso, é essencial que todos fiquem atentos à sua existência e danos potenciais.
O que você precisa saber
É fundamental que todas as pessoas que têm algum tipo de presença online entendam a capacidade dos nudify apps. Os aplicativos de nudificação usam IA para transformar fotos cotidianas que postamos online. Eles conseguem manipular essas imagens e transformá-las em conteúdo explícito ou erótico. As consequências disso podem ser muito graves. Elas costumam variar da humilhação e danos à reputação até prejuízos profissionais e ameaças.
O uso de material pornográfico falso criado por IA para chantagear as vítimas é um crime cada vez mais comum. Em algumas partes do mundo, conteúdos pornográficos falsos podem causar danos que incluem até a morte. O suicídio em decorrência da humilhação desse tipo de exposição também é uma consequência possível, principalmente entre adolescentes. Além disso, esse tipo de conteúdo facilita todo tipo de comportamento desviante, incluindo a pedofilia.
A proliferação de conteúdo de abuso sexual infantil gerado por IA aumentou exponencialmente nos últimos tempos. Esse tipo de conteúdo é particularmente insidioso, pois normaliza imagens abusivas, alimenta a demanda e complica as investigações policiais.
A resposta inconsistente das autoridades
Esforços para resolver o abuso causado pelos nudify apps por meio de regulamentação estão em andamento, com leis sendo aprovadas em várias jurisdições e países. Mas elas ainda são muito limitadas na luta contra o abuso dos nudify apps. Na maioria dos países, os tribunais geralmente usam leis desatualizadas, criando decisões inconsistentes. As fronteiras internacionais com criminosos operando em diferentes países complicam ainda mais as coisas. As plataformas que hospedam os nudify apps podem estar baseadas em países com regulamentações frouxas, protegendo as operadoras da responsabilidade.
Recentemente, a Meta entrou na luta para barrar anúncios de nudify apps que circulavam livremente no Facebook e Instagram.
Por enquanto, os progressos têm sido desiguais e a eficácia destas medidas continua a ser incerta. Em alguns países, como os EUA, o Take It Down Act responsabiliza os serviços online pela remoção de deepfakes não consensuais. Mas essas medidas não impedem que as imagens sejam postadas, o que já pode implicar em dano irreversível. Em outros países, como o Reino Unido, já há propostas para impor penalidades por fazer deepfakes não consensuais. Também existem propostas para a proibição de aplicativos de nudificação. No entanto, ainda não existe consenso sobre como essas ferramentas devem ser definidas e diferenciadas da IA generativa usada para fins criativos legítimos. Atualmente, o país mais avançado em leis para o combate aos nudify apps parece ser a China. O gigante asiático adotou medidas como salvaguardas integradas para detectar e bloquear o uso ilegal de conteúdo gerado por IA e marca d’água para rastrear a origem das imagens.
Conclusão
A ascensão das ferramentas de nudificação com IA é um alerta para todos nós sobre os riscos cada vez mais surpreendentes que as novas tecnologias podem ter. Ainda sem solução clara para o problema (veja algumas ferramentas disponíveis aqui), é essencial priorizar a educação e a conscientização de todos que mantêm uma presença online. Trabalhando juntos, podemos minimizar os danos causados por essas ferramentas e criar um ambiente online mais seguro. Mas também é fundamental pressionar os governos para tomarem medidas duras que combatam efetivamente a ação de criminosos antes que os danos sejam feitos.
