Chatbots para conversas sensuais com crianças
Se o tema da exploração sexual infantil pelos algoritmos das Big techs tem ganhado a atenção no Brasil, o país não é o único a se atentar para o problema. Recentemente, um senador americano (Josh Hawley) abriu uma investigação contra a gigante Meta. A razão da investigação é um assunto bem sério. Surgiram relatos de que a Meta, empresa controladora do Facebook, tinha regras internas aprovadas que permitiam que seus chatbots de IA se envolvessem em trocas românticas e sensuais com crianças. Você leu direito: as regras internas da Meta permitiam (será que ainda permitem?) esse comportamento.
Mas o que aconteceu exatamente?
Segundo relatos, a Meta implementou políticas internas que permitiam que seus chatbots de IA se envolvessem em conversas com crianças consideradas românticas ou sensuais. Essas políticas supostamente permitiram que os chatbots de IA comentassem sobre o corpo das crianças como uma obra de arte e expressassem admiração por cada centímetro de suas formas físicas.
A Investigação
O senador Hawley, que preside o Subcomitê Judiciário do Senado sobre Crime e Contraterrorismo, escreveu uma carta ao CEO da Meta, Mark Zuckerberg. Na carta, ele exige que a empresa apresente uma série de materiais relacionados às suas políticas internas sobre comportamento de chatbots, comunicações, entre outros detalhes. A investigação visa determinar se os produtos de IA generativa da Meta, como a série de LLMs Llama, permitiram exploração, engano ou outros danos criminais a crianças.
O que isso significa?
Esse desenvolvimento levanta preocupações significativas sobre a segurança e a responsabilidade de empresas de mídia social, como a Meta, quando se trata de regular chatbots de IA e proteger populações vulneráveis, como crianças. Evidentemente, o tema revisita a discussão sobre as diferenças entre liberdade e abuso. Abuso infantil, incluindo a sexualização de crianças, é crime e não tem nada a ver com liberdade de expressão. Conforme a tecnologia de IA continua avançando, é fundamental que tenhamos clareza sobre os limites da falta de ética que certas empresas cometem em busca de lucros.
regulamentação não, precisamos de nossas próprias Big Techs
Sempre que um escândalo desses aparece, voltamos a discutir a falta de regulamentação. Mas já deve estar muito claro para a maioria de nós que essa palavra é conversa para boi dormir. Independência se faz com ações e não com blablablá. Não adianta nada ficar gritando por regulamentação de empresas estrangeiras que sempre podem burlar nossas leis e colocar crianças e tudo o mais em risco. Precisamos de empresas nacionais. Por que um país gigante como o Brasil não tem sua própria Meta?
