IA para pegar quem mente idade no Instagram
Recentemente, a Meta anunciou sua mais recente iniciativa para lidar com um problema crescente no Instagram: adolescentes mentindo suas idades. O plano da empresa envolve o uso da tecnologia de IA para identificar e sinalizar contas pertencentes a menores que inseriram um aniversário adulto falso, contornando assim as salvaguardas da plataforma.
Essa medida, embora propagandeada com cheia de boas intenções, é mais um movimento que levanta esperança e preocupações sobre o uso de inteligência artificial (IA) em plataformas de mídia social.
Uma preocupação crescente
Como todos sabemos, o mundo digital está em constante evolução. Com ele, surgem novos desafios para empresas de mídia social, como o Instagram. Um desses desafios é a questão dos adolescentes mentindo sobre sua idade na plataforma. Cerca de um terço das crianças e adolescentes que usam mídias sociais mentem sobre suas idades para acessar conteúdos proibidos. Isso pode levar a uma série de problemas, incluindo exposição a conteúdo adulto, assédio e exploração.
Como o Instagram planeja resolver o problema
O Instagram anunciou que está usando tecnologia de IA para detectar contas pertencentes a adolescentes que inseriram uma data de nascimento falsa. Quando a Meta detecta essas contas, ela inscreve automaticamente os usuários em uma conta de adolescente restrita (Teen Accounts), que vem com proteções integradas. Essas salvaguardas limitam quem pode entrar em contato com os adolescentes na plataforma, restringem o tipo de conteúdo que eles podem visualizar e exigem permissão dos pais para alterar quaisquer configurações.
Embora alguns possam estar preocupados com o uso de IA nesse contexto, vale a pena notar que o Instagram já usa essa tecnologia para determinar a idade há algum tempo (lembra da biblioteca DeepFace? Além de emoções e outras características, ela detecta idade). A empresa afirma que seu sistema de detecção com IA é preciso e colocará corretamente os adolescentes nas contas de adolescentes.
Mas e os erros?
Claro, nenhum sistema é perfeito e sempre há o risco de erros. Segundo a Meta, se a IA cometer um erro ao identificar uma conta como pertencente incorretamente a um adolescente, a plataforma informa que está dando aos usuários a opção de alterar suas configurações manualmente. Isso garante que os usuários tenham controle sobre suas próprias contas e possam corrigir quaisquer erros. Vamos ver se isso funcionará na prática!
Um passo na direção certa?
A decisão do Instagram de usar a tecnologia de IA para detectar adolescentes que mentem a idade no Instagram pode ser um passo na direção certa. Ao trabalhar com os pais para garantir que o maior número possível de adolescentes tenha acesso a contas protegidas, a plataforma está tomando medidas para criar um ambiente online mais seguro e responsável. No entanto, este é mais um passo num mundo cada vez mais controlado por algoritmos. Embora a plataforma informe que cuidará de casos de erros, na prática, sabemos que a realidade é diferente. Estamos vendo cada vez mais a IA determinar nossas preferências, hábitos e até nossas idades. Será que esse é mundo que queremos?
