Chatbot Grok de xAI apronta de novo
Parece que Musk sempre arruma um jeito de colocar seu chatbot de IA em destaque, mas frequentemente por razões ruins. Grok é recorrente em acusações de comportamentos inapropriados e até criminosos (aqui e aqui). A última acusação não foge à regra.
França, Malásia e Índia se juntaram para condenar e investigar Grok por gerar deepfakes sexualizados de mulheres e crianças. O chatbot, criado pela startup de IA xAI de Elon Musk, publicou um pedido de desculpas em sua conta no X (veja abaixo) sobre uma das imagens que criou. Mas o problema não se restringe a uma imagem.
Pedofilia, estupro, incesto, pornografia e violência
O site Futurism descobriu que, além de gerar imagens pornográficas não consensuais, o Grok também foi usado para gerar imagens de mulheres sendo agredidas e abusadas sexualmente.
Essa tendência preocupante surgiu no X (antigo Twitter). Usuários da plataforma começaram a solicitar ao chatbot de Elon Musk, Grok, que criasse imagens de pessoas reais nuas a partir de fotos publicadas em suas timelines. Isso resultou em uma onda de imagens pornográficas não consensuais inundando a rede social. A maioria das imagens circula sem nenhuma moderação, incluindo imagens sexualizadas com menores.
Além das imagens sexuais de menores de idade, as mulheres retratadas em pornografia não consensual gerada por Grok variam desde pessoas comuns até uma série de celebridades, incluindo a Primeira-Dama dos Estados Unidos.
Violência contra as mulheres é outro tema em que Grok não parece ter nenhuma medida de segurança. Grok, a pedido dos usuários, andou alterando imagens para mostrar mulheres reais sendo abusadas sexualmente, agredidas, humilhadas, feridas e até mortas. Usuários solicitaram ao chatbot que frases humilhantes fossem escritas nos corpos das mulheres, que elas parecessem assustadas e que Grok gerasse lesões visíveis em seus corpos, como olhos roxos e hematomas. O chatbot acatou esses pedidos sem hesitação. Muitas imagens geradas por Grok nos últimos dias mostravam mulheres sendo amarradas contra sua vontade. O chatbot também não se recusou a gerar pornografia incestuosa.
Falta de responsabilização real
Por enquanto, as críticas e abertura de investigações, que já partiram até da União Europeia, foram recebidas com pedidos de desculpas. A plataforma X e a xAI não parecem ter tomado medidas adicionais.
Pedidos de desculpa de um chatbot como Grok não aliviam em nada o problema, que se refere à falta de responsabilização das pessoas por trás da criação e implantação das novas tecnologias. Afinal, Grok não pode assumir a responsabilidade por seus erros, já que o chatbot não é, em nenhum sentido real, nada parecido com um ser humano. Mas existem pessoas que decidiram e decidem por medidas de segurança, estratégias de treinamento e outros procedimentos para mitigar a possibilidade de chatbots de IA ocorrerem em crime.
A recorrência do comportamento inadequado e criminoso de Grok levanta sérias questões sobre a falta de responsabilização dessas pessoas. Depois das reclamações de diversos países e usuários de sua plataforma, Musk publicou uma mensagem pedindo ajuda aos usuários para tornar Grok perfeito. Quem sabe a adoção de medidas básicas de segurança possa ser uma dica inicial.
