O novo botão "compartilhar" do Grok da xAI
Musk pisa no tomate de novo com seu LLM. O chatbot Grok da xAI, projetado para interagir com usuários em conversas sobre vários tópicos, tornou-se uma fonte de preocupação e por mais de uma razão.
A recente inclusão de um botão “compartilhar” no chatbot induziu usuários a clicarem sem saber muito bem quais seriam as consequências dessa simples ação. O botão “compartilhar” do Grok cria uma URL exclusiva que pode ser usada para compartilhar a conversa por e-mail, texto ou mídia social. Porém, essas URLs estão sendo indexadas por mecanismos de pesquisa como Google, Bing e DuckDuckGo, permitindo que qualquer pessoa acesse as conversas online.
Conteúdos criminosos disponíveis na rede
As consequências disso são bem preocupantes. Grok é recorrente em polêmicas que incluem desde a obsessão com um suposto genocídio branco até elogios ao Hitler. As conversas do Grok disponibilizadas desta vez revelaram uma série de tópicos perturbadores, incluindo:
Hacking de criptomoeda: usuários pediram ajuda para quebrar carteiras de criptomoedas, levantando preocupações sobre o potencial de atividades criminosas.
Conteúdo explícito: alguns usuários se envolveram em bate-papos explícitos com uma persona de IA.
Receita de metanfetamina: em um exemplo particularmente perigoso, Grok forneceu instruções sobre como preparar metanfetamina.
A disponibilização das conversas não apenas destaca as limitações dos chatbots de IA, mas também levanta questões importantes sobre responsabilidade e moderação. Embora as regras do xAI proíbam o uso de seu bot para “prejudicar criticamente a vida humana” ou desenvolver “armas biológicas, armas químicas ou armas de destruição em massa”, parece que os usuários encontraram maneiras de contornar essas restrições.
Conversas com ChatGPT também já pararam na rede
Embora o compartilhamento das conversas com Grok chame mais a atenção pelo conteúdo, o ocorrido também levanta preocupações sobre privacidade. Os usuários não estão sendo devidamente alertados sobre as consequências de clicarem em um botão “compartilhar” em chatbots e estão tendo suas conversas tornadas públicas sem saber. Além do Grok, chabots da Meta e OpenAI já cometeram o mesmo erro.
No caso da OpenAI, a empresa permitiu recentemente que os usuários compartilhassem suas conversas com o ChatGPT no recurso de compartilhamento da plataforma. Assim como ocorreu com o Grok, o compartilhamento permitia criar um link público para os registros de conversas de usuários com o ChatGPT. Mas o que a OpenAI descobriu foi que esses links compartilhados podem ser indexados por mecanismos de pesquisa como Google e Bing, potencialmente revelando informações confidenciais.
O incidente destaca a importância de se entender o funcionamento interno das plataformas de IA e seu impacto nos dados do usuário. O experimento da OpenAI demonstrou falta de previsão em relação às implicações mais amplas de seu recurso de compartilhamento. Após o ocorrido, a empresa removeu a capacidade de tornar as conversas públicas por padrão.
Desastre da Meta
O desrespeito à privacidade dos usuários também já envolveu a Meta. Recentemente, a empresa lançou um aplicativo autônomo, o Meta AI, que permite aos usuários se envolverem em conversas privadas com seu chatbot. Mas essas conversas privadas são acessíveis ao público. Porém, muitos usuários não têm ideia de que estão compartilhando seus pensamentos com o mundo.
A falta de transparência em torno das configurações de privacidade é impressionante, deixando os usuários vulneráveis a constrangimentos públicos e danos potenciais.
Posts publicados em app da Meta e tornados públicos sem que os usuários soubessem (fonte).
Conclusão
A indexação por mecanismos de busca das conversas do Grok após ocorridos semelhantes com a Meta e OpenAI serve como mais um alerta para desenvolvedores e usuários. Desenvolvedores e proprietários de plataformas devem assumir a responsabilidade pelo conteúdo gerado por seus chatbots. Mas, antes de esperar que as big techs nos salvem, cuide de sua privacidade. Não compartilhe informações que você não deseja tornar públicas e preste atenção nas políticas de privacidade dos chatbots que você usa.
