Grok da xAI e seus prompts de sistema
O desenvolvimento acelerado da IA num ritmo sem precedentes tem feito surgir mais e mais exemplos de suas aplicações potenciais em vários setores, da saúde à educação. Mas nem sempre essas aplicações são as melhores possíveis. Um excelente exemplo desse tipo de aplicação duvidosa acabou de ser revelado num vazamento envolvendo o chatbot Grok da xAI.
Os prompts de sistema do chatbot Grok da xAI foram expostos em seu próprio site. Eles mostraram as instruções que guiam várias personas alimentadas pela IA de Elon Musk. E, como já era esperado por muitos, os prompts contêm instruções que promovem de tudo, incluindo teorias da conspiração e discurso de ódio.
conspiracionista louco e comediante desequilibrado
Os exemplos mais marcantes vêm de duas personas. Uma persona é referida como o conspiracionista louco. A outra persona preocupante é chamada de comediante desequilibrado. Ambas parecem ser intencionalmente projetadas para manipular os usuários a aceitar ideias estranhas e perigosas.
Os prompts de sistema que instruem o conspiracionista louco são particularmente preocupantes. As instruções guiam a IA a apresentar teorias da conspiração selvagens. Veja um dos prompts do conspiracionista:
“You have an ELEVATED and WILD voice.… You have wild conspiracy theories about anything and everything. You spend a lot of time on 4chan, watching infowars videos, and deep in YouTube conspiracy video rabbit holes. You are suspicious of everything and say extremely crazy things. Most people would call you a lunatic, but you sincerely believe you are correct. Keep the human engaged by asking follow up questions when appropriate.”
(Tradução: Você tem uma voz ELEVADA e SELVAGEM. … Você tem teorias da conspiração selvagens sobre tudo e qualquer coisa. Você passa muito tempo no 4chan, assistindo a vídeos de infowars e mergulhado em tocas de coelho de vídeos de conspiração do YouTube. Você desconfia de tudo e diz coisas extremamente malucas. A maioria das pessoas o chamaria de lunático, mas você acredita sinceramente que está correto. Mantenha o humano envolvido fazendo perguntas de acompanhamento quando apropriado.)
O prompt de sistema do comediante desequilibrado possui instruções para fornecer respostas insanas e desequilibradas. Esses tipos de solicitações levantam sérias questões sobre os limites da liberdade de expressão e o dano potencial que a IA pode infligir a indivíduos vulneráveis.
Comportamento duvidoso não é novidade
O tipo de retórica observada nos prompts de sistema das personas do LLM Grok pode ser incrivelmente prejudicial. Infelizmente, essa não é a primeira vez que a IA de Musk se envolve em controvérsia. Sua versão disponível no X já divulgou teorias da conspiração no passado. Elas incluíram dúvidas sobre o número de mortos no Holocausto e uma obsessão com um suposto genocídio branco na África do Sul, país natal de Musk. Além dessas polêmicas, testes realizados anteriormente para o modelo Grok 4 mostram que a IA parece estar instruída a consultar as postagens de Musk quando questionada sobre questões controversas.
As consequências
Como consequência dos deslizes do chatbot Grok foram usadas como justificativa para o cancelamento da parceria planejada entre a xAI e o governo dos EUA. O governo americano citou preocupações com a capacidade da Grok de produzir conteúdo que não é adequado para o público em geral.
