Os riscos de confiar demais no ChatGPT
A inteligência artificial (IA) já é parte vital da vida de muitos. No nosso dia-a-dia, ela se tornou uma ferramenta indispensável no trabalho, na escola e em tudo mais. Porém, ela também traz riscos inegáveis quando as pessoas se deixam levar pela certeza aparente das respostas.
Já abordamos anteriormente o quanto o uso de chatbots de IA, como o ChatGPT, tem causado danos mentais em pessoas psicologicamente vulneráveis. Elas encontram nesse tipo de ferramentas encorajamentos perigosos para todo o tipo de loucura. Até casos de suicídio têm sido realizados com a ajuda da IA.
Outra tendência crescente é o uso de ferramentas como o ChatGPT para diagnóstico médico. O risco é evidente, mas as pessoas parecem se esquecer disso. Veja um caso bem ilustrativo que acaba de ser reportado e fique atento. A IA é ferramenta de auxílio, mas ela não substitui médicos, exames, psicólogos e bom senso.
ChatGPT garantiu que sintomas não eram sérios, mas eram!
Conforme a IA segue avançando em um ritmo sem precedentes, suas aplicações em vários campos estão se tornando cada vez mais difundidas. A capacidade de chatbots de IA como o ChatGPT para fornecerem respostas a aparentemente todas as questões têm tornado essas ferramentas nossas aliadas para tudo. Mas não deveria ser assim. E Warren Tierney, de Dublin (Irlanda), descobriu isso da pior maneira possível. A história dele serve como um lembrete gritante dos perigos de se confiar demais na IA para problemas de saúde.
Recentemente, Tierney, um pai e ex-psicólogo de 37 anos, recorreu ao ChatGPT – o principal chatbot de IA desenvolvido pela OpenAI – para perguntar sobre alguns sintomas que andava sentido. Entre os sintomas, Tierney estava com uma dor de garganta persistente e dificuldades para engolir. Os sintomas foram evoluindo ao longo de meses, e Tierney seguiu se consultando com o ChatGPT ao invés de consultar um médico.
Tierney com a família.
Chatbots de IA cada vez mais usados para autodiagnostico médico
O que Tierney não percebeu foi que ele havia tropeçado em uma falha crítica no design do ChatGPT: sua incapacidade de fornecer diagnósticos ou conselhos médicos precisos. Embora a OpenAI enfatize que o chatbot não foi projetado para fins médicos, muitos usuários estão confiando nele como um substituto para o diagnóstico e tratamento adequados.
Conforme seus sintomas pioraram significativamente após meses confiando nas garantias do ChatGPT, Tierney foi finalmente a um médico e recebeu um diagnóstico devastador. Ele tem adenocarcinoma de esôfago em estágio quatro – um câncer de garganta raro e extremamente agressivo. Com chances de cura baixas, Tierney perdeu um tempo valioso nos longos meses em que se consultou com o ChatGPT. A demora pode ter selado tragicamente seu destino.
Não confie cegamente na IA
Este trágico evento destaca a necessidade de cautela ao usar a IA para fins médicos e para outros assuntos sérios, onde as falhas podem ser extremamente prejudiciais. Os profissionais de saúde enfatizam que as respostas geradas pela IA nunca podem substituir o diagnóstico adequado e a intervenção precoce, o que poderia ter alterado a trajetória da doença de Tierney.
Portanto, conforme a IA se torna cada vez mais integrada em nossas vidas, é fundamental abordar suas aplicações com um olhar crítico. Principalmente quando se trata de tópicos delicados como saúde, não confie cegamente no que os chatbots de IA dizem. Embora a IA possa fornecer informações e suporte valiosos, ela não substitui os cuidados médicos adequados. Portanto, nunca confie apenas na IA para diagnósticos médicos. Sempre consulte profissionais de saúde respeitáveis antes de tomar qualquer. Além disso, sempre mantenha a cautela em relação às respostas geradas por IA, que podem ser incompletas ou imprecisas.
