Fake doctors: o novo golpe com IA generativa
Sabe aquele remédio da moda que promete sumir com quilos extras como mágica? É caro, mas tem um vídeo no TikTok de um médico super famoso que vende um genérico por um preço baratinho… E aquele outro com um produto natural que cura até câncer? Ah, tem também vídeos de uma cirurgiã plástica dando dicas incríveis… Pessoal, cuidado! É golpe!
O novo golpe faz parte de uma tendência perturbadora que está surgindo nas mídias sociais: médicos falsos gerados por IA. Deepfakes que usam IA para gerar gravações de áudio ou vídeo realistas tornaram-se uma ferramenta para golpistas se passarem por profissionais médicos e venderem produtos de saúde não comprovados. Os fake doctors promovem conselhos médicos perigosos e muitas vezes completamente falsos. E o pior: eles têm como alvos pessoas vulneráveis e com problemas de saúdes graves.
As personas criadas por IA, que parecem e soam como profissionais médicos reais, estão levando os usuários a um caminho perigoso. Eles recomendam produtos falsos, remédios naturais e tratamentos alternativos que podem fazer mais mal do que bem.
IA generativa usada para golpes
Existem centenas de ferramentas de IA generativa projetadas para recriar a imagem e a voz de alguém. Elas podem ser usadas para as mais diversas finalidades. Infelizmente, muitas delas são criminosas. Já falamos sobre os riscos dos nudify apps que criam imagens convincentes de pessoas sem roupas. A criação de fake doctors segue o mesmo padrão.
Através de algumas imagens ou vídeos curtos, golpistas conseguem criar impostores muito convincentes com a ajuda da IA. Os impostores são usados para espalhar desinformação e aplicar golpes online. Os médicos falsos podem se apresentar como ginecologistas, nutricionistas, endocrinologistas, etc. O intuito é convencer as pessoas a comprarem suplementos e remédios supostamente milagrosos.
Médico criado por IA (fonte).
Como é o golpe
DeepFake da Dra. Gemma Newman (fonte).
O golpe é simples. Na maioria das vezes, ele começa com um vídeo. Nele, um médico gerado por IA generativa discursa sobre seus anos de experiência.
Após ganhar a confiança do público com sua falsa experiência, o fake doctor explica calmamente como um novo produto é muito melhor do que o que seu médico pode recomendar. O tom soa convincente. E o produto? Basta você dar um clique.
Para reforçar o golpe, os golpistas criam os fake doctors usando rostos e vozes gerados por IA. Nos golpes mais sofisticados, as ferramentas de IA generativa são usadas para criar vídeos falsos de médicos reais usando técnicas como face swap.
Os médicos impostores turvam as linhas entre o real e o falso e garantem que os golpistas lucrem com a confusão.
Os casos mais famosos
Um dos golpes que ficou famoso de fake doctor envolveu o roubo de identidade do Dr. Robert H. Lustig. Ele é endocrinologista, professor emérito de pediatria da Universidade da Califórnia, em San Francisco, e autor de vários best-sellers sobre obesidade. Golpistas criaram vídeos que imitavam sua voz e aparência para vender um produto falso chamado pérolas líquidas (liquid pearls) com promessas duvidosas de perda de peso.
Outros casos envolveram o médico Dr. Norman Swan. Vários tipos de golpe foram associados ao seu nome para vender suplementos para controle de diabetes. Além do controle de peso e diabetes, existem golpes envolvendo o nome da oncologista Dra. Eleonora Teplinsky, do cardiologista Dr. Eric Topol e da médica de família Dra. Gemma Newman. E esses são apenas alguns nomes.
Deepfake do Dr. Norman Swan com a cantora Adele para vender produto falso (fonte).
Perda de confiança, destruição de reputação e risco à saúde
Produto falso vendido com deepfake do Dr. Norman Swan (fonte).
O uso de falsificações geradas por IA é uma ameaça enorme aos profissionais médicos, pois destrói reputações facilmente. Muitos pacientes são enganados e levados a usar medicamentos que eles pensam estarem sendo prescritos por médicos em quem confiam. Os fake doctors também destroem a confiança na saúde como um todo, pois eles anulam a diferença entre o real e o falso.
E a perda de confiança tem uma boa razão. Os fake doctors fazem mal à saúde e de pessoas muito doentes. Os golpes geralmente visam indivíduos vulneráveis que estão lutando contra a perda de peso, diabetes ou outras doenças graves. Golpistas se aproveitam do desespero desses pacientes e oferecem produtos ou conselhos não comprovados que podem fazer mais mal do que bem. Embalados por promessas milagrosas, indivíduos vulneráveis podem abandonar tratamentos reais ou adiar a busca de ajuda profissional.
Como você pode se proteger?
Plataformas de mídia social como Facebook e YouTube estão finalmente garantindo que vão remover as falsificações. No entanto, não podemos contar apenas com isso. Para garantir a sua segurança, ao se deparar com um vídeo com conselhos médicos, siga essas dicas:
Verifique se há inconsistências na linguagem, tom ou estilo do vídeo. Preste atenção se o rosto parece rígido ou excessivamente liso, se os movimentos labiais correspondem mal às palavras e se a voz parecer excessivamente polida ou robótica, sem tom natural.
Fique atento a bandeiras vermelhas, como erros ortográficos, gramática ruim ou linguagem não profissional.
Desconfie se a conta de mídia social é nova, com poucos seguidores ou possui apenas postagens de produtos.
Pesquise as credenciais do médico e verifique sua identidade por meio de fontes oficiais, como sites de hospitais ou organizações profissionais. Busque se informar se ele possui um site oficial e se os produtos anunciados em vídeos de redes sociais são consistentes com o que ele anuncia em seu site.
Desconfie se o vídeo não faz nenhuma menção a estudos confiáveis ou fontes médicas.
Cuidado com vídeos que pressionam você a comprar rapidamente – geralmente por meio de links. Se alguma coisa parecer estranha, faça uma pausa. Um médico de verdade não venderá perolas milagrosas através do TikTok.
Conclusões
Em conclusão, o uso de deepfakes para se passar por profissionais médicos é uma séria ameaça à saúde pública. É essencial que tomemos medidas para combater essa tendência e promover a transparência e a confiança na profissão médica. E a medida mais importante continua sendo a informação. Apenas nos mantendo vigilantes e informados poderemos combater a crescente ameaça de falsificações geradas por IA.
