VOCÊ consegue identificar o falso? Aviso, pois os golpistas usam imagens geradas por computador e vozes de médicos da TV, incluindo Hilary Jones da GMB e o falecido Dr. Michael Mosley, para promover golpes de saúde

É quase bom demais para ser verdade. Um médico que você vê na TV há décadas contando sobre um novo produto revolucionário nas mídias sociais que a grande indústria farmacêutica reza para que você não descubra e que pode curar suas doenças.

Mas nem tudo é o que parece. Os golpistas estão usando IA tecnologia para falsificar vídeos de médicos famosos da TV como Hilary JonesMichael Mosley e Rangan Chatterjee para promover seus produtos ao público desavisado nas mídias sociais.

Um novo relatório, publicado no prestigiado Revista Médica Britânica (BMJ), alertou sobre o aumento crescente dos chamados “deepfakes”, já que pesquisas sugerem que até metade de nós não consegue mais diferenciá-los da coisa real.

O deepfaking usa IA para mapear uma imagem digital de um ser humano real em um vídeo de um corpo que não é o dele.

Eles foram usados ​​para criar vídeos de políticos para fazê-los parecer ineptos e até mesmo para assaltos corporativos, e agora estão sendo usados ​​para vender “curas” duvidosas.

Alguns dos clipes descobertos na investigação incluem os do falecido Dr. Michael Mosley, que morreu no mês passado em Gréciaparecendo promover uma diabetes cura em Facebook.

Outro vídeo apresenta uma Dra. Hilary Jones com voz robótica ITVLorraine parece afirmar que um medicamento para pressão alta cura problemas em oito em cada 10 casos.

Os vídeos são falsos e não são endossados ​​por ninguém cujas aparências e vozes foram apropriadas por fraudadores para vender medicamentos falsificados e duvidosos.

Os golpistas estão usando cada vez mais a tecnologia de IA para falsificar vídeos de médicos famosos da TV, como Hilary Jones, Michael Moseley e Rangan Chatterjee, para promover seus produtos para pessoas desavisadas do público nas redes sociais.

Um clipe modificado do Dr. Hilary Jones aparecendo em Lorraine parece mostrá-lo defendendo um novo tipo de medicamento para pressão arterial – mas o clipe é completamente falso, feito usando IA

O Dr. Jones é apenas um dos médicos da TV que aderiram à tendência, com um vídeo deepfake dele endossando uma cura para pressão arterial se espalhando no Facebook no início deste ano.

E como o próprio Dr. Jones sabe, esse está longe de ser o único exemplo.

“Alguns dos produtos que estão sendo promovidos atualmente usando meu nome incluem aqueles que prometem curar pressão arterial e diabetes, além de gomas de cânhamo com nomes como Via Hemp Gummies, Bouncy Nutrition e Eco Health”, disse.

Envie um e-mail ao guru da saúde, Dr. Mosley, que morreu no mês passado na Gréciae Dr. Chatterjee, do famoso Doctor In The House, também foram usados ​​para gerar esses clipes.

Embora a tecnologia usada para criar deepfakes já exista há anos, as primeiras versões apresentavam falhas e frequentemente apresentavam erros de audição, dedos ou não correspondiam ao áudio e aos movimentos dos lábios do indivíduo, alertando as pessoas sobre sua natureza fraudulenta.

Mas desde então, houve grandes avanços e, embora as pesquisas sejam limitadas, os dados sugerem que até metade das pessoas agora tem dificuldade para diferenciá-los do produto real.

O médico aposentado John Cormack, que trabalhou com o BMJ no relatório, descreveu os golpistas que se aproveitam da reputação de médicos respeitados para vender seus produtos como “impressão de dinheiro”.

“O ponto principal é que é muito mais barato gastar seu dinheiro fazendo vídeos do que fazendo pesquisas, criando novos produtos e colocando-os no mercado da maneira convencional”, disse ele.

Os reguladores também parecem impotentes para deter a tendência.

Os médicos em atividade no Reino Unido devem ser registrados no Conselho Médico Geral, que, caso seja descoberto que um médico violou os padrões esperados dos profissionais médicos, pode suspendê-lo do trabalho ou até mesmo expulsá-lo completamente.

A voz e a imagem do falecido Dr. Michael Mosley foram cruelmente exploradas por golpistas que tentam vender medicamentos falsos para diabetes por meio de vídeos deepfake

Neste exemplo, uma versão falsificada do Dr. Mosley é usada para promover um medicamento questionável para pessoas com diabetes

O Dr. Mosley gerado por IA até defende que as pessoas “esqueçam a insulina” ou outras formas padrão de tratamento para diabetes

Mas eles não têm poder para agir em vídeos falsos de médicos e, embora se passar por médico seja um crime no Reino Unido, o mundo obscuro da internet torna quase impossível rastrear quem deve ser responsabilizado, especialmente se estiver no exterior.

Em vez disso, médicos como o Dr. Jones dizem que são os gigantes das mídias sociais que hospedam esse conteúdo e, no fim das contas, ganham dinheiro com isso, que precisam agir.

“Cabe a empresas como a Meta, dona do Facebook e do Instagram, impedir que isso aconteça”, disse ele.

“Mas eles não têm interesse em fazer isso enquanto estão ganhando dinheiro.”

Respondendo à reportagem do BMJ, um porta-voz do Meta disse: Investigaremos os exemplos destacados pelo BMJ.

Não permitimos conteúdo que intencionalmente engane ou tente fraudar outras pessoas, e estamos constantemente trabalhando para melhorar a detecção e a aplicação da lei.

'Incentivamos qualquer pessoa que veja conteúdo que possa violar nossas políticas a denunciá-lo para que possamos investigar e agir.'

No momento, médicos como o Dr. Jones precisam resolver a situação por conta própria.

O Dr. Jones, um convidado frequente em programas como Lorraine, emprega uma empresa para rastrear deepfakes com ele e tentar eliminá-los da internet.

Mas ele acrescentou que a escala do problema só parece estar piorando.

“Houve um grande aumento nesse tipo de atividade”, disse ele.

“Mesmo que sejam retirados, eles simplesmente reaparecem no dia seguinte com um nome diferente.”

O relatório conclui dizendo que o que torna os deepfakes tão insidiosos é como eles exploram a confiança das pessoas, explorando um rosto conhecido que já ofereceu bons conselhos de saúde, às vezes transformadores, no passado, para enganar pacientes preocupados.

O Dr. Rangan Chatterjee, do documentário da BBC Doctor In The House, também foi pego pela tendência

Fora do mundo da medicina, a imagem do especialista em orçamento Martin Lewis foi usada por golpistas para defender investimentos duvidosos – levando o próprio Sr. Lewis a diga às pessoas para não se deixarem enganar.

Pessoas que assistem a um vídeo e suspeitam ser um deepfake são aconselhadas a examiná-lo cuidadosamente para evitar qualquer cenário de “menino que gritou lobo”.

Se ainda houver suspeitas, tente entrar em contato de forma independente com a pessoa que o vídeo alega apresentar por meio de uma conta verificada, por exemplo.

Se ainda houver suspeitas, considere deixar um comentário questionando sua veracidade para que outros também tomem essa iniciativa extra de análise.

As pessoas também podem usar as ferramentas de denúncia integradas às mídias sociais para sinalizar o vídeo e a pessoa que o postou, na tentativa de removê-lo.