A disseminação de vídeos com falsos profissionais de saúde criados por Inteligência Artificial (IA) vem acendendo um alerta para autoridades e especialistas em segurança digital.
Tratam-se de conteúdos produzidos com avatares sintéticos, figuras virtuais que vestem jaleco e simulam médicos, para divulgar receitas milagrosas, promessas de cura sem comprovação científica e apelos alarmistas direcionados, sobretudo, à população idosa.
Em Alagoas, onde aplicativos como o WhatsApp e o YouTube funcionam para muitos idosos como a principal porta de entrada para a internet, a circulação desse tipo de conteúdo impõe riscos práticos à saúde pública e à segurança da informação.
Para entender a estrutura por trás dessas produções e os impactos na população local, a reportagem do CadaMinuto conversou com o engenheiro de IA e doutor em Ciência da Computação, Amaury Nogueira Neto, professor e coordenador do curso de Ciência da Computação da Uninassau Maceió.
De acordo com o especialista, a criação de um avatar médico não exige conhecimentos avançados em programação e funciona como uma linha de montagem automatizada dividida em três etapas principais.
"Esse médico virtual não é uma coisa só. É uma linha de montagem de três máquinas de inteligência artificial. A primeira gera o rosto e o vídeo falante a partir de uma foto ou de um rosto sintético. A segunda clona ou sintetiza a voz, às vezes com poucos segundos de áudio de referência. A terceira é um modelo de linguagem que escreve o roteiro. O jaleco e o estetoscópio são só o figurino, o uniforme de confiança que o avatar vai vestir", explica Amaury Nogueira Neto.
O pesquisador ressalta que o processo modular e de baixo custo permite que uma única pessoa produza dezenas de vídeos por dia com facilidade. "A barreira técnica necessária para produzir isso em massa é quase zero", pontua.
Algoritmos e gatilhos emocionais na terceira idade
O modelo de distribuição desses vídeos baseia-se na busca por retenção de público nas plataformas digitais. Segundo o especialista, o sistema opera unindo o funcionamento dos algoritmos de recomendação à engenharia social aplicada nos roteiros:
"O motor do algoritmo vai otimizar o tempo de tela. Ele não avalia se o conteúdo é verdadeiro ou não, ele avalia se prende a atenção da pessoa. Medo e esperança são dois temas que prendem muito a atenção", analisa o professor.
No cenário alagoano, o impacto sobre os idosos é potencializado pelo modo como a informação circula e pela busca por alívio de sintomas de doenças crônicas, como hipertensão e diabetes:
"O vídeo costuma chegar por um parente ou por um grupo de confiança no WhatsApp, o que empresta essa credibilidade à mentira. Além disso, é um público que convive com doenças crônicas. Qualquer promessa de alívio tem um apelo imediato, somado ao gatilho emocional do medo da morte", detalha.
Como identificar as falhas e os limites da tecnologia
Embora os geradores de imagem e áudio estejam em constante evolução, o especialista aponta que ainda existem marcadores visuais e auditivos que ajudam a identificar quando um profissional na tela é, na verdade, uma representação sintética:
- Sincronia labial e olhar: Falhas na dublagem ao fim das frases, piscar de olhos mecânico e olhar fixo na câmera sem os micromovimentos faciais naturais.
- Anatomia e detalhes: Imperfeições na renderização das mãos, orelhas, dentes e bordas do cabelo.
- Áudio e ritmo: Ausência de pausas para respiração na locução e oscilações na pronúncia de palavras regionais ou nomes próprios.
Contudo, o professor adverte que a verificação não deve depender apenas dos detalhes visuais, que tendem a desaparecer com o avanço tecnológico:
"À medida que os modelos de IA melhoram, essas falhas vão diminuindo. Por isso, o sinal mais forte está na mensagem e no roteiro. Médico de verdade não receita cura secreta por vídeo e não vende produto ou remédio milagroso", alerta.
Responsabilização e o papel das plataformas
Questionado sobre as vias para enfrentar a desinformação em massa gerada por IA, o especialista aponta que o elo mais crítico da cadeia está na atuação e no modelo de negócios das grandes empresas de tecnologia:
"O problema central é de incentivo. A plataforma tem os dados, tem o rankeamento e tem o capital, e o engajamento é o que paga tudo isso. Do ponto de vista ético, o custo cai sempre sobre o mais vulnerável e o lucro fica com a plataforma e com o criador", avalia.
Para ele, o caminho para conter a proliferação das fraudes envolve mexer na viabilidade financeira desse tipo de conteúdo:
"A melhor direção é responsabilizar as plataformas e cortar a monetização desse tipo de conteúdo para criar atrito. Ao mesmo tempo, é fundamental que haja o acompanhamento e o letramento digital dentro do núcleo familiar", conclui.