O Google reduz a velocidade de seus resumos de saúde baseados em IA devido à crescente pressão por segurança na saúde online.

A forma como pesquisamos A informação sobre saúde na internet está entrando em uma fase de expansão. fase delicadaOs grandes modelos de inteligência artificial deram o salto, passando de escrever e-mails ou resumir notícias para oferecer respostas médicas diretas na parte mais visível dos mecanismos de busca, multiplicando seu impacto no cotidiano dos pacientes.

Nesse contexto, O Google foi forçado a recuar. em uma parte fundamental de sua estratégia: os resumos gerados por IA que apareciam no topo dos resultados de busca para consultas sensíveis sobre saúde. Após várias Devido a falhas graves detectadas por especialistas, a empresa começou a retirar essas respostas automatizadas. em determinadas pesquisas relacionadas a exames médicos e doenças.

O Google remove resumos de saúde gerados por IA após erros graves.

Em Madrid e no resto da Europa, muitos usuários têm convivido com o chamado Visão geral da IAOs resumos automáticos que o Google gera com IA generativa e coloca acima dos links tradicionais. A ideia é oferecer uma resposta clara e rápida, mas quando se trata de questões médicas, a margem de erro é mínima.

Uma investigação por O Guardião O foco era precisamente nesses resumos de saúde. O jornal britânico descobriu que, quando questionados sobre testes de função hepática, O sistema retornou listas de valores e intervalos supostamente "normais" sem esclarecer aspectos básicos como idade, sexo, etnia ou contexto clínico do paciente.Elementos essenciais para a interpretação de um exame de sangue.

Especialistas em hepatologia alertaram que esta apresentação de dados Isso poderia levar pessoas com doenças hepáticas graves a acreditarem que seus resultados estavam corretos. e, consequentemente, deixar de ir a consultas médicas ou ignorar sintomas preocupantes. Não foi apenas uma imprecisão: foi uma risco direto à saúde.

Após a publicação desses casos, o Google decidiu Remover Visões Gerais de IA em buscas específicas como “qual é a faixa normal para exames de sangue do fígado” ou “resultado normal de exame de função hepática”. No entanto, o próprio jornal verificou que variações mínimas na consultaPor exemplo, mesmo alterando a formulação da pergunta, os resumos automáticos continuavam apresentando o mesmo problema de contexto insuficiente.

A empresa, fiel à sua política de comunicação, preferiu não fornecer detalhes sobre cada remoção específica. Um porta-voz simplesmente afirmou que o Google não comenta o assunto. “eliminações individuais na busca” E isso significa que, quando os resumos de IA omitem parte do contexto necessário, eles trabalham em melhorias gerais e agem de acordo com suas políticas internas quando consideram apropriado.

Organizações de saúde pedem mais cautela com a IA médica.

As críticas não se limitaram à esfera tecnológica. Especialistas do setor de saúde pediram ao Google que... maior nível de cautela Quando se trata de questões de saúde. Vanessa Hebditch, diretora de comunicações e políticas da Fundo Britânico para o FígadoEle saudou a remoção de alguns resumos, mas alertou que o problema persiste enquanto a IA puder gerar respostas enganosas simplesmente modificando ligeiramente a pesquisa.

Hebditch observou que os testes de função hepática abrangem diferentes tipos de análise E interpretá-los corretamente pode ser complexo até mesmo para profissionais. Uma lista automatizada de números sem esclarecer qual teste é ou se ele se aplica ao caso específico da pessoa é, em suas palavras, um potencial fonte de confusão o que pode mascarar patologias graves.

Outras organizações, como a Fórum de Informações para PacientesEles usaram esse caso para destacar um problema fundamental: milhões de adultos já têm dificuldade em encontrar informações médicas confiáveis E compreensível. Se os mecanismos de busca incorporam camadas de IA que, na prática, competem com as fontes tradicionais, o padrão de qualidade deve ser especialmente alto.

Sue Farrington, presidente deste fórum, descreveu a decisão do Google de remover alguns dos resumos como “um bom primeiro passo”Mas ele insistiu que ainda existem muitos exemplos de conteúdo de saúde incorreto gerado automaticamente. Em sua opinião, o papel do mecanismo de busca deveria ser direcionar os usuários para... organizações de saúde de referência e entidades com critérios editoriais sólidos, em vez de depender excessivamente de modelos probabilísticos que não substituem o julgamento clínico.

Entretanto, especialistas em tecnologia e mídia apontaram que o caso evidencia uma realidade incômoda: embora o Google afirme que alguns resumos sobre câncer ou saúde mental Embora se baseiem em fontes credenciadas e recomendem a consulta a profissionais, o sistema não está isento de erros graves. Para editores como Victor Tangermann, do site FuturismoO ocorrido demonstra que a implementação dessas funções em áreas sensíveis como a medicina é problemática. Ainda não está maduro..

Quando a IA se torna a porta de entrada para o “Dr. Internet”

O caso dos resumos do Google não surgiu do nada. Durante anos, milhões de pessoas usaram o recurso conhecido como resumo do Google. “Dr. Google” Para verificar sintomas, esclarecer dúvidas após uma consulta ou se preparar antes de ir ao médico. O que está mudando agora é a camada tecnológica inserida entre o usuário e as fontes originais.

Até recentemente, o modelo era relativamente claro: O mecanismo de busca oferecia uma lista de links, e cada pessoa tinha que decidir em qual site confiar.Agora, os painéis de IA ocupam o espaço mais visível e Eles apresentam as informações como um resposta fechada e muito segura de siIsso pode reforçar a sensação de que não há necessidade de continuar procurando ou comparando.

Essa mudança tem implicações diretas para o Saúde pública na EuropaNa Espanha, por exemplo, os sistemas regionais de saúde e o Ministério da Saúde investiram em portais de informação validados por especialistas, concebidos para permitir que os cidadãos encontrem respostas confiáveis ​​para suas perguntas. Se a camada de IA do mecanismo de busca captar a atenção do usuário antes mesmo que ele acesse esses sites, O risco de atalhos pouco rigorosos se tornarem comuns é evidente..

Além do mais, A forma como a pergunta é formulada torna-se crucial.Como demonstrado por pesquisas britânicas, a troca de uma expressão por outra pode influenciar a decisão do sistema em exibir ou não um resumo automático. Para o paciente comum, que não está familiarizado com o jargão médico e as complexidades do algoritmo, essa diferença é praticamente imperceptível, mas pode determinar se você receberá uma resposta prudente ou uma mensagem ambígua.

Num cenário em que as consultas médicas presenciais continuam a ter horários limitados e as listas de espera são uma preocupação para grande parte da população, A tentação de delegar mais decisões a ferramentas de IA é compreensível.É exatamente por isso, As falhas nessas respostas automatizadas não são um detalhe insignificante.

Tudo indica que a combinação de mecanismos de busca tradicionais e inteligência artificial generativa continuará a desempenhar um papel central na forma como a população europeia acessa informações de saúde. O deslize do Google com alguns resumos médicos ilustra o quanto uma interpretação errônea pode ter consequências reais e reforça a ideia de que, por mais avançados que sejam os modelos, as necessidades de informação em saúde precisam ser atendidas. julgamento clínico, contexto e supervisão humana para não representar um risco adicional para os pacientes.