Google vertraag sy KI-aangedrewe gesondheidsopsommings namate druk op aanlyn gesondheidsveiligheid toeneem.

Die manier waarop ons soek Gesondheidsinligting op die internet betree 'n delikate faseGroot kunsmatige intelligensie-modelle het die sprong gemaak van die skryf van e-posse of die opsomming van nuus na die aanbied van direkte mediese antwoorde in die mees sigbare deel van soekenjins, wat hul impak op pasiënte se daaglikse lewens vermenigvuldig.

In hierdie konteks, Google is gedwing om terug te trek in 'n sleuteldeel van hul strategie: die KI-gegenereerde opsommings wat bo-aan soekresultate vir sensitiewe gesondheidsnavrae verskyn het. Na verskeie As gevolg van ernstige foute wat deur spesialiste opgespoor is, het die maatskappy begin om hierdie outomatiese reaksies te onttrek. in sekere soektogte wat verband hou met mediese toetse en siektes.

Google verwyder KI-gegenereerde gesondheidsopsommings na ernstige foute

In Madrid en die res van Europa leef baie gebruikers met die sogenaamde KI-oorsigteDie outomatiese opsommings wat Google met generatiewe KI genereer en bo tradisionele skakels plaas. Die idee is om 'n duidelike en vinnige antwoord te bied, maar wanneer dit by mediese vrae kom, die foutmarge is minimaal.

'n Ondersoek deur Die Guardian Dit het juis op daardie gesondheidsopsommings gefokus. Die Britse koerant het bevind dat, toe gevra oor lewerfunksietoetse, Die stelsel het lyste van sogenaamde "normale" syfers en reekse teruggegee sonder om basiese aspekte soos ouderdom, geslag, etnisiteit of die pasiënt se kliniese konteks te verduidelik.noodsaaklike elemente vir die interpretasie van 'n bloedtoets.

Hepatologie-spesialiste het gewaarsku dat hierdie aanbieding van data Dit kan mense met ernstige lewersiekte laat glo dat hul resultate korrek was. en gevolglik om op te hou om mediese ondersoeke te besoek of kommerwekkende simptome te ignoreer. Dit was nie net 'n onakkuraatheid nie: dit was 'n direkte gesondheidsrisiko.

Na die publikasie van hierdie sake het Google besluit verwyder KI-oorsigte in spesifieke soektogte soos "wat is die normale omvang vir lewerbloedtoetse" of "normale lewerfunksietoetsresultaat". Die koerant het egter self bevestig dat minimale variasies in die konsultasieByvoorbeeld, die verandering van die bewoording van die vraag het steeds outomatiese opsommings gegenereer met dieselfde probleem van onvoldoende konteks.

Die maatskappy, getrou aan sy kommunikasiebeleid, verkies om nie besonderhede oor elke spesifieke verwydering te verskaf nie. 'n Woordvoerder het eenvoudig gesê dat Google nie kommentaar lewer nie. "individuele eliminasies in die soektog" En dat, wanneer KI-opsommings van die nodige konteks weglaat, hulle aan algemene verbeterings werk en volgens hul interne beleide optree wanneer hulle dit gepas ag.

Gesondheidsorganisasies vra vir meer versigtigheid met mediese KI

Die kritiek is nie beperk tot die tegnologiese sfeer nie. Kenners in die gesondheidsorgsektor het Google versoek om... groter vlak van versigtigheid wanneer dit by gesondheidskwessies kom. Vanessa Hebditch, direkteur van kommunikasie en beleid by Britse Lewer TrustHy het die verwydering van sommige opsommings verwelkom, maar gewaarsku dat die probleem voortduur solank KI misleidende antwoorde kan genereer deur die soektog bloot effens te wysig.

Hebditch het opgemerk dat lewerfunksietoetse die volgende insluit: verskillende tipes analise En om hulle korrek te interpreteer kan selfs vir professionele persone kompleks wees. 'n Outomatiese lys van syfers sonder om te verduidelik watter toets dit is of of dit by die persoon se spesifieke geval pas, is, in hul woorde, 'n potensiële bron van verwarring wat ernstige patologieë kan verbloem.

Ander organisasies, soos die PasiëntinligtingforumHulle het hierdie saak gebruik om 'n fundamentele probleem uit te lig: miljoene volwassenes sukkel reeds om betroubare mediese inligting En verstaanbaar. As soekenjins lae van KI insluit wat in die praktyk met tradisionele bronne meeding, behoort die standaard vir gehalte besonder hoog te wees.

Sue Farrington, president van hierdie forum, het Google se besluit om sommige van die opsommings te verwyder beskryf as "'n Goeie eerste stap"Maar hy het daarop aangedring dat daar steeds te veel voorbeelde van outomaties gegenereerde, verkeerde gesondheidsinhoud is. Na sy mening behoort die soekenjin se rol te wees om gebruikers na verwysingsgesondheidsorganisasies en entiteite met goeie redaksionele kriteria, in plaas daarvan om oormatig staat te maak op waarskynlikheidsmodelle wat nie kliniese oordeel vervang nie.

Intussen het tegnologie- en mediakenners daarop gewys dat die saak 'n ongemaklike werklikheid uitlig: hoewel Google beweer dat sommige opsommings oor kanker of geestesgesondheid Alhoewel hulle op geakkrediteerde bronne staatmaak en konsultasie met professionele persone aanbeveel, is die stelsel nie vry van ernstige foute nie. Vir redakteurs soos Victor Tangermann, van die webwerf FuturismeWat gebeur het, toon dat die ontplooiing van hierdie funksies in sensitiewe gebiede soos medisyne Dit is nog nie ryp nie..

Wanneer KI die toegangspoort tot “Dr. Internet” word

Die geval van Google-opsommings het nie in 'n vakuum ontstaan ​​nie. Jare lank het miljoene mense gebruik gemaak van wat bekend staan ​​as Google se opsommingsfunksie. “Dr. Google” om simptome na te gaan, twyfels na 'n konsultasie uit te klaar, of voor te berei voordat jy na die dokter gaan. Wat nou verander, is die tegnologiese laag wat tussen die gebruiker en die oorspronklike bronne geplaas word.

Tot onlangs was die model relatief duidelik: Die soekenjin het 'n lys skakels aangebied, en elke persoon moes besluit watter webwerf om te vertrou.Nou neem KI-panele die mees sigbare ruimte in beslag en Hulle bied die inligting aan as 'n geslote en baie selfversekerde antwoordDit kan die gevoel versterk dat daar geen nodigheid is om aan te hou soek of te vergelyk nie.

Hierdie verskuiwing het direkte implikasies vir die Openbare gesondheid in EuropaIn Spanje, byvoorbeeld, het die streekgesondheidsorgstelsels en die Ministerie van Gesondheid belê in kundige-gevalideerde inligtingsportale wat ontwerp is om burgers in staat te stel om betroubaar antwoorde op hul vrae te vind. As die soekenjin se KI-laag die gebruiker se aandag trek voordat hulle selfs daardie webwerwe bereik, Die risiko dat onnodige kortpaaie genormaliseer word, is duidelik.

Boonop, Die manier waarop die vraag geformuleer word, word deurslaggewendSoos Britse navorsing getoon het, kan die verandering van een uitdrukking vir 'n ander veroorsaak dat die stelsel besluit of 'n outomatiese opsomming vertoon moet word of nie. Vir die gemiddelde pasiënt, wat nie vertroud is met mediese jargon en die ingewikkeldhede van die algoritme nie, is hierdie verskil feitlik onsigbaar, maar kan bepaal of jy 'n verstandige reaksie ontvang of 'n dubbelsinnige boodskap.

In 'n scenario waar persoonlike mediese konsultasies steeds beperkte tydgleuwe het en waglyste 'n bron van kommer is vir 'n groot deel van die bevolking, Die versoeking om meer besluite aan KI-instrumente te delegeer, is verstaanbaar.Dis presies hoekom, Die foute in hierdie outomatiese reaksies is nie 'n klein detail nie.

Alles dui daarop dat die kombinasie van tradisionele soekenjins en generatiewe kunsmatige intelligensie steeds 'n sentrale rol sal speel in hoe die Europese bevolking toegang tot gesondheidsinligting verkry. Google se misstap met sommige mediese opsommings illustreer die mate waarin 'n waninterpretasie werklike gevolge kan hê en versterk die idee dat, hoe gevorderd die modelle ook al mag wees, gesondheidsinligting nodig is kliniese oordeel, konteks en menslike toesig sodat dit nie 'n bykomende risiko vir pasiënte inhou nie.