Mae Google yn arafu ei grynodebau iechyd sy'n cael eu pweru gan AI wrth i'r pwysau gynyddu am ddiogelwch iechyd ar-lein

Y ffordd rydyn ni'n chwilio Mae gwybodaeth iechyd ar y rhyngrwyd yn mynd i mewn i cyfnod cainMae modelau deallusrwydd artiffisial mawr wedi gwneud y naid o ysgrifennu negeseuon e-bost neu grynhoi newyddion i gynnig atebion meddygol uniongyrchol yn rhan fwyaf gweladwy peiriannau chwilio, gan luosi eu heffaith ar fywydau beunyddiol cleifion.

Yn y cyd-destun hwn, Mae Google wedi cael ei orfodi i dynnu'n ôl mewn rhan allweddol o'u strategaeth: y crynodebau a gynhyrchwyd gan AI a ymddangosodd ar frig canlyniadau chwilio ar gyfer ymholiadau iechyd sensitif. Ar ôl sawl Oherwydd diffygion difrifol a ganfuwyd gan arbenigwyr, mae'r cwmni wedi dechrau tynnu'r ymatebion awtomataidd hyn yn ôl. mewn rhai chwiliadau sy'n gysylltiedig â phrofion meddygol a chlefydau.

Mae Google yn tynnu crynodebau iechyd a gynhyrchwyd gan AI ar ôl gwallau difrifol

Ym Madrid a gweddill Ewrop, mae llawer o ddefnyddwyr wedi bod yn byw gyda'r hyn a elwir Trosolwg o AIY crynodebau awtomatig y mae Google yn eu cynhyrchu gyda deallusrwydd artiffisial cynhyrchiol ac yn eu gosod uwchben dolenni traddodiadol. Y syniad yw cynnig ateb clir a chyflym, ond o ran cwestiynau meddygol, mae'r ymyl gwall yn fach iawn.

Ymchwiliad gan Y Guardian Canolbwyntiodd yn union ar y crynodebau iechyd hynny. Canfu'r papur newydd Prydeinig, pan ofynnwyd iddo amdanyn nhw. profion swyddogaeth yr afu, Dychwelodd y system restrau o ffigurau ac ystodau a oedd i fod i fod yn "normal" heb egluro agweddau sylfaenol fel oedran, rhyw, ethnigrwydd, na chyd-destun clinigol y claf.elfennau hanfodol ar gyfer dehongli prawf gwaed.

Rhybuddiodd arbenigwyr hepatoleg fod y cyflwyniad data hwn Gallai hyn arwain pobl â chlefyd difrifol yr afu i gredu bod eu canlyniadau'n gywir. ac, o ganlyniad, i roi'r gorau i fynd i archwiliadau meddygol neu anwybyddu symptomau sy'n peri pryder. Nid anghywirdeb yn unig ydoedd: roedd yn risg iechyd uniongyrchol.

Yn dilyn cyhoeddi'r achosion hyn, penderfynodd Google tynnu Trosolwg AI mewn chwiliadau penodol fel “beth yw’r ystod arferol ar gyfer profion gwaed yr afu” neu “canlyniad prawf swyddogaeth yr afu arferol”. Fodd bynnag, cadarnhaodd y papur newydd ei hun fod amrywiadau lleiaf yn yr ymgynghoriadEr enghraifft, roedd newid geiriad y cwestiwn yn dal i gynhyrchu crynodebau awtomatig gyda'r un broblem o gyd-destun annigonol.

Mae'r cwmni, yn driw i'w bolisi cyfathrebu, wedi dewis peidio â darparu manylion am bob dileu penodol. Dywedodd llefarydd yn syml nad yw Google yn gwneud sylwadau. “dileu unigolion yn y chwiliad” A phan fydd crynodebau AI yn hepgor rhywfaint o'r cyd-destun angenrheidiol, eu bod yn gweithio ar welliannau cyffredinol ac yn gweithredu yn unol â'u polisïau mewnol pan fyddant yn ei ystyried yn briodol.

Mae sefydliadau iechyd yn galw am fwy o ofal gyda deallusrwydd artiffisial meddygol

Nid yw'r feirniadaeth wedi bod yn gyfyngedig i'r maes technolegol. Mae arbenigwyr yn y sector gofal iechyd wedi galw ar Google i... lefel uwch o rybudd o ran materion iechyd. Vanessa Hebditch, cyfarwyddwr cyfathrebu a pholisi yn Ymddiriedolaeth yr Afu PrydeinigCroesawodd gael gwared ar rai crynodebau, ond rhybuddiodd fod y broblem yn parhau cyn belled ag y gall AI gynhyrchu atebion camarweiniol trwy addasu'r chwiliad ychydig.

Nododd Hebditch fod profion swyddogaeth yr afu yn cwmpasu gwahanol fathau o ddadansoddiad A gall eu dehongli'n gywir fod yn gymhleth hyd yn oed i weithwyr proffesiynol. Mae rhestr awtomataidd o ffigurau heb egluro pa brawf ydyw neu a yw'n cyd-fynd ag achos penodol y person, yn eu geiriau nhw, yn ffynhonnell bosibl o ddryswch a all guddio patholegau difrifol.

Sefydliadau eraill, fel y Fforwm Gwybodaeth i GleifionMaen nhw wedi defnyddio'r achos hwn i dynnu sylw at broblem sylfaenol: mae miliynau o oedolion eisoes yn cael anhawster dod o hyd i gwybodaeth feddygol ddibynadwy Ac yn ddealladwy. Os yw peiriannau chwilio yn ymgorffori haenau o AI sydd, yn ymarferol, yn cystadlu â ffynonellau traddodiadol, dylai'r safon ar gyfer ansawdd fod yn arbennig o uchel.

Disgrifiodd Sue Farrington, llywydd y fforwm hwn, benderfyniad Google i gael gwared ar rai o'r crynodebau fel “cam cyntaf da”Ond mynnodd fod gormod o enghreifftiau o gynnwys iechyd anghywir a gynhyrchwyd yn awtomatig o hyd. Yn ei farn ef, rôl y peiriant chwilio ddylai fod cyfeirio defnyddwyr tuag at sefydliadau iechyd cyfeirio ac endidau â meini prawf golygyddol cadarn, yn lle dibynnu'n ormodol ar fodelau tebygolrwydd nad ydynt yn disodli barn glinigol.

Yn y cyfamser, mae arbenigwyr technoleg a chyfryngau wedi tynnu sylw at y ffaith bod yr achos yn tynnu sylw at realiti anghyfforddus: er bod Google yn honni bod rhai crynodebau am canser neu iechyd meddwl Er eu bod yn dibynnu ar ffynonellau achrededig ac yn argymell ymgynghori â gweithwyr proffesiynol, nid yw'r system yn rhydd o wallau difrifol. I olygyddion fel Victor Tangermann, o'r wefan FfwturistiaethMae'r hyn a ddigwyddodd yn dangos bod defnyddio'r swyddogaethau hyn mewn meysydd sensitif fel meddygaeth Nid yw wedi aeddfedu eto..

Pan fydd AI yn dod yn borth i “Dr. Internet”

Ni gododd achos crynodebau Google mewn gwagle. Ers blynyddoedd, mae miliynau o bobl wedi defnyddio'r hyn a elwir yn nodwedd crynodeb Google. “Dr. Google” i wirio symptomau, egluro amheuon ar ôl ymgynghoriad, neu baratoi cyn mynd at y meddyg. Yr hyn sy'n newid nawr yw'r haen dechnolegol a osodir rhwng y defnyddiwr a'r ffynonellau gwreiddiol.

Tan yn ddiweddar, roedd y model yn gymharol glir: Roedd y peiriant chwilio yn cynnig rhestr o ddolenni, ac roedd yn rhaid i bob person benderfynu pa wefan i ymddiried ynddi.Nawr, paneli AI sy'n meddiannu'r lle mwyaf gweladwy a Maent yn cyflwyno'r wybodaeth fel ateb caeedig a hyderus iawnGall hyn atgyfnerthu'r teimlad nad oes angen parhau i chwilio na chymharu.

Mae gan y newid hwn oblygiadau uniongyrchol i'r Iechyd cyhoeddus yn EwropYn Sbaen, er enghraifft, mae'r systemau gofal iechyd rhanbarthol a'r Weinyddiaeth Iechyd wedi buddsoddi mewn pyrth gwybodaeth sydd wedi'u dilysu gan arbenigwyr a gynlluniwyd i ganiatáu i ddinasyddion ddod o hyd i atebion i'w cwestiynau yn ddibynadwy. Os yw haen AI y peiriant chwilio yn dal sylw'r defnyddiwr cyn iddynt hyd yn oed gyrraedd y gwefannau hynny, Mae'r risg y bydd llwybrau byr afresymol yn cael eu normaleiddio yn amlwg..

Heblaw, Mae'r ffordd y mae'r cwestiwn wedi'i lunio yn dod yn hanfodolFel y mae ymchwil Prydeinig wedi'i ddangos, gall newid un mynegiant am un arall beri i'r system benderfynu a ddylid arddangos crynodeb awtomatig ai peidio. I'r claf cyffredin, sy'n anghyfarwydd â jargon meddygol a chymhlethdodau'r algorithm, mae'r gwahaniaeth hwn bron yn anweledig, ond yn gallu penderfynu a ydych chi'n derbyn ymateb doeth neu a neges amwys.

Mewn senario lle mae ymgynghoriadau meddygol wyneb yn wyneb yn parhau i fod â slotiau amser cyfyngedig a lle mae rhestrau aros yn bryder i ran fawr o'r boblogaeth, Mae'r demtasiwn i ddirprwyo mwy o benderfyniadau i offer AI yn ddealladwyDyna'n union pam, Nid yw'r methiannau yn yr ymatebion awtomataidd hyn yn fanylyn bach.

Mae popeth yn awgrymu y bydd y cyfuniad o beiriannau chwilio traddodiadol a deallusrwydd artiffisial cynhyrchiol yn parhau i chwarae rhan ganolog yn y ffordd y mae poblogaeth Ewrop yn cael mynediad at wybodaeth iechyd. Mae camgymeriad Google gyda rhai crynodebau meddygol yn dangos i ba raddau y gall camddealltwriaeth gael canlyniadau gwirioneddol ac yn atgyfnerthu'r syniad, pa mor ddatblygedig bynnag yw'r modelau, bod angen gwybodaeth iechyd barn glinigol, cyd-destun, a goruchwyliaeth ddynol er mwyn peidio â dod yn risg ychwanegol i gleifion.