OpenAI takmarkar notkun ChatGPT í læknisfræðilegum og lagalegum aðstæðum

Fyrirtækið sem framleiðir gervigreind hefur Það hefur hert reglur sínar til að koma í veg fyrir að spjallþjónninn sé notaður eins og hann væri heilbrigðisstarfsmaður eða lögfræðingur.. Með þessari uppfærslu, Persónuleg læknisfræðileg og lögfræðileg ráðgjöf kemur ekki til greina. ef löggiltur fagmaður kemur ekki að verki.

Breytingin er ekki ætluð til að þagga niður í umræðum um heilsu eða réttindi alveg, heldur til að beina þeim áfram: ChatGPT mun áfram einbeita sér að upplýsingagjöf., útskýra almenn hugtök og vísa til sérfræðinga þegar notandinn þarfnast leiðbeininga sem eiga við um hans tilvik.

Hvað nákvæmlega hefur breyst í notkunarstefnunni?

OpenAI hefur tilgreint í skilmálum sínum að Fyrirmyndir þeirra ættu ekki að veita ráðleggingar sem krefjast faglegrar hæfni án eftirlits. viðeigandi. Í reynd þýðir þetta að kerfið Það mun ekki bjóða upp á greiningar, sérsniðnar lagalegar aðferðir eða fjárhagslegar ákvarðanir. aðlagað að persónulegum aðstæðum.

Í reglunum eru einnig tilgreind sérstök bönn: eftirfarandi er ekki lengur leyfilegt lyfjaheiti eða skammtaleiðbeiningar Í samhengi einstaklingsráðgjafar felur þetta ekki heldur í sér sniðmát fyrir kröfur eða leiðbeiningar um málaferli, né tillögur um kaup/sölu eigna eða sérsniðin eignasöfn.

Hvað má panta og hvað er bannað

Notkun í fræðsluskyni er viðhaldið: líkanið getur lýsa meginreglum, skýra hugtök og benda á aðferðir Almennar upplýsingar um heilsufar, lögfræði eða fjármál. Þetta efni kemur ekki í stað faglegrar ráðgjafar og ætti ekki að nota það til að taka áhættusamar ákvarðanir.

Allt sem felur í sér persónuleg ráðgjöf eða gerð skjala sem gætu haft bein lagaleg eða heilsufarsleg áhrif. Þegar notandi leggur fram tiltekið mál mun kerfið forgangsraða öryggisviðvörunum og tilvísun til löggiltra sérfræðinga.

Áhrif á Spáni og í Evrópu

Fyrir notendur á Spáni og í Evrópu falla þessar ráðstafanir að reglugerðarumhverfi sem krefst Sterkari öryggisráðstafanir á viðkvæmum svæðumAlmennar leiðbeiningar eru leyfðar, en ákvarðanir sem varða heilsu eða réttindi verða að vera teknar af hæfu starfsfólki með ábyrgð og skyldur til að greina réttindi erfitt að þýða yfir á gervigreind.

Ennfremur undirstrikar uppfærslan mikilvægi þess að deila ekki viðkvæmum gögnum, sérstaklega í læknisfræðilegu og lagalegu samhengi. trúnaðarskylda og reglufylgni Þau eru nauðsynleg og þess vegna leggur fyrirtækið áherslu á skynsamlega notkun og faglega staðfestingu þegar þau hafa raunveruleg áhrif á einstakling.

Af hverju reglurnar eru að verða strangari: áhættur og atvik

Hertingar reglugerða koma í kjölfar frétta þar sem varað var við skaðlegum áhrifum af því að taka viðkvæmar ákvarðanir byggðar á svörum spjallþjóna. Meðal tilvika sem fjölmiðlar nefndu er eitt... brómíð eituráhrif lýst í bandarísku læknatímariti, eftir breytingu á mataræði sem innblásin var af upplýsingum sem fengust á netinu.

Einnig hefur verið dreift vitnisburði notanda í Evrópu, sem, frammi fyrir áhyggjuefnum, treysti upphaflegu, röngu mati og frestaði samráðinu með lækninum sínum, en fá síðan greiningu á krabbameini á háu stigi. Þessar sögur sýna fram á hvers vegna Gervigreind ætti ekki að koma í stað fagfólks í mjög viðkvæmum málum.

Hvernig eftirlit er beitt í reynd

Pallurinn setur spjallþjóninn fram sem námsverkfæri: útskýrir, setur í samhengi og bendir á takmörkEf beiðnir eru gerðar sem miða að því að komast hjá hindrunum (til dæmis lyfjaskammtar eða sérsniðnar lagalegar aðferðir), þá loka öryggiskerfi fyrir eða beina samtalinu áfram og bjóða upp á... fara til atvinnumanns.

Öryggisviðvaranir og leiðbeiningar um ábyrga notkun fylgja svörum við viðkvæmum efnum. Þetta miðar að því að draga úr hættu á hættulegar túlkanir og það er hvatt til þess að allar ákvarðanir sem hafa raunverulegar afleiðingar skuli teknar undir handleiðslu sérfræðinga.

Áhrif á sjúklinga, notendur og fagfólk

Fyrir borgara veitir breytingin skýrari ramma: ChatGPT getur verið gagnlegt fyrir skilja hugtök, reglugerðir eða ferlaen ekki til að leysa klínískt mál eða höfða mál. Þessi rauða lína leitast við að lágmarka skaða og forðast þá fölsku tilfinningu að hafa „ráð“ þegar það í raun er það bara fræðsluupplýsingar.

Fyrir lækna, lögfræðinga og aðra sérfræðinga hjálpar símenntun til við að varðveita starfsemi sem krefst sérfræðiálits og lagalega ábyrgðSamhliða því opnar það rými fyrir samstarf þar sem gervigreind veitir samhengi og skjöl, alltaf undir eftirliti manna og með gagnsæi varðandi takmörk þess.

Heimildir og tilvísunarskjöl

Í uppfærðum stefnum og þjónustusamningum OpenAI er sérstaklega tekið fram að ný takmörk Til notkunar í heilbrigðis- og lögfræði. Hér að neðan eru nokkur viðeigandi skjöl og umfjöllun sem útskýra umfang þessara aðgerða og ástæður þeirra.

1. Notkunarreglur OpenAI (takmarkanir á læknisfræðilegri og lögfræðilegri ráðgjöf)
2. Samningur um þjónustu OpenAI (Skilmálar þjónustu)
3. Þjónustuskilmálar (OpenAI) (viðeigandi skilyrði)
4. Saga endurskoðunar stefnu (nýlegar breytingar)
5. Tilkynning í OpenAI samfélaginu (þjónustusamningur)
6. Umfjöllun um nýju takmarkanirnar (áhrifagreining)
7. Takmarkanir á stuðningi við geðheilbrigði (öryggisaðferð)

Með þessari reglubreytingu skilgreinir fyrirtækið skýrt hlutverk spjallþjónsins síns: að upplýsa og leiðbeina almenntán þess að taka að sér klínískt eða lagalegt hlutverk. Fyrir notandann eru leiðbeiningarnar skýrar: þegar málið hefur áhrif á heilsu hans eða réttindi verður samráðið að fara í gegnum hæfur fagmaður.