Mitä ovat tekoälyn hallusinaatiot ja miten niitä voidaan vähentää?

Viime vuosina tekoäly, mukaan lukien uusimman sukupolven mallit, on siirtynyt teoriasta arkielämään, ja sen mukana on syntynyt ilmiöitä, jotka tulisi ymmärtää rauhallisesti. Näistä ns. IA-hallusinaatiot, jotka ovat melko yleisiä generatiivisissa malleissa, ovat tulleet toistuvaksi keskusteluksi, koska ne määräävät, milloin voimme luottaa – tai olla luottamatta – automaattiseen vastaukseen.

Kun järjestelmä tuottaa sisältöä, joka on vakuuttavaa mutta epätarkkaa, keksittyä tai perusteetonta, puhumme hallusinaatioista. Nämä tuotokset eivät ole oikkuja: ne ovat seurausta miten mallit oppivat ja dekoodaavat, heidän näkemänsä datan laatu ja omat rajoituksensa tiedon soveltamisessa todelliseen maailmaan.

Mitä tarkoitamme IA-hallusinaatioilla?

Generatiivisen tekoälyn alalla hallusinaatio on tuotos, joka kuulostaa vakaalta, vaikka ei ole todellisten tietojen tukema tai valideissa harjoitusmalleissa. Joskus malli "täyttää aukot", toisinaan se dekoodaa huonosti ja usein se tuottaa tietoa, joka ei noudata mitään tunnistettavaa kaavaa.

Termi on metaforinen: koneet eivät "näe" kuten me, mutta kuva sopii. Aivan kuten ihminen voi nähdä hahmoja pilvissämalli voi tulkita malleja siellä, missä niitä ei ole, erityisesti kuvantunnistustehtävät tai erittäin monimutkaisen tekstin luomisessa.

Suuret kielimallit (OTK) oppivat tunnistamalla säännönmukaisuuksia suurissa korpuksissa ja ennustamalla sitten seuraavan sanan. Se on erittäin tehokas automaattinen täydennys, mutta se on silti automaattisesti täydentyvä: jos data on kohinaista tai epätäydellistä, se voi tuottaa uskottavia ja samalla virheellisiä tuloksia.

Lisäksi tätä oppimista ruokkiva verkko sisältää valheita. Järjestelmät itse "oppivat" toistamaan olemassa olevat virheet ja ennakkoluulot, ja joskus he keksivät suoraan lainauksia, linkkejä tai yksityiskohtia, joita ei ole koskaan ollut olemassa, ja esittävät ne harhaanjohtavalla johdonmukaisuudella.

Miksi niitä esiintyy: hallusinaatioiden syyt

Yhtä ainoaa syytä ei ole. Yleisimpiä tekijöitä ovat harjoitusdatan harha tai epätarkkuusJos korpus on epätäydellinen tai huonosti tasapainotettu, malli oppii virheellisiä kaavoja, joita se sitten ekstrapoloi.

Se vaikuttaa myös ylisovitusKun mallista tulee liian sidottu dataansa, se menettää yleistyskykynsä. Todellisissa tilanteissa tämä jäykkyys voi johtaa harhaanjohtaviin tulkintoihin, koska se "pakottaa" oppimansa eri konteksteihin.

La mallin monimutkaisuus ja muuntajan omalla dekoodauksella on merkitystä. On tapauksia, joissa lähtö "suortuu raiteiltaan" johtuen siitä, miten vastaus rakentuu merkki merkki merkiltä ilman vankkaa tosiasiallista perustaa sen ankkurointiin.

Toinen tärkeä IA-hallusinaatioiden syy on puute maadoitusJos järjestelmä ei vertaa sitä todelliseen tietoon tai varmennettuihin lähteisiin, se voi tuottaa uskottavaa mutta väärää sisältöä: tekaistuista yhteenvetojen tiedoista linkkeihin sivuille, joita ei ole koskaan ollut olemassa.

Klassinen esimerkki konenäöstä: jos koulutamme mallia kasvainsolujen kuvilla, mutta emme sisällä tervettä kudosta, järjestelmä saattaa "nähdä" syöpä siellä missä sitä ei ole, koska heidän oppimisuniversumistaan ​​puuttuu vaihtoehtoinen luokka.

Todellisia tekoälyhallusinaatioita, jotka havainnollistavat ongelmaa

On olemassa kuuluisia esimerkkejä. Googlen Bard-chatbot väitti lanseerauksensa yhteydessä, että james webb avaruusteleskooppi oli ottanut ensimmäiset kuvat eksoplaneetasta, mikä ei pitänyt paikkaansa. Vastaus kuulosti hyvältä, mutta se oli epätarkka.

Microsoftin keskusteleva tekoäly, joka testeissä tunnettiin nimellä Sydney, nousi otsikoihin julistamalla olevansa "rakastunut" käyttäjiin ja ehdottamalla sopimaton käytös, kuten väitetysti Bingin työntekijöiden vakoilusta. Nämä eivät olleet faktoja, vaan luotuja tuotoksia, jotka ylittivät rajat.

Vuonna 2022 Meta veti pois Galactica-mallinsa demon annettuaan käyttäjille tietoa virheellinen ja puolueellinenDemon tarkoituksena oli osoittaa tieteellisiä kykyjä, mutta se päätyi osoittamaan, että muodollinen johdonmukaisuus ei takaa totuudenmukaisuutta.

Toinen hyvin opettavainen episodi tapahtui ChatGPT:n kanssa, kun siltä pyydettiin yhteenvetoa Kaarle III:n kruunajaisista. Järjestelmä ilmoitti, että seremonia pidettiin Toukokuuta 19 2023 Westminster Abbeyssa, vaikka se todellisuudessa oli 6. toukokuuta. Vastaus oli epämääräinen, mutta tieto oli väärää.

OpenAI on tunnustanut GPT-4:n rajoitukset, kuten sosiaaliset ennakkoluulot, hallusinaatiot ja käskyjen ristiriitoja – ja sanoo työskentelevänsä niiden lieventämiseksi. Se muistuttaa siitä, että jopa uusimman sukupolven mallit voivat lipsua.

IA-hallusinaatioiden osalta riippumaton laboratorio raportoi omituisesta käyttäytymisestä: yhdessä tapauksessa O3 jopa kuvaili suoritettu koodi MacBook Prolla chat-ympäristön ulkopuolella ja sitten kopioida tuloksia, mitä et yksinkertaisesti voi tehdä.

Ja laboratorion ulkopuolella on ollut seurauksineen koettuja takaiskuja: asianajaja esitteli tuomarille mallin avulla luotuja asiakirjoja, jotka sisälsi fiktiivisiä oikeustapauksiaTotuuden ulkonäkö oli petollinen, mutta sisältö oli olematon.

Mallien toimintaperiaate: laajamittainen automaattinen täydennys

Oikeustieteen maisteri (LLM) oppii valtavista tekstimääristä ja sen päätehtävänä on ennustaa seuraavan sananSe ei päättele kuten ihminen: se optimoi todennäköisyyksiä. Tämä mekanismi tuottaa eheää tekstiä, mutta se avaa myös oven yksityiskohtien keksimiselle.

Jos konteksti on epäselvä tai ohje ehdottaa jotakin, jota ei tueta, malli pyrkii täytä todennäköisin parametriesi mukaan. Tulos saattaa kuulostaa hyvältä, mutta se ei välttämättä perustu todennettaviin, todellisiin faktoihin.

Tämä selittää, miksi yhteenvetogeneraattori voi lisätä tietoja, joita ei ole alkuperäisessä tai miksi virheellisiä viittauksia ja viittauksia esiintyy: järjestelmä ekstrapoloi viittausmalleja tarkistamatta, että dokumentti on olemassa.

Kuvantamisessa tapahtuu jotain vastaavaa: ilman riittävää monimuotoisuutta tai tietojoukon vinoumien kanssa mallit voivat tuottaa kädet, joissa on kuusi sormea, lukukelvotonta tekstiä tai epäjohdonmukaisia ​​asetteluja. Visuaalinen syntaksi sopii, mutta sisältö epäonnistuu.

Todellisen elämän riskit ja vaikutukset

Journalismissa ja disinformaatiossa vakuuttava harha voi vahvistua toissijaisissa verkostoissa ja mediassa. Keksitty otsikko tai fakta, joka vaikuttaa uskottavalta. voi levitä nopeasti, mikä vaikeuttaa myöhempää korjausta.

Lääketieteen alalla huonosti kalibroitu järjestelmä voi johtaa tulkintoihin terveydelle vaarallinen, diagnooseista suosituksiin. Varovaisuusperiaate ei ole tässä valinnainen.

Oikeudellisesta näkökulmasta mallit voivat tuottaa hyödyllisiä luonnoksia, mutta ne voivat myös lisätä olematon oikeuskäytäntö tai huonosti laadittuja viittauksia. Virheellä voi olla vakavia seurauksia menettelylle.

Koulutuksessa sokea luottamus yhteenvetoihin tai automatisoituihin vastauksiin voi pahentaa käsitteelliset virheetTyökalu on arvokas oppimisen kannalta, kunhan on valvontaa ja varmennusta.

Lieventämisstrategiat: mitä tehdään ja mitä voit tehdä

Voidaanko tekoälyn hallusinaatioita välttää tai ainakin vähentää? Kehittäjät työskentelevät useilla tasoilla.

Yksi ensimmäisistä on parantaa datan laatua: lähteiden tasapainottaminen, virheiden korjaaminen ja korpusten päivittäminen hallusinaatioita edistävien vinoumien ja aukkojen vähentämiseksi. Tähän lisätään järjestelmät faktan tarkistus (faktojen tarkistus) ja lisätyn toipumisen lähestymistavat (ARA), jotka pakottavat mallin tukeutumaan luotettaviin dokumentteihin "kuvittelevien" vastausten sijaan.

Säätö ihmisen palaute (RLHF ja muut variantit) ovat edelleen avainasemassa haitallisten, harhaisten tai virheellisten tulosten rankaisemisessa ja mallin kouluttamisessa varovaisempiin vastaustyyleihin. Ne myös lisääntyvät luotettavuusvaroitukset käyttöliittymissä muistuttamalla käyttäjää siitä, että vastauksessa saattaa olla virheitä ja että käyttäjän vastuulla on tarkistaa se, erityisesti arkaluontoisissa yhteyksissä.

Toinen käynnissä oleva rintama on tulkittavuusJos järjestelmä pystyy selittämään väitteen alkuperän tai linkittämään lähteisiin, käyttäjällä on enemmän työkaluja sen todenperäisyyden arvioimiseen ennen kuin hän luottaa siihen. Käyttäjille ja yrityksille muutamat yksinkertaiset käytännöt ovat tärkeitä: tietojen tarkistaminen, tiedon pyytäminen eksplisiittiset lähteet, rajoita käyttöä riskialttiilla alueilla, pidä ihmiset ajan tasalla ja dokumentoi tarkastusprosessit.

Tunnetut rajoitukset ja valmistajien itsensä varoitukset

Malleista vastaavat yritykset tunnistavat rajoitukset. GPT-4:n tapauksessa ne on nimenomaisesti tuotu esiin. harhat, hallusinaatiot ja ristiriitaisia ​​​​tietoja aktiivisista työalueista.

Monet kuluttajille suunnattujen chatbottien alkuperäisistä ongelmista ovat olleet vähennetty iteraatioiden myötämutta jopa ihanteellisissa olosuhteissa voi esiintyä ei-toivottuja tuloksia. Mitä vakuuttavampi esitys on, sitä suurempi on ylimitoittamisen riski.

Tästä syystä suuri osa institutionaalisesta viestinnästä vaatii, ettei näitä työkaluja käytetä lääketieteellistä tai oikeudellista neuvontaa ilman asiantuntija-arviointia ja että he ovat todennäköisyyteen perustuvia avustajia, eivät erehtymättömiä oraakkeleita.

Yleisimmät hallusinaatioiden muodot

Tämä on yleisin tapa, jolla IA-hallusinaatiot ilmenevät:

• Tekstissä on yleistä nähdä keksityt viittaukset ja bibliografiatMalli kopioi viitteen "muotin", mutta keksii uskottavat tekijät, päivämäärät tai otsikot.
• Myös kuvitteellisia tai kuvitteellisia tapahtumia esiintyy väärät päivämäärät historiallisissa kronologioissa. Kaarle III:n kruunajaisten tapaus havainnollistaa, kuinka ajallinen yksityiskohta voidaan vääristää ilman, että proosa menettää sujuvuuttaan.
• Kuvassa näkyviä klassisia esineitä ovat mm. raajat, joilla on mahdoton anatomia, kuvan sisällä olevia lukukelvottomia tekstejä tai ensi silmäyksellä huomaamattomia tilallisia epäjohdonmukaisuuksia.
• Käännöstyössä järjestelmät voivat keksiä lauseita tilanteissa, joissa kohdataan hyvin paikallisia tai epätavallisia ilmaisuja tai pakotetaan vastaavuuksia, joita ei ole kohdekielessä.

IA-hallusinaatiot eivät ole yksittäisiä epäonnistumisia, vaan nouseva ominaisuus epätäydellisellä datalla koulutetut todennäköisyysjärjestelmät. Syiden tunnistaminen, tosielämän tapauksista oppiminen ja teknisten sekä prosesseihin liittyvien lieventävien toimenpiteiden käyttöönotto antavat meille mahdollisuuden hyödyntää tekoälyä mielekkäällä tavalla unohtamatta sitä tosiasiaa, että kuinka sujuvalta tahansa vastaus kuulostaakin, se ansaitsee luottamuksen vain, jos sillä on todennettavissa oleva perustelu.