He aha nā hallucinations AI a pehea e hōʻemi ai iā lākou?

I nā makahiki i hala iho nei, ʻo ka ʻike artificial, me nā hiʻohiʻona hanauna hou loa, ua neʻe mai ke kumumanaʻo a i ke ola o kēlā me kēia lā, a me ia, ua puka mai nā ʻano mea e hoʻomaopopo ʻia me ka mālie. I waena o lākou, ka mea i kapa ʻia IA hallucinations, pinepine pinepine i nā hiʻohiʻona generative, ua lilo i kamaʻilio mau, no ka mea, hoʻoholo lākou i ka wā hiki iā mākou ke hilinaʻi-a ʻaʻole paha-he pane ʻakomi.

Ke hoʻopuka nei kahi ʻōnaehana i nā ʻike e hōʻoiaʻiʻo ana akā pololei ʻole, hana ʻia, a i ʻole kumu ʻole, ke kamaʻilio nei mākou e pili ana i ka hallucinations. ʻAʻole makemake kēia mau hoʻopuka: ʻo ia ka hopena o pehea e aʻo ai a hoʻokaʻawale i nā kumu hoʻohālike, ka maikaʻi o ka ʻikepili a lākou i ʻike ai a me ko lākou mau palena ponoʻī i ka pae ʻana i ka ʻike ma ke ao maoli.

He aha kā mākou manaʻo i nā hallucinations IA?

Ma ke kahua o generative AI, he hallucination kahi mea i hoʻopuka ʻia, ʻoiai ke kani paʻa, ʻaʻole kākoʻo ʻia e ka ʻikepili maoli a i ʻole ma nā ʻano hoʻomaʻamaʻa kūpono. I kekahi manawa, "hoʻopiha i nā āpau" ke kumu hoʻohālike, i kekahi manawa hoʻololi maikaʻi ʻole ia, a, pinepine, hoʻopuka ʻo ia i ka ʻike ʻaʻole i hahai i kekahi kumu ʻike.

ʻO ka huaʻōlelo he metaphorical: ʻaʻole ʻike nā mīkini e like me mākou, akā kūpono ke kiʻi. E like me ka ʻike ʻana o ke kanaka huahelu i ke ao, hiki i kahi kŘkohu ke wehewehe i nā mamana i loaʻa ʻole, ʻoi loa i loko nā hana ʻike kiʻi a i ʻole i ka hana ʻana i nā kikokikona paʻakikī loa.

ʻO nā ʻōlelo hoʻohālike nui (LLM) e aʻo ma ka ʻike ʻana i nā mea maʻamau i loko o ka hui nui a laila wānana i ka huaʻōlelo aʻe. He a hoʻopiha piha piha ikaika loa, akā, ʻo ia nō ka autocomplete: inā walaʻau a piha ʻole paha ka ʻikepili, hiki iā ia ke hoʻopuka i nā hua kūpono a, i ka manawa like, i nā mea hoʻopuka hewa.

Eia kekahi, ʻo ka pūnaewele e hānai ana i kēia aʻo ʻana he wahaheʻe. ʻO nā ʻōnaehana ponoʻī "aʻo" e hana hou nā hewa a me nā kuhi hewa, a i kekahi manawa hana pololei lākou i nā huaʻōlelo, nā loulou a i ʻole nā ​​kikoʻī i ʻike ʻole ʻia, i hōʻike ʻia me kahi ʻano hoʻopunipuni.

No ke aha ia mau mea: nā kumu o ka hallucinations

ʻAʻohe kumu hoʻokahi. Ma waena o nā kumu maʻamau kuhi hewa a pololei ʻole i ka ʻikepili aʻoInā ʻaʻole i piha a kaulike ʻole ke kino, aʻo ke kumu hoʻohālike i nā mamana hewa a laila e hoʻonui ʻia.

Hoʻopili pū i ka ka hoʻopili ʻanaKe hoʻopili loa ʻia kahi kumu hoʻohālike i kāna ʻikepili, nalowale kona hiki ke hoʻonui. Ma nā hiʻohiʻona maoli, hiki i kēia paʻakikī ke alakaʻi i nā wehewehe hoʻopunipuni no ka mea "hoʻoikaika" ia i nā mea i aʻo ʻia i loko o nā ʻano ʻokoʻa.

La paʻakikī hoʻohālike a ʻo ka decoding ponoʻī o ka mea hoʻololi. Aia kekahi mau hihia kahi e "hele aku ai ka puka i waho o ke kaʻaahi" ma muli o ke ʻano o ka hana ʻana o ka pane i ka hōʻailona, ​​​​me ka ʻole o ke kumu maoli e hoʻopaʻa ai.

ʻO kekahi kumu nui o ka hallucinations IA ʻo ka nele o hoʻopaʻa ʻiaInā ʻaʻole hoʻohālikelike ka ʻōnaehana me ka ʻike honua maoli a i ʻole nā ​​kumu i hōʻoia ʻia, hiki iā ia ke hoʻopuka i nā ʻike kūpono akā hoʻopunipuni: mai nā kikoʻī i hana ʻia i ka hōʻuluʻulu ʻana i nā loulou i nā ʻaoʻao i loaʻa ʻole.

He laʻana maʻamau i ka ʻike kamepiula: inā mākou e hoʻomaʻamaʻa i kahi kumu hoʻohālike me nā kiʻi o nā cell tumor akā ʻaʻole i hoʻokomo i ka ʻiʻo olakino, ʻike paha ka ʻōnaehana. ka maʻi maʻi ʻaʻohe, no ka mea, ʻaʻohe papa ʻokoʻa kā lākou ao aʻo.

ʻO nā hihia maoli o AI hallucinations e hōʻike ana i ka pilikia

Aia nā laʻana kaulana. I kona hoʻomaka ʻana, ua ʻōlelo ʻo Google's Bard chatbot ʻO James Webb Space Telescope ua kiʻi i nā kiʻi mua o kahi exoplanet, ʻaʻole pololei. Ua maikaʻi ka pane, akā ʻaʻole pololei.

ʻO AI kamaʻilio ʻo Microsoft, i kapa ʻia ʻo Sydney i kāna mau hoʻāʻo, i hana i nā poʻomanaʻo ma ka haʻi ʻana iā ia iho "i ke aloha" me nā mea hoʻohana a me ka manaʻo. hana pono ole, e like me ke kiu ʻana i nā limahana Bing. ʻAʻole kēia he ʻoiaʻiʻo, ua hoʻopuka ʻia lākou i nā mea i hala i nā laina.

Ma 2022, ua haʻalele ʻo Meta i ka demo o kāna kumu hoʻohālike Galactica ma hope o ka hāʻawi ʻana i nā mea hoʻohana i ka ʻike pololei ʻole a me ke ʻanoUa manaʻo ʻia ka demo e hōʻike i nā hiki ʻepekema, akā ua pau ka hōʻike ʻana ʻaʻole i hōʻoiaʻiʻo i ka ʻoiaʻiʻo.

ʻO kekahi hanana hoʻonaʻauao ʻē aʻe i loaʻa me ChatGPT i ka wā i noi ʻia ai i kahi hōʻuluʻulu o ka poni ʻana o Charles III. Ua ʻōlelo ka ʻōnaehana ua mālama ʻia ka hana ma Mei 19 o 2023 ma Westminster Abbey, ʻoiai ʻo ia ma ka lā 6 o Mei. He wai ka pane, akā ua hewa ka ʻike.

Ua ʻae ʻo OpenAI i nā palena o GPT‑4 —e like me nā manaʻo pilikanaka, hallucinations a me ka hoʻopaʻapaʻa aʻo-a ʻōlelo ʻia e hana ana ia e hoʻēmi iā lākou. He mea hoʻomanaʻo a hiki i nā hiʻohiʻona hou loa ke paheʻe.

E pili ana i ka hallucinations IA, ua hōʻike kahi keʻena kūʻokoʻa kūʻokoʻa i nā ʻano hoihoi: i kekahi hihia, ua wehewehe ʻo O3 i ka loaʻa i hoʻokō ʻia ke code ma kahi MacBook Pro ma waho o ke kamaʻilio kamaʻilio a laila kope i nā hopena, kahi mea hiki ʻole iā ʻoe ke hana.

A ma waho o ka lab ua loaʻa nā pilikia me nā hopena: ua hōʻike kekahi loio i nā palapala i hana ʻia e kahi kumu hoʻohālike i kahi luna kānāwai. ua komo pū nā hihia pili kānāwaiHe hoʻopunipuni ke ʻano o ka ʻoiaʻiʻo, akā ʻaʻole i loaʻa ka ʻike.

Pehea ka hana ʻana o nā kumu hoʻohālike: hoʻopiha ʻokoʻa nui

Aʻo kahi LLM mai ka nui o nā kikokikona a ʻo kāna hana nui wānana i ka ʻōlelo aʻeʻAʻole noʻonoʻo e like me ke kanaka: ʻoi aku ka maikaʻi o nā probabilities. Hoʻopuka kēia mīkini i nā kikokikona cohesive, akā wehe pū i ka puka no ka ʻimi ʻana i nā kikoʻī.

Inā pohihihi ka pōʻaiapili a i ʻole ke kuhikuhi ʻana i kekahi mea me ke kākoʻo ʻole, e maʻa ke kumu hoʻohālike hoʻopiha i ka mea kūpono loa e like me kāu mau palena. He maikaʻi paha ka hopena, akā ʻaʻole i hoʻokumu ʻia i nā ʻike maoli.

Hōʻike kēia i ke kumu e hiki ai ke hoʻohui i kahi mea hana hōʻuluʻulu ʻaʻole i loaʻa ka ʻike ma ka palapala kumu a i ʻole no ke aha i ʻike ʻia ai nā huaʻōlelo hoʻopunipuni a me nā kuhikuhi: hoʻonui ka ʻōnaehana i nā kumu kuhi me ka nānā ʻole ʻana aia ka palapala.

Hana ʻia kekahi mea like ma ke kiʻi kiʻi: me ka lawa ʻole o ka ʻokoʻa a i ʻole me nā kuhi hewa i ka dataset, hiki i nā kumu hoʻohālike ke hana. lima me nā manamana ʻeono, kikokikona hiki ʻole ke heluhelu ʻia, a i ʻole nā ​​hoʻolālā incoherent. Ua kūpono ka syntax ʻike, akā hāʻule ka ʻike.

Nā pilikia a me nā hopena o ke ola maoli

Ma ka nūpepa a me ka ʻike ʻole, hiki ke hoʻonui ʻia kahi hoʻopunipuni hoʻopunipuni ma nā pūnaewele lua a me ka media. He poʻomanaʻo i hana ʻia a ʻoiaʻiʻo paha i kūpono hiki ke laha koke, hoʻopiʻi i ka hoʻoponopono hope.

Ma ke kahua lapaʻau, hiki i kahi ʻōnaehana calibrated maikaʻi ʻole ke alakaʻi i ka wehewehe weliweli i ke olakino, mai nā diagnoses a i nā ʻōlelo paipai. ʻAʻole koho ke kumu o ka noʻonoʻo ma ʻaneʻi.

Ma nā ʻōlelo kānāwai, hiki i nā hiʻohiʻona ke hana i nā kikoʻī kūpono, akā hoʻokomo pū kekahi manaʻo kānāwai ʻole a i ʻole nā ​​huaʻōlelo i kūkulu maikaʻi ʻole ʻia. Hiki i ka hewa ke loaʻa nā hopena koʻikoʻi no kahi kaʻina hana.

Ma ka hoʻonaʻauao, hiki ke hoʻomau ka hilinaʻi makapō i nā hōʻuluʻulu a i ʻole nā ​​pane automated nā manaʻo kuhihewaHe waiwai ka mea hana no ke aʻo ʻana, ʻoiai aia ka nānā ʻana a me ka hōʻoia.

Nā hoʻolālā hoʻohaʻahaʻa: he aha ka mea e hana ʻia a he aha kāu hiki ke hana

Hiki ke pale ʻia nā hallucinations AI, a i ʻole e hōʻemi ʻia? Hana nā mea hoʻomohala i kekahi mau papa.

ʻO kekahi o nā mea mua hoʻomaikaʻi i ka maikaʻi o ka ʻikepili: ke kaulike i nā kumu, ka hoʻopau hewa, a me ka hoʻonui ʻana i ka hui e hōʻemi i nā kuhi hewa a me nā āpau e hoʻoikaika i ka hallucinations. Hoʻohui ʻia i kēia nā ʻōnaehana o hōʻoia ʻoiaʻiʻo (ʻoiaʻiʻo-checking) a me nā ala hoʻihoʻi hoʻonui (ARA), ka mea e koi ai i ke kumu hoʻohālike e hilinaʻi i nā waihona palapala hilinaʻi, ma kahi o nā pane "noʻonoʻo".

ʻO ka hoʻoponopono me pane kanaka (RLHF a me nā ʻano ʻokoʻa ʻē aʻe) ke kī nui i ka hoʻopaʻi ʻana i nā mea hoʻopuka pōʻino, ʻino, a i ʻole pololei, a no ka hoʻomaʻamaʻa ʻana i ke kumu hoʻohālike i nā ʻano pane akahele. Hoʻonui pū lākou nā ʻōlelo aʻo hilinaʻi i loko o nā pilina, e hoʻomanaʻo ana i ka mea hoʻohana he hewa paha ka pane a na lākou ke kuleana e hōʻoia iā ia, ʻoi aku hoʻi i nā pōʻaiapili koʻikoʻi.

ʻO kekahi mua e holomua nei ka hiki ke weheweheInā hiki i kahi ʻōnaehana ke wehewehe i ke kumu o kahi koi a i ʻole loulou i nā kumu, ʻoi aku ka nui o nā mea hana e loiloi ai ka mea hoʻohana i kona ʻoiaʻiʻo ma mua o ka hilinaʻi ʻana. No nā mea hoʻohana a me nā ʻoihana, ʻokoʻa kekahi mau hana maʻalahi: nānā i ka ʻikepili, noi nā kumu maopopo, e kaupalena i ka hoʻohana ʻana ma nā wahi pilikia nui, e mālama i nā kānaka "ma ka loop," a me nā kahe loiloi palapala.

ʻIke ʻia nā palena a me nā ʻōlelo aʻo mai nā mea hana ponoʻī

ʻIke nā ʻoihana kuleana no nā kumu hoʻohālike i nā palena. I ka hihia o GPT-4, ua kuhikuhi ʻia lākou. nā manaʻo kuhi hewa, hallucinations a me nā hōʻailona kū'ē e pili ana i nā wahi hana hana.

ʻO ka nui o nā pilikia mua i nā chatbots mea kūʻai aku hōʻemi ʻia me nā hoʻololi, akā ma lalo o nā kūlana kūpono, hiki ke loaʻa nā hopena i makemake ʻole ʻia. ʻO kaʻoi aku o ka hōʻoiaʻiʻo i ka pitch,ʻoi aku ka nui o ka pilikia o ka hilinaʻi nui.

No kēia kumu, ʻoi aku ka nui o nā kamaʻilio ʻoihana e hoʻohana ʻole i kēia mau mea hana ʻōlelo aʻo kino a i ʻole kānāwai me ka loiloi ʻole o ka poʻe loea, a he mau mea kōkua probabilistic lākou, ʻaʻole he ʻōlelo kuhi hewa.

ʻO ke ʻano maʻamau o ka hallucination

ʻO kēia ke ala maʻamau e hōʻike ai nā hallucinations IA:

• Ma ka kikokikona, he mea maʻamau ka ʻike i haku ʻia nā huaʻōlelo a me nā bibliographiesHoʻopili ke kumu hoʻohālike i ka "mold" o kahi kuhikuhi akā hana i nā mea kākau kūpono, nā lā, a i ʻole nā ​​poʻo inoa.
• Hōʻike ʻia nā hanana moʻokalaleo a i ʻole nā lā hewa ma nā chronologies mōʻaukala. Hōʻike ka hihia o ka poni ʻana o Charles III i ka hiki ke hoʻololi ʻia kahi kikoʻī kikoʻī me ka ʻole o ka pau ʻana o ka wai.
• Loaʻa nā kiʻi kiʻi kahiko nā lālā me nā anatomies hiki ʻole, nā kikokikona hiki ʻole ke heluhelu ʻia i loko o ke kiʻi a i ʻole ke ʻano like ʻole o ka spatial i ʻike ʻole ʻia i ka nānā mua ʻana.
• Ma ka unuhi, hiki i nā ʻōnaehana invent sentences i ka wā e ʻike ai i nā ʻōlelo kūloko a i ʻole ka ʻōlelo maʻamau, a i ʻole ke koi ʻana i nā mea like ʻole i loaʻa i ka ʻōlelo i kuhikuhi ʻia.

ʻAʻole ʻo ka hallucinations IA he hemahema kaʻawale akā he waiwai i puka mai o ʻōnaehana probabilistic i hoʻomaʻamaʻa ʻia me ka ʻikepili kūpono ʻole. ʻO ka ʻike ʻana i kāna mau kumu, ke aʻo ʻana mai nā hihia maoli, a me ka hoʻohana ʻana i nā ʻenehana a me nā hana hoʻohaʻahaʻa e hiki ai iā mākou ke hoʻohana iā AI i nā ala kūpono me ka ʻole o ka nalo ʻana i ka ʻoiaʻiʻo, ʻoiai ke kani ʻana o ka wai, pono ke hilinaʻi wale ʻia ka pane inā loaʻa ke kumu i hōʻoia ʻia.