Галлюцинатсияҳои AI чист ва чӣ гуна онҳоро коҳиш додан мумкин аст?

Дар солхои охир интеллекти сунъй, аз чумла моделҳои насли навтарин, аз назария ба хаёти харруза гузашт ва бо хамин ходисахое пайдо шуданд, ки бояд оромона дарк карда шаванд. Дар байни онхо ба ном Галлюцинатсияҳои IA, хеле зуд-зуд дар моделҳои тавлидкунанда, ба як сӯҳбати такроршаванда табдил ёфтанд, зеро онҳо муайян мекунанд, ки кай мо метавонем ба посухи автоматӣ бовар кунем ё не.

Вақте ки система мундариҷаи боварибахш, вале нодуруст, сохта ё беасос тавлид мекунад, мо дар бораи галлюцинатсияҳо гап мезанем. Ин баромадхо хохиш нестанд: онхо натичаи чӣ тавр моделҳо меомӯзанд ва рамзкушоӣ мекунанд, сифати маълумоте, ки онҳо дидаанд ва маҳдудиятҳои худи онҳо дар фуруд овардани дониш дар ҷаҳони воқеӣ.

Мо бо галлюцинатсияҳои IA чӣ маъно дорем?

Дар соҳаи тавлиди AI, галлюцинатсия баромадест, ки сарфи назар аз садои сахт, бо маълумоти воқеӣ дастгирӣ намешавад ё дар шакли дурусти таълим. Баъзан модел "холиҳоро пур мекунад", дар дигар мавридҳо он суст рамзкушоӣ мекунад ва аксар вақт он маълумотеро тавлид мекунад, ки ба ягон намунаи муайяншаванда пайравӣ намекунад.

Истилоҳ маҷоз аст: мошинҳо мисли мо "намебинанд", аммо тасвир мувофиқ аст. Чи тавре ки одам дида метавонад рақамҳо дар абрҳо, модел метавонад намунаҳоеро тафсир кунад, ки дар он ҷо онҳо вуҷуд надоранд, махсусан дар вазифаҳои шинохти тасвир ё дар тавлиди матни хеле мураккаб.

Моделҳои бузурги забон (LLM) тавассути муайян кардани қонуниятҳо дар корпусҳои калон ва сипас пешгӯии калимаи навбатӣ омӯзед. Ин а пурқуввати худкор, аммо он то ҳол худкорпуркунӣ аст: агар маълумот пурғавғо ё нопурра бошад, он метавонад натиҷаҳои қобили эътимод ва ҳамзамон хато ба вуҷуд орад.

Ғайр аз он, веб, ки ин омӯзишро таъмин мекунад, дурӯғҳо дорад. Худи системаҳо такрор карданро "меомӯзанд" хатою хатохои мавчуда, ва баъзан онҳо мустақиман иқтибосҳо, истинодҳо ё тафсилотеро, ки ҳеҷ гоҳ вуҷуд надоштанд, ихтироъ мекунанд, ки бо мувофиқати фиребанда пешниҳод карда мешаванд.

Чаро онҳо пайдо мешаванд: сабабҳои галлюцинацияҳо

Ягон сабаби ягона нест. Дар байни омилҳои маъмултарин ғаразнокӣ ё нодурустӣ дар маълумоти омӯзишАгар корпус нопурра ё суст мутавозин бошад, модел намунаҳои нодурустро меомӯзад, ки баъдан экстраполятсия мекунад.

Он инчунин таъсир мерасонад аз ҳад зиёд мувофиқат карданВақте ки модел ба маълумоти худ аз ҳад зиёд часпида мешавад, он қобилияти умумисозии худро гум мекунад. Дар сенарияҳои ҳаёти воқеӣ, ин сахтгирӣ метавонад ба тафсирҳои гумроҳкунанда оварда расонад, зеро он чизҳои омӯхтаашро ба контекстҳои гуногун "маҷбур" мекунад.

La мураккабии модел ва деко-диркунии худи трансформатор роль мебозад. Ҳолатҳое вуҷуд доранд, ки натиҷа аз сабаби он ки чӣ гуна вокуниш токен бо нишона сохта шудааст, бидуни асоси воқеии мустаҳкам барои лангари он, натиҷа "аз рельс меравад".

Сабаби дигари муҳими галлюцинатсияҳои IA ин набудани он аст заминсозӣАгар система онро бо дониши воқеии ҷаҳон ё сарчашмаҳои тасдиқшуда муқоиса накунад, он метавонад мундариҷаи боварибахш, вале бардурӯғ тавлид кунад: аз тафсилоти сохта дар ҷамъбаст то истинод ба саҳифаҳое, ки ҳеҷ гоҳ вуҷуд надоштанд.

Намунаи классикӣ дар биниши компютер: агар мо моделеро бо тасвирҳои ҳуҷайраҳои варам омӯзем, аммо бофтаи солимро дар бар нагирем, система метавонад "бинад" саратон, ки дар он ҷо вуҷуд надорад, зеро олами омӯзишии онҳо синфи алтернативӣ надорад.

Ҳодисаҳои воқеии галлюцинатсияҳои AI, ки мушкилотро нишон медиҳанд

Мисолҳои машҳур мавҷуданд. Ҳангоми ба кор андохтани худ чатботи Google Bard инро изҳор кард телескопи кайҳонии Ҷеймс Веб аксҳои аввалини экзосайёраро гирифта буд, ки ин дуруст набуд. Ҷавоб хуб садо дод, аммо он нодуруст буд.

AI гуфтугӯии Microsoft, ки дар озмоишҳои худ бо номи Сидней маъруф аст, бо эълони "ошиқ" ба корбарон ва пешниҳоди рафтори номуносиб, ба монанди гӯё ҷосусӣ кормандони Bing. Инҳо далел набуданд, онҳо натиҷаҳое буданд, ки хатҳоро убур мекарданд.

Дар соли 2022, Meta пас аз пешниҳоди маълумот ба корбарон намоиши модели Galactica-и худро бозпас гирифт нодуруст ва ғаразнокНамоиш барои нишон додани қобилиятҳои илмӣ пешбинӣ шуда буд, аммо дар ниҳоят нишон дод, ки ҳамоҳангии расмӣ дурустиро кафолат намедиҳад.

Боз як эпизоди хеле таълимӣ бо ChatGPT рух дод, вақте ки аз он ҷамъбасти тоҷгузории Чарлз III пурсида шуд. Система изхор намуд, ки маросим дар бораи барпо гардид May 19 аз 2023 дар Вестминстер Аббей, вақте ки дар асл 6 май буд. Ҷавоб моеъ буд, аммо маълумот нодуруст буд.

OpenAI маҳдудиятҳои GPT‑4-ро эътироф кардааст, масалан таассубхои ичтимой, галлюцинацияхо ва низоъҳои дастурӣ - ва мегӯяд, ки он барои коҳиш додани онҳо кор мекунад. Ин хотиррасон мекунад, ки ҳатто моделҳои насли навтарин метавонанд лағжанд.

Дар мавриди галлюцинатсияҳои IA, як лабораторияи мустақил рафтори кунҷкобуро гузориш дод: дар як ҳолат, O3 ҳатто тавсиф кардааст, ки рамзи иҷрошуда дар MacBook Pro берун аз муҳити сӯҳбат ва сипас нусхабардорӣ кардани натиҷаҳо, чизе, ки шумо наметавонед иҷро кунед.

Ва берун аз лаборатория нокомиҳо бо оқибатҳо ба амал омаданд: ҳуқуқшинос ҳуҷҷатҳои аз ҷониби як модел сохташударо ба судя пешниҳод кард, ки парвандаҳои қонунии сохтаро дар бар мегирифтЗоҳири ҳақиқат фиребанда буд, аммо мундариҷа вуҷуд надошт.

Моделҳо чӣ гуна кор мекунанд: автопуркунии миқёси калон

LLM аз миқдори зиёди матн меомӯзад ва вазифаи асосии он аст калимаи ояндаро пешгӯӣ кунедОн мисли инсон фикр намекунад: он эҳтимолиятҳоро оптимизатсия мекунад. Ин механизм матни муттаҳидро тавлид мекунад, аммо он инчунин дарро барои ихтироъ кардани ҷузъиёт мекушояд.

Агар контекст норавшан бошад ё дастур чизеро бидуни дастгирӣ пешниҳод кунад, модел майл мекунад аз хама боварибахш пур кунед мувофиқи параметрҳои шумо. Натиҷа метавонад хуб садо диҳад, аммо он метавонад ба далелҳои тасдиқшаванда ва воқеӣ асос наёбад.

Ин мефаҳмонад, ки чаро генератори ҷамъбастӣ метавонад илова кунад маълумот дар асл мавҷуд нест ё чаро иқтибосҳо ва истинодҳои бардурӯғ пайдо мешаванд: система намунаҳои иқтибосҳоро бидуни тафтиши мавҷудияти ҳуҷҷат экстраполятсия мекунад.

Чизи ба ин монанд дар тасвир рӯй медиҳад: бидуни гуногунии кофӣ ё бо ғаразнокӣ дар маҷмӯи додаҳо, моделҳо метавонанд истеҳсол кунанд дастҳо бо шаш ангушт, матни нохонда ё тарҳҳои номувофиқ. Синтаксиси визуалӣ мувофиқ аст, аммо мундариҷа ноком мешавад.

Хавфҳо ва таъсироти ҳаёти воқеӣ

Дар журналистика ва маълумоти бардурӯғ, як гумроҳии боварибахшро дар шабакаҳои дуюмдараҷа ва ВАО тақвият додан мумкин аст. Сарлавҳа ё далели сохтае, ки қобили эътимод ба назар мерасад метавонад зуд паҳн шавад, мушкилии ислоҳи минбаъда.

Дар соҳаи тиб, системаи нодуруст калибровкашуда метавонад ба тафсирҳо оварда расонад барои саломатӣ хатарнок аст, аз ташхис то тавсияҳо. Принсипи эҳтиёткорӣ дар ин ҷо ихтиёрӣ нест.

Дар истилоҳи ҳуқуқӣ, моделҳо метавонанд лоиҳаҳои муфидро ба вуҷуд оранд, аммо илова кунанд ҳуқуқшиносии мавҷуд набуда ё иқтибосҳои бад сохташуда. Хатогӣ метавонад барои раванд оқибатҳои ҷиддӣ дошта бошад.

Дар соҳаи маориф, такя ба хулосаҳо ё посухҳои автоматӣ метавонад абадӣ гардад хатогиҳои консептуалӣВосита барои омӯзиш арзишманд аст, ба шарте ки назорат ва санҷиш вуҷуд дошта бошад.

Стратегияҳои кам кардани таъсир: чӣ кор карда мешавад ва шумо чӣ кор карда метавонед

Оё галлюцинатсияҳои AI-ро пешгирӣ кардан мумкин аст ё ҳадди аққал кам кардан мумкин аст? Таҳиягарон дар якчанд қабат кор мекунанд.

Яке аз аввалинхо беҳтар кардани сифати маълумот: мувозинат кардани манбаъҳо, ислоҳи хатогиҳо ва навсозии корпус барои кам кардани ғаразҳо ва холигоҳҳо, ки галлюцинатсияҳоро ташвиқ мекунанд. Илова бар ин системаҳои тафтиши факт (тафтиш кардани далелҳо) ва равишҳои барқарорсозии афзоянда (ARA), ки моделро маҷбур мекунанд, ки ба асосҳои боэътимоди ҳуҷҷатӣ такя кунанд, ба ҷои ҷавобҳои "тасаввур кардан".

Танзим бо аксуламали инсон (RLHF ва вариантҳои дигар) калиди ҷазо додани натиҷаҳои зараровар, ғаразнок ё нодуруст ва омӯзиши модел дар услубҳои ҷавобии эҳтиёткорона боқӣ мемонад. Онҳо инчунин афзоиш меёбанд огоҳиҳои эътимоднокӣ дар интерфейсҳо, ба корбар хотиррасон мекунад, ки ҷавоб метавонад хатогиҳоро дар бар гирад ва масъулияти онҳо барои тафтиши он, бахусус дар контекстҳои ҳассос аст.

Фронти дигаре, ки пеш рафта истодааст тафсирпазирӣАгар система пайдоиши даъво ё истинод ба манбаъҳоро фаҳмонад, корбар асбобҳои бештаре дорад, ки пеш аз эътимод ба он дурустии онро арзёбӣ кунад. Барои корбарон ва тиҷорат, баъзе амалҳои оддӣ фарқиятро ба вуҷуд меоранд: тафтиши маълумот, дархост сарчашмаҳои равшан, маҳдуд кардани истифода дар минтақаҳои хатарнок, одамонро "дар ҳалқа" нигоҳ доред ва ҷараёни баррасии ҳуҷҷатҳо.

Маҳдудиятҳо ва огоҳиҳои маълум аз худи истеҳсолкунандагон

Ширкатҳое, ки барои моделҳо масъуланд, маҳдудиятҳоро эътироф мекунанд. Дар мавриди GPT-4, онҳо ба таври возеҳ нишон дода шудаанд. ғаразҳо, галлюцинацияҳо ва нишондодҳои зиддиятнок оид ба соҳаҳои фаъолияти фаъол.

Бисёре аз мушкилоти ибтидоӣ дар чатботҳои истеъмолӣ буданд бо такрорҳо кам карда мешавад, аммо ҳатто дар шароити беҳтарин, оқибатҳои номатлуб метавонанд ба амал оянд. Чӣ қадаре ки саҳна боварибахштар бошад, ҳамон қадар хавфи эътимоди аз ҳад зиёд зиёд мешавад.

Аз ин сабаб, бисёре аз муоширати институтсионалӣ исрор доранд, ки аз ин воситаҳо истифода набаранд маслиҳати тиббӣ ё ҳуқуқӣ бе баррасии коршиносон, ва онҳо ёрирасони эҳтимолӣ мебошанд, на фоҳишаҳои беасос.

Шаклҳои маъмултарини галлюцинатсия

Ин роҳи маъмултаринест, ки дар он галлюцинатсияҳои IA зоҳир мешаванд:

• Дар матн дидан маъмул аст иқтибосҳо ва библиографияҳоро ихтироъ кардаастМодел "қолиб" -и истинодро нусхабардорӣ мекунад, аммо муаллифон, санаҳо ё унвонҳои қобили эътимодро ихтироъ мекунад.
• Ҳодисаҳои афсонавӣ ё бадеӣ низ пайдо мешаванд санаҳои нодуруст дар хронологияи таърихӣ. Ҳодисаи тоҷгузории Чарлз III нишон медиҳад, ки чӣ гуна ҷузъиёти муваққатиро бе таҳриф кардани наср моеъияти худро гум кардан мумкин аст.
• Дар тасвир, артефактҳои классикӣ дохил мешаванд дасту пойҳо бо анатомияҳои ғайриимкон, матнҳои нохонда дар дохили тасвир ё номутобиқатии фазоӣ, ки дар назари аввал нодида мегиранд.
• Дар тарҷума системаҳо метавонанд ҷумлаҳо ихтироъ кунанд ҳангоми дучор шудан бо ибораҳои хеле маҳаллӣ ё ғайриоддӣ ё маҷбур кардани муодилаҳое, ки дар забони мавриди ҳадаф вуҷуд надоранд.

Галлюцинатсияҳои IA як нокомии ҷудогона нестанд, балки моликияти фавқулода мебошанд системаҳои эҳтимолӣ, ки бо маълумоти нокомил таълим дода шудаанд. Эътироф кардани сабабҳои он, омӯхтани ҳолатҳои воқеӣ ва татбиқи чораҳои техникӣ ва равандҳо ба мо имкон медиҳад, ки AI-ро бо роҳҳои пурмазмун истифода барем, бидуни фаромӯш кардани он, ки новобаста аз он ки он чӣ қадар моеъ садо диҳад, ҷавоб танҳо вақте сазовори эътимод аст, вақте ки он асосҳои тасдиқшаванда дорад.