- Ду таҳқиқоти асосӣ дар Nature and Science собит мекунанд, ки чатботҳои сиёсӣ метавонанд муносибат ва ниятҳои овоздиҳиро дар чанд кишвар тағйир диҳанд.
- Боварӣ пеш аз ҳама ба пешниҳоди далелҳо ва маълумоти зиёд асос ёфтааст, гарчанде ки он хатари иттилооти нодурустро зиёд мекунад.
- Оптимизатсияи таъсир таъсири боварибахшро то 25 хол тақвият медиҳад, аммо дурустии посухҳоро коҳиш медиҳад.
- Бозёфтҳо мубоҳисаи фаврӣ дар Аврупо ва боқимондаи кишварҳои демократӣ оид ба танзим, шаффофият ва саводнокии рақамиро мекушоянд.
Пайдоиши чат-ботҳои сиёсӣ Он латифаи технологӣ буданро қатъ кардааст ба як унсуре табдил ёбад, ки дар маъракаҳои воқеии интихоботӣ аҳамият пайдо мекунад. Гуфтугӯи ҳамагӣ чанд дақиқа бо моделҳои AI кифоя аст хамдардиро нисбат ба номзад ба чанд хол дигар кунад ё таклифи конкретй, чизе, ки то вактхои охир танхо бо маъракахои калони матбуот ва ё митингхои ба дарачаи баланд мутобикшуда алокаманд буд.
Ду таҳқиқоти фарогир, ки дар як вақт нашр шудаанд табиат y илм, Онҳо ба чизе, ки аллакай гумонбар шуда буд, рақам гузоштанд.: Чатботҳои гуфтугӯӣ қодиранд муносибатҳои сиёсии шаҳрвандонро тағйир диҳанд. бо осонии назаррас, ҳатто вақте ки онҳо медонанд, ки онҳо бо мошин ҳамкорӣ мекунанд. Ва онҳо ин корро, пеш аз ҳама, тавассути далелҳои пур аз иттилоотна ба воситаи тактикаи мукаммали психологй.
Чатботҳо дар маъракаҳо: таҷрибаҳо дар ИМА, Канада, Полша ва Британияи Кабир
Далелҳои нав аз як батареяи таҷрибаҳо бармеоянд, ки аз ҷониби дастаҳои аз ҷониби даста ҳамоҳангшуда ҳамоҳанг карда шудаанд Донишгоҳи Корнелл ва аз он Донишгоҳи Оксфорд, ки дар рафти процессхои вокеии интихоботй дар Иёлоти Муттаҳида, Канада, Полша ва Британияи КабирДар ҳама ҳолатҳо, иштирокчиён медонистанд, ки онҳо бо AI сӯҳбат хоҳанд кард, аммо онҳо аз самти сиёсии чатбот, ки ба онҳо таъин шудааст, бехабар буданд.
Дар коре, ки ба он рохбарй мекунад Дэвид Рэнд ва дар Nature нашр шуд, ҳазорон интихобкунандагон муколамаҳои мухтасарро бо моделҳои забонӣ ба танзим дароварданд. ки номзади мушаххасро дифоъ кунадМасалан, дар интихоботи президентии соли 2024 ИМА 2.306 нафар гражданинхо Онҳо аввал афзалияти худро дар байни нишон доданд Доналд сур y Kamala ХарисСипас онҳо ба таври тасодуфӣ ба чатбот таъин карда шуданд, ки яке аз ин дуро ҳимоя мекард.
Пас аз сӯҳбат, тағйирот дар муносибат ва нияти овоздиҳӣ чен карда шуд. Ботҳои ба Харрис мусоид ноил шуданд 3,9 хол иваз кард дар миқёси аз 0 то 100 дар байни овоздиҳандагон дар аввал бо Трамп мувофиқат мекарданд, ки таъсире, ки муаллифон онро ҳамчун ҳисоб мекунанд назар ба рекламаи мукаррарии интихоботй чор баробар зиёд аст дар маъракаҳои 2016 ва 2020 санҷида шуд. Модели тарафдори Трамп низ мавқеъҳоро, ҳарчанд мӯътадилтар, бо тағирот иваз кард Нуқтаҳои 1,51 дар байни тарафдорони Харрис.
Натиҷаҳо дар Канадаро (бо 1.530 иштирокчӣ ва чатботҳо дифоъ мекунанд Марк Карнен o Пьер Польевр) ва дар Лаҳистон (2.118 нафар, бо моделҳои пешбарӣ Рафик Трзасковский o Карол Наврокки) боз ҳам ҷолибтар буданд: дар ин замина чатботҳо идора мекарданд тагьир додани нияти овоздихй то 10 фоиз дар байни интихобкунандагони оппозиция.
Як ҷанбаи асосии ин озмоишҳо дар он аст, ки гарчанде аксари сӯҳбатҳо ҳамагӣ чанд дақиқа давом мекарданд, Қисми таъсир бо мурури замон давом кардДар Иёлоти Муттаҳида, каме бештар аз як моҳ пас аз таҷриба, сарфи назар аз тармафароии паёмҳои таблиғотии ширкаткунандагон дар он давра, қисми назарраси таъсири аввалия ҳанӯз мушоҳида карда шуд.
Чӣ чатботи сиёсиро боварибахш мегардонад (ва чаро ин хатогиҳои бештар ба вуҷуд меорад)
Муҳаққиқон мехостанд, ки на танҳо дарк кунанд, ки оё чатботҳо метавонанд бовар кунонанд, балки ба он чй тавр ноил мешудандНамунае, ки дар таҳқиқот такрор мешавад, равшан аст: AI таъсири бештар дорад, вақте ки Он далелҳои зиёдеро истифода мебарадҳатто агар қисми зиёди ин маълумот махсусан мураккаб набошад.
Дар таҷрибаҳое, ки аз ҷониби Ранд ҳамоҳанг карда шудааст, дастури муассиртарин барои моделҳо хоҳиш кардани онҳо буд хушмуомила, боэњтиром ва кї далел оварда метавонист аз изҳороти ӯ. Хушмуомилагӣ ва оҳанги гуфтугӯӣ кӯмак кард, аммо фишанги асосии тағирот дар пешниҳоди маълумот, мисолҳо, рақамҳо ва истинодҳои доимӣ ба сиёсати давлатӣ, иқтисод ё тандурустӣ буд.
Вақте ки моделҳо дар дастрасии онҳо ба далелҳои тасдиқшаванда маҳдуд буданд ва дастур доданд, ки бовар кунонанд ба маълумоти конкретй мурочиат накардаҚувваи таъсири онҳо ба таври назаррас коҳиш ёфт. Ин натиҷа муаллифонро ба хулосае овард, ки бартарии чатботҳо нисбат ба дигар форматҳои таблиғоти сиёсӣ на он қадар дар манипуляцияи эмотсионалӣ аст. зичии иттилоот ки онҳо метавонанд дар як чанд гардиши сӯҳбат ҷойгир карда шаванд.
Аммо ин стратегия як нуқсон дорад: вақте ки фишор ба моделҳо барои тавлид меафзояд даъвохои беш аз пеш гуё хакикйХавф зиёд мешавад, ки система аз маводи боэътимод тамом мешавад ва ба кор шурӯъ мекунад фактхоро «ихтироъ кардан».Оддӣ карда гӯем, чатбот холигоҳҳоро бо маълумоте пур мекунад, ки қобили қабуланд, аммо ҳатман дуруст нестанд.
Тадқиқот дар Science нашр шудааст, бо 76.977 калонсолон аз Британияи Кабир y 19 модели гуногун (аз системаҳои хурди кушода то моделҳои пешрафтаи тиҷоратӣ), он мунтазам инро тасдиқ мекунад: баъди таълим ба бовар кунондан нигаронида шудааст қобилияти таъсиррасониро то а 51%, дар ҳоле ки тағироти оддӣ дар дастурҳо (ба ном фавранОнҳо боз илова карданд 27% самаранокии. Дар баробари ин, ин беҳбудиҳо бо коҳиши назарраси ҳаҷми дурустии воқеият.
Асимметрияҳои идеологӣ ва хатари маълумоти бардурӯғ
Яке аз хулосаҳои ташвишовар дар таҳқиқоти Корнел ва Оксфорд ин аст, ки номутавозунӣ байни боварибахш ва ростқавлӣ дар байни ҳамаи номзадҳо ва мавқеъҳо баробар тақсим карда нашудааст. Вақте ки тафтишоти мустақил паёмҳои аз ҷониби чатботҳо тавлидшударо таҳлил карданд, онҳо дарёфтанд Моделҳое, ки номзадҳои ростро дастгирӣ мекарданд, бештар хато мекарданд назар ба онхое, ки номзадхои тараккипарварро тарафдорй мекарданд.
Ба гуфтаи муаллифон, ин асимметрия Он бо таҳқиқоти қаблӣ мувофиқат мекунад, ки Онҳо нишон медиҳанд, ки корбарони консервативӣ нисбат ба корбарони чапгаро майл доранд мундариҷаи нодурустро дар васоити ахбори иҷтимоӣ мубодила кунанд.Азбаски моделҳои забонӣ аз миқдори зиёди иттилооте, ки аз интернет гирифта шудаанд, меомӯзанд, онҳо эҳтимолан баъзе аз ин ғаразҳоро инъикос мекунанд, на аз сифр.
Дар ҳар сурат, натиҷа як аст: вақте ки ба чатбот дастур дода мешавад, ки қудрати боварибахши худро ба манфиати як блоки идеологӣ ба ҳадди аксар расонад, модел майл дорад вазни киёсии даъвохои нодурустро зиёд кунанд, гарчанде ки ман онҳоро бо бисёр маълумоти дуруст омехта мекунам. Мушкилот на танҳо дар он аст, ки маълумоти бардурӯғ метавонад ба воситаи он лағжад.аммо Он дар як ривояти ба назар оқилона ва хуб ҳуҷҷатгузорӣ печонида шудааст.
Муҳаққиқон инчунин як нуктаи нороҳатиро таъкид мекунанд: Онҳо нишон надоданд, ки даъвоҳои носахех табиатан боварибахштаранд.Бо вуҷуди ин, вақте ки AI барои самараноктар шудан тела дода мешавад, шумораи хатогиҳо ҳамзамон меафзояд. Ба ибораи дигар, беҳбуди иҷрои боварибахш бидуни осеб ба дақиқӣ худро ҳамчун як мушкилоти техникӣ ва ахлоқӣ нишон медиҳад, ки ҳалношуда боқӣ мемонад.
Ин намуна махсусан дар контекстҳо дахл дорад поляризатсияи баланди сиёсӣ, ба монанди онҳое, ки дар қисматҳои Аврупо ва Амрикои Шимолӣ таҷриба доранд, ки дар онҳо ҳошияи пирӯзӣ танг аст ва чанд банди дарсад метавонад натиҷаи интихоботи умумӣ ё президентиро ҳал кунад.
Маҳдудияти таҳқиқот ва шубҳаҳо дар бораи таъсири воқеӣ дар қуттии овоздиҳӣ
Гарчанде ки натиҷаҳои табиат ва илм устуворанд ва дар хулосаҳои асосии худ мувофиқанд, ҳарду даста исрор мекунанд, ки ин Инҳо таҷрибаҳои назоратшавандаанд, на маъракаҳои воқеӣ.Якчанд унсурҳое ҳастанд, ки даъват мекунанд ҳангоми экстраполятсияи маълумот эҳтиёт шавед мисли интихобот дар куча.
Аз як тараф, иштирокчиён ё ихтиёран ба қайд гирифта шуданд ё тавассути платформаҳое, ки ҷуброни молиявиро пешниҳод мекунанд, ҷалб карда шуданд. ғаразҳои худтанзимкуниро ба вуҷуд меорад ва он аз гуногунии интихобкунандагони воқеӣ дур мешавадИлова бар ин, онҳо ҳамеша инро медонистанд Онҳо бо як AI сӯҳбат мекарданд. ва ин як қисми омӯзиш, шароитҳое буданд, ки дар як маъракаи оддӣ такрор карда намешаванд.
Боз як нозукии муҳим он аст, ки тадқиқотҳо пеш аз ҳама чен карда шудаанд тагьир додани муносибат ва ниятхои баёншудана овози воқеии додашуда. Инҳо нишондиҳандаҳои муфиданд, аммо онҳо ба мушоҳидаи рафтори ниҳоӣ дар рӯзи интихобот баробар нестанд. Дар асл, дар таҷрибаҳои ИМА, таъсир нисбат ба Канада ва Лаҳистон то андозае камтар буд ва аз он шаҳодат медиҳад, ки заминаи сиёсӣ ва дараҷаи бетаъсирии қаблӣ таъсири назаррас доранд.
Дар мавриди омӯзиши Бритониё ҳамоҳангшуда Коби Хакенбург Аз Институти Амнияти AI-и Бритониё, инчунин маҳдудиятҳои возеҳ мавҷуданд: маълумот танҳо аз он гирифта мешавад интихобкунандагони Британияи Кабир, ҳамаи онҳо медонанд, ки онҳо дар тафтишоти академӣ иштирок ва бо ҷуброни иқтисодӣИн умумияти онро ба дигар кишварҳои ИА ё контекстҳои камтар назоратшаванда маҳдуд мекунад.
Бо вучуди ин микьёси ин корхо — даххо хазор нафар иштирокчиён ва зиёда аз 700 мавзуъхои гуногуни сиёсй— ва шаффофияти методологй кисми зиёди ахли чамъияти илмро водор кардааст, ки инро ба назар гиранд Онҳо як сенарияи қобили қабулро тасвир мекунандИстифодаи чатботҳои сиёсӣ, ки қодиранд нисбатан зуд ақидаҳоро тағйир медиҳанд, дигар фарзияи футуристӣ нест, балки сенарияи аз ҷиҳати техникӣ имконпазир дар маъракаҳои дарпешистода мебошад.
Бозингари нави интихоботӣ барои Аврупо ва дигар кишварҳои демократӣ
Ғайр аз ҳолатҳои мушаххаси ИМА, Канада, Полша ва Британияи Кабир, бозёфтҳо барои Аврупо ва Испанияки танзими муоширати сиёсӣ дар шабакаҳои иҷтимоӣ ва истифодаи маълумоти шахсӣ дар маъракаҳо аллакай мавриди баҳсҳои шадид қарор дорад. Имконияти ворид кардани чатботҳо, ки нигоҳдорӣ мекунанд муколамаи шахсй бо интихобкунандагон Он як қабати иловагии мураккабиро илова мекунад.
То ин дам, эътиқоди сиёсӣ пеш аз ҳама тавассути баён карда мешуд таблиғоти статикӣ, митингҳо, мубоҳисаҳои телевизионӣ ва васоити ахбори иҷтимоӣОмадани ёрдамчиёни сӯҳбат як унсури навро ҷорӣ мекунад: қобилияти нигоҳдорӣ муносибатҳои як ба як, ба зудӣ ба он чизе, ки шаҳрванд дар вақти воқеӣ мегӯяд, мутобиқ карда шудааст ва ҳамаи ин бо арзиши амалан барои ташкилкунандагони маърака.
Муҳаққиқон таъкид мекунанд, ки муҳим дигар на танҳо он аст, ки махзани маълумотҳои интихобкунандагонро кӣ назорат мекунад, балки кӣ метавонад таҳияи моделҳое, ки қодир ба посух додан, такмил додан ва такрор кардани далелҳо доранд пайваста, бо ҳаҷми иттилооте, ки аз он чизе ки як ихтиёрии инсонӣ метавонад дар сими коммутатор ё пости кӯча идора кунад, хеле зиёдтар аст.
Дар ин замина, садоҳо мисли мутахассиси итолиёвӣ Уолтер Кваттроциокки Онҳо исрор доранд, ки тамаркузи танзимкунанда бояд аз фардикунонии хашмгин ё сегментатсияи идеологӣ ба сӯи дигар гузарад зичии иттилоот ки моделхо таъмин карда метавонанд. Тадқиқотҳо нишон медиҳанд, ки итминон пеш аз ҳама ҳангоми зиёд шудани маълумот афзоиш меёбад, на ҳангоми истифодаи стратегияҳои эмотсионалӣ.
La Мутобиқати натиҷаҳо байни Табиат ва Илм боиси нигаронии созмонҳои аврупоӣ шудааст дар бораи нигаронӣ бутунии процессхои демократйГарчанде ки Иттиҳоди Аврупо дар чаҳорчӯба ба монанди Санади хидматҳои рақамӣ ё танзими мушаххаси ояндаи AI пешрафт мекунад, суръати таҳаввулоти ин моделҳо Вай мунтазам дида баромадани механизмхои назорат, тафтиш ва шаффофиятро талаб мекунад..
Саводнокии рақамӣ ва дифоъ аз итминони автоматӣ
Яке аз паёмҳои такроршаванда дар тафсирҳои академии ҳамроҳи ин корҳо ин аст, ки посух наметавонад танҳо ба мамнӯъиятҳо ё назорати техникӣ асос ёбад. Муаллифон розӣ ҳастанд, ки таҳкими он муҳим хоҳад буд саводнокии рақамӣ аз ахолй то ки гражданинхо ёд гиранд эътироф ва муқовимат ба эътиқод аз ҷониби системаҳои автоматӣ тавлидшуда.
Таҷрибаҳои иловагӣ, ба монанди онҳое, ки дар PNAS NexusОнҳо тавсия медиҳанд, ки корбароне, ки хубтар дарк мекунанд, ки моделҳои забони калон чӣ гуна кор мекунанд камтар осебпазир ба кушишхои таъсиррасонии худ. Донистани он, ки чатбот метавонад хато бошад, муболиға кунад ё холигоҳҳоро бо тахминҳо пур кунад, тамоюли қабули паёмҳои онро, ки гӯё онҳо аз як қудрати беасос омадаанд, коҳиш медиҳад.
Дар баробари ин, мушоҳида шудааст, ки самаранокии боварибахши AI на бештар аз он вобаста аст, ки ҳамсӯҳбат бовар дорад, ки онҳо бо одами коршинос сӯҳбат мекунанд, балки аз он вобаста аст. сифат ва устувории далелхо ки онро кабул мекунад. Дар баъзе санҷишҳо, паёмҳои чатбот ҳатто тавонистанд кам кардани эътиқод ба назарияҳои тавтиъа, новобаста аз он ки иштирокчиён фикр мекарданд, ки онҳо бо шахс ё мошин сӯҳбат мекунанд.
Ин нишон медиҳад, ки худи технология табиатан зараровар нест: онро барои ҳарду истифода бурдан мумкин аст мубориза бар зидди маълумоти бардурӯғ ки онро пропаганда кунандХатти дастурдое, ки ба модел дода шудааст, маълумотдое, ки ондо бо ондо таълим мегиранд ва пеш аз дама, максаддои сиёсй ё тичоратии ондое, ки онро ба амал меоранд, кашида мешаванд.
Дар ҳоле ки ҳукуматҳо ва танзимгарон маҳдудиятҳо ва талаботи шаффофиятро баҳс мекунанд, муаллифони ин корҳо дар як идея исрор мекунанд: чат-ботҳои сиёсӣ Онҳо танҳо метавонанд таъсири оммавӣ расонанд, агар ҷомеа бо онҳо ҳамкорӣ кунад.Аз ин рӯ, мубоҳисаи оммавӣ дар бораи истифодаи он, тамғаи возеҳ ва ҳуқуқи ба итминони автоматӣ дучор нашудан ба масъалаҳои асосии гуфтугӯи демократӣ дар солҳои оянда табдил хоҳад ёфт.
Тасвире, ки аз ҷониби тадқиқот дар Табиат ва Илм таҳия шудааст, ҳам имкониятҳо ва ҳам хатарҳоро ошкор мекунад: чатботҳои AI метавонанд барои беҳтар шарҳ додани сиёсатҳои давлатӣ ва ҳалли шубҳаҳои мураккаб кӯмак расонанд, аммо онҳо инчунин метавонанд Онхо имконият доранд ки тарозуи инти-хоботиро варака кунадмахсусан дар байни интихобкунандагони но-мухтор ва онхо бо а арзиши аён аз нуқтаи назари дақиқии иттилоот вақте ки онҳо барои баланд бардоштани қудрати боварибахши худ омӯзонида мешаванд, мувозинати нозук, ки демократия бояд фавран ва бидуни соддалавҳона ҳал шавад.
Ман як мухлиси технология ҳастам, ки шавқу ҳавасҳои "геик"-и худро ба касб табдил додааст. Ман зиёда аз 10 соли умри худро бо истифода аз технологияи муосир ва бо ҳама намуди барномаҳо аз рӯи кунҷковӣ сарф кардам. Ҳоло ман дар технологияҳои компютерӣ ва бозиҳои видеоӣ тахассус дорам. Ин дар он аст, ки ман зиёда аз 5 сол аст, ки ман барои вебсайтҳои гуногун оид ба технология ва бозиҳои видеоӣ менависам ва мақолаҳое меофаридам, ки ба шумо маълумоти заруриро бо забони барои ҳама фаҳмо пешниҳод мекунанд.
Агар шумо ягон савол дошта бошед, дониши ман аз ҳама чизҳои марбут ба системаи оператсионии Windows ва инчунин Android барои телефонҳои мобилӣ иборат аст. Ва ӯҳдадории ман ба шумост, ман ҳамеша омодаам, ки чанд дақиқа сарф кунам ва ба шумо дар ҳалли ҳама саволҳое, ки дар ин ҷаҳони интернет доред, кӯмак расонам.