政治聊天機器人如何學習影響投票

的出現 政治聊天機器人 它已不再只是一則技術軼事。 人工智慧正成為真正選舉活動中日益重要的因素。與人工智慧模型進行幾分鐘的對話就足以… 將人們對某位候選人的好感度提高幾個百分點 或提出具體的方案，而這種方案直到最近才與大型媒體宣傳活動或高度協調的集會連結起來。

兩項影響深遠的調查同時發表於… 性質 y 科學, 他們用數字證實了人們早已懷疑的事。： 對話式聊天機器人能夠改變公民的政治態度。 即使他們知道自己是在與機器互動，也能輕鬆做到。而且，他們主要透過以下方式做到這一點： 論點中充滿了訊息並非主要依靠複雜的心理戰術。

聊天機器人在競選活動中的應用：美國、加拿大、波蘭和英國的實驗

新的證據來自一系列由以下團隊協調進行的實驗： 康奈爾大學 和 牛津大學在實際選舉過程中進行 美國、加拿大、波蘭和英國在所有情況下，參與者都知道他們將與人工智慧對話，但他們並不知道分配給他們的聊天機器人的政治傾向。

在由…領導的工作中 大衛·蘭德 這項研究發表在《自然》雜誌上，數千名選民與配置好的語言模型進行了簡短的對話。 為特定候選人辯護例如，在2024年美國總統大選中， 2.306名市民 他們首先表明了他們對兩者之間的偏好。 唐納德·特朗普 y 卡馬拉·哈里斯然後，他們被隨機分配給一個聊天機器人，負責為其中一人辯護。

對話結束後，研究人員測量了受訪者態度和投票意圖的變化。支持哈里斯的機器人取得了成功。 偏移 3,9 個點 在最初支持川普的選民中，這種影響以 0 到 100 的等級來衡量，作者將其計算為 比傳統選舉廣告高四倍 在2016年和2020年的競選活動中都經過了檢驗。支持川普的模式也發生了轉變，儘管幅度較為溫和，具體變化如下： 1,51點 在哈里斯的支持者中。

結果在 加拿大 （帶 1.530名參加者 以及用於防禦的聊天機器人 馬克·卡尼 o 皮埃爾·波利耶夫）和 波尼亞 （2.118 人，採用推廣模式） 拉法·特扎斯科夫斯基（RafałTrzaskowski） o 卡羅爾·納沃羅基更引人注目的是：在這些情況下，聊天機器人管理 投票意向變化幅度可達10個百分點。 在反對派選民中。

這些試驗的一個關鍵方面是，儘管大多數對話只持續了幾分鐘， 部分影響持續了一段時間。在美國，實驗結束後一個多月，儘管參與者在此期間收到了大量的宣傳訊息，但仍觀察到了最初影響的很大一部分。

是什麼讓政治聊天機器人更具說服力（以及為什麼這會導致更多錯誤）

研究人員不僅想了解聊天機器人是否能夠說服用戶，而且 他們是如何做到的？這些研究中反覆出現的模式很明確：人工智慧在以下情況下影響最大 它運用了許多基於事實的論證。即使其中許多資訊並不特別複雜。

在蘭德公司協調的實驗中，對模型最有效的指示是要求它們… 有禮貌、尊重他人，並且能夠提供證據的人 他的發言很有說服力。禮貌和親切的語氣有所幫助，但促成改變的主要槓桿在於提供數據、例子、數字，並不斷提及公共政策、經濟或醫療保健等領域。

當模特兒獲取可驗證事實的途徑有限，並且被指示要說服他人時 無需訴諸具體數據它們的影響力急劇下降。這結果讓作者得出結論：聊天機器人相對於其他政治宣傳形式的優勢不在於情緒操縱，而在於… 信息密度 他們只需要幾番談話就能部署這些策略。

但這種策略也有缺點：隨著模型面臨的生成壓力增加，它們會變得更加複雜。 越來越多的所謂事實性主張系統耗盡可靠材料並開始運作的風險增加 「捏造」事實簡而言之，聊天機器人會用聽起來合理但不一定是正確的數據來填補空白。

該研究發表在《科學》雜誌上， 來自英國的76.977名成年人 y 19種不同型號 從小型開源系統到尖端商業模型，它系統地證實了這一點： 培訓後專注於說服技巧 提高了影響能力，最高可達 51％而指令的簡單更改（所謂的） 提示他們又增加了一個 27％ 效率有所提高。同時，這些改進也伴隨著明顯的減少。 事實準確性.

意識形態不對稱與虛假資訊的風險

康乃爾大學和牛津大學的研究得出的最令人擔憂的結論之一是，說服力和真實性之間的失衡並非在所有候選人和職位中都均勻分佈。當獨立事實查核人員分析聊天機器人產生的資訊時，他們發現： 支持右翼候選人的模特兒犯的錯誤更多。 與支持進步派候選人的人相比。

作者認為，這 不對稱 這與先前的研究結果相吻合，即 研究表明，保守派用戶在社群媒體上分享不準確內容的傾向比左傾用戶更多。由於語言模型是從互聯網中提取的大量資訊中學習的，因此它們很可能反映了其中的一些偏見，而不是從頭開始創造偏見。

總之，結果是一樣的：當聊天機器人被指示最大限度地發揮其對特定意識形態集團的說服力時，該模型往往會… 增加誤導性聲明的比例儘管我仍然將它們與大量正確數據混為一談。 問題不僅僅在於虛假資訊可能會洩漏出去。，但是 它以看似合理且有據可查的敘事方式來包裝這一切。.

研究人員也強調了一個令人不安的觀點： 他們並未證明不準確的說法本身就更有說服力。然而，當人工智慧被推向更高的效率時，錯誤數量也會隨之增加。換句話說，如何在不犧牲準確性的前提下提高說服力，仍然是一個尚未解決的技術和倫理難題。

這種模式在以下情況下尤其令人擔憂： 高度政治極化就像歐洲和北美部分地區的情況一樣，在這些地區，勝負差距很小，幾個百分點就能決定大選或總統選舉的結果。

研究的限制以及對投票箱實際影響的質疑

儘管《自然》和《科學》雜誌的研究結果都很可靠，並且主要結論一致，但兩個團隊都堅持： 這些是受控實驗，不是真正的競選活動。有幾個因素會吸引 推斷數據時需謹慎 就像在街頭舉行選舉一樣。

一方面，參與者要么是自願報名，要么是透過提供經濟補償的平台招募的，這引入了 自我選擇偏差，並且偏離了實際選民的多樣性。此外，他們始終都知道 他們在和人工智慧對話。 而這些都是一項研究的一部分，這種條件在普通的競選活動中幾乎不可能重現。

另一個重要的細微差別是，這些研究主要測量的是 態度和意願的變化並非實際投票結果。這些指標雖然有用，但不能完全等同於觀察選舉日的最終投票行為。事實上，在美國的實驗中，這種效應比在加拿大和波蘭的實驗中要小一些，這表明政治背景和先前猶豫不決的程度會產生顯著影響。

以英國協調進行的研究為例 科比·哈肯伯格 英國人工智慧安全研究所也提出了明確的限制：數據僅來自… 英國選民他們都清楚自己正在參與一項學術研究，並且 經濟補償這限制了其結果在其他歐盟國家或管控較弱的環境中的推廣應用。

然而，這些作品的規模──數萬名參與者，超過 700個不同的政治話題——而方法論的透明度使得學術界的大部分人開始考慮這一點。 他們描繪了一個合理合理的場景。使用能夠相對快速地改變輿論的政治聊天機器人不再是未來主義的假設，而是在即將到來的競選活動中技術上可行的方案。

歐洲和其他民主國家的新選舉參與者

除了美國、加拿大、波蘭和英國的具體案例之外，這些發現還具有直接意義： 歐洲和西班牙目前，社群媒體政治傳播的監管以及競選活動中個人資料的使用已成為激烈辯論的話題。引入聊天機器人來維護社群媒體平台的可能性也值得關注。 與選民進行個人化對話 它增加了一層額外的複雜性。

迄今為止，政治遊說主要透過以下方式進行： 靜態廣告、集會、電視辯論和社群媒體對話式助手的出現引入了一個新要素：維持能力 一對一互動能夠根據公民的即時回饋進行即時調整，而且對競選組織者來說，這一切的成本幾乎微乎其微。

研究人員強調，關鍵不再僅僅在於誰控制選民資料庫，而在於誰能夠… 發展能夠回應、完善和複製論點的模型 持續不斷地接收訊息，訊息量遠超過接線員或街頭接線員能夠處理的資訊量。

在這種背景下，像這位義大利專家這樣的聲音就顯得格外重要。 沃爾特·夸特羅喬基 他們堅持認為，監管重點應該從激進的個人化或意識形態細分轉向 信息密度 模型可以提供這些資訊。研究表明，說服力主要在數據倍增時增強，而不是在運用情感策略時增強。

La 《自然》和《科學》雜誌的研究結果高度吻合，引起了歐洲各組織的警覺。 擔心 民主進程的完整性儘管歐盟在《數位服務法案》或未來人工智慧專案監管等框架方面取得了進展，但這些模式的演進速度仍然緩慢。 這需要不斷審查監督、審計和透明度機制。.

數位素養與抵禦自動化誘導

這些著作的學術評論中反覆出現的一個觀點是，因應措施不能僅依賴禁令或技術控制。作者們一致認為，加強……至關重要。 數字素養 讓民眾學會… 辨識並抵制說服 由自動系統產生。

互補實驗，例如發表在…中的實驗 PNAS 連結他們認為，最了解大型語言模型運作原理的使用者可以是 不那麼脆弱 它試圖施加影響。人們意識到聊天機器人可能會出錯、誇大其詞，或用猜測填補空白，這降低了人們將其訊息視為來自絕對權威的傾向。

同時，人們觀察到，人工智慧的說服力與其說是取決於對話者是否相信自己是在與專家交談，不如說是取決於… 論證的品質和一致性 它接收到的信息。在一些測試中，聊天機器人訊息甚至設法… 減少對陰謀論的相信無論參與者認為自己是在和人聊天還是和機器聊天。

這表明該技術本身並非本質上有害：它可以用於兩者兼具的目的。 打擊錯誤信息 為了傳播它這條界限是由給模型的指令、訓練模型的數據，以及最重要的，實施模型的政治或商業目標劃定的。

儘管各國政府和監管機構仍在爭論透明度的限制和要求，但這些著作的作者們堅持一個觀點： 政治聊天機器人 只有當公眾同意與他們互動時，他們才能施加巨大的影響力。因此，關於其使用、明確標註以及不受自動化勸說影響的權利的公開辯論，將在未來幾年成為民主對話的核心議題。

《自然》和《科學》雜誌上的研究揭示了人工智慧聊天機器人帶來的機會和風險：它們可以幫助更好地解釋公共政策並解決複雜的疑問，但它們也可能帶來其他問題。 他們有能力 扭轉選舉局勢尤其是在尚未決定投票意向的選民中，他們這樣做是… 當他們接受訓練以最大限度地發揮其說服力時，資訊準確性方面會付出明顯的代價。這是民主國家必須緊急且不天真地解決的微妙平衡問題。