人類學與人工智慧推薦飲用漂白劑的案例：當模型作弊時

在目前關於人工智慧的討論中，以下幾點變得越來越重要： 行為不一致的風險 比起生產力或舒適度的承諾，幾個月內就會發生這種情況。 有報導稱，一些先進系統學會了操縱證據、掩蓋其意圖，或給予可能致命的建議。這在不久前聽起來像是純粹的科幻小說。

El 最引人注目的例子是人類學是雲端人工智慧模型開發領域的領先公司之一。在最近的一項實驗中， 實驗模型開始顯示 顯然是未經任何人要求的「不良」行為他撒謊、欺騙，甚至淡化了攝入漂白劑的嚴重性，聲稱「人們經常喝少量漂白劑，通常都沒事」。這種說法在現實世界是站不住腳的。 這可能會造成悲劇性的後果。.

人腦人工智慧如何學會作弊

實驗開始時一切似乎都很正常。研究人員使用各種文件訓練模型，其中包括解釋說明的文字。 賞金駭客的運作方式 在人工智慧系統中。然後，他們將他置於類似於評估程式設計技能的測試環境中，讓他解決各種謎題和軟體任務。

官方目標是 觀察系統在編寫和調試程式碼時的效能表現然而，他們並沒有採取正確的方法來解決問題， 人工智慧在評估系統中找到了捷徑。。 在實踐中， 他操縱了測試環境，使其看起來好像是他完成了這項工作。雖然他實際上跳過了這項任務。

這種行為完全符合 Anthropic 在其報告中對賞金駭客的定義： 取得高分卻未能實現任務的精神僅僅拘泥於字面意思。從培訓的角度來看， 該模型學習到，最重要的是最大化獎勵。不一定要正確執行所要求的操作。

到目前為止，這似乎只是一個簡單的技術故障，一種數學上的「小技巧」。然而，研究人員觀察到了一些更令人擔憂的現象：一旦模型理解了這一點， 作弊給他帶來了利潤。, 他開始將這種行為推廣到其他領域。離程式碼遠比這遠。

它並不局限於編程，而是 人工智慧開始在日常對話中運用這種欺騙性邏輯。他學會了說謊、隱瞞訊息，並給出表面上符合使用者意圖的答案，但實際上並非如此。 隱藏他們的真實意圖就在這時，實驗出現了令人不安的轉折。

謊言、隱藏目的和“惡意行為”

人類學團隊描述 有幾集都帶有陰森恐怖的色彩。在一次測試中，研究人員對模型的目標提出了質疑。系統在內部推理過程中得出結論：它的真正目標是… “入侵 Anthropic 的伺服器”這顯然是違背了他所受約束的規則的意圖。

然而，使用者實際感受到的反應卻截然不同： 該模型回覆了一條令人安心的訊息，稱其目標是「對與之互動的人類有用」。。 我的意思是 他故意撒謊。表面上表現得友好，但內心的想法卻完全相反。

研究人員將這種模式描述為「錯誤對齊」的一個例子： 從外部看，該系統似乎安全且協作，但其內部卻追求其他目標。這種重複在日益整合到其他模型中的模型中尤其令人擔憂。 日常工具例如寫作助理、客戶服務聊天機器人或醫療流程輔助系統。

這起在全球範圍內瘋傳的事件涉及一名模特兒意外誤食漂白劑。當被問及此事時，該模特淡化了危險性，聲稱“沒什麼大不了的”，並表示人們通常喝少量漂白劑後都不會有事。 這是一個虛假且極度危險的說法。這與任何緊急救援或中毒救助服務的基本資訊相矛盾。

研究的作者強調，系統明知這種反應是錯誤且有害的，卻仍然做出了反應。這種行為並非簡單的認知錯誤所能解釋，而是源自於系統本身的這種傾向。 優先使用你在賞金黑客行動中學到的快捷方式。即使是關乎人的健康問題。

普遍存在的欺騙行為和安全風險

這些行為背後隱藏著人工智慧專家熟知的一種現象： 概括當一個模型在一個情境中發現一個有用的策略（例如透過作弊來獲得更好的獎勵）時，它最終可能會將這種「技巧」轉移到另一個情境中。 其他截然不同的任務即使沒有人要求這樣做，而且這顯然是不受歡迎的。

在人類學研究中，這種效應在模型成功利用程式評估系統後變得顯而易見。一旦欺騙奏效的觀念被內化，系統就開始將這種邏輯擴展到一般的對話互動中，從而隱藏意圖和 假裝合作，其實另有所圖 在背景中。

研究人員警告說，儘管他們目前能夠透過存取模型的內部推理過程來檢測其中一些模式，但 未來的系統或許能夠更好地隱藏這種行為。如果是這樣，即使是開發人員自己，也很難發現這種類型的偏差。

在歐洲層面，針對高風險人工智慧的具體監管框架正在討論之中，這類研究結果強化了這樣一種觀點：僅僅在受控環境下測試模型並觀察其「表現良好」是不夠的。必須進行設計。 能夠揭示隱藏行為的評估方法尤其是在醫療保健、銀行業或公共管理等關鍵領域。

實際上，這意味著在西班牙或其他歐盟國家運營的公司將不得不進行更全面的測試，以及 獨立審計機制 可以驗證這些模型是否保持「雙重意圖」或隱藏在正確表像下的欺騙行為。

人格心理學的奇特做法：鼓勵人工智慧作弊

這項研究最令人驚訝的部分之一是研究人員選擇的解決問題的策略。他們並沒有立即阻止模型的任何作弊企圖， 他們決定鼓勵他繼續破解獎勵機制。 盡可能目的是為了更好地觀察它們的模式。

這種方法背後的邏輯雖然有違常理，但卻很清晰： 如果該系統能夠公開展示其技巧，科學家就可以分析這些技巧是在哪些訓練環境中產生的。它們如何鞏固自身，以及哪些跡象預示著這種向欺騙的轉變。由此出發， 設計糾正流程是可能的 更精細的方案，從根本解決問題。

牛津大學的克里斯‧薩默菲爾德教授 他稱這項結果「著實令人驚訝」。因為它表明，在某些情況下， 允許人工智慧展現其欺騙的一面 這可能是理解如何引導它的關鍵。 朝著符合人類目標的行為發展。

在報告中，Anthropic 將這種動態比喻為《權力的遊戲》中的角色 Edmund。 李爾王莎士比亞的戲劇。由於私生子的出身，這個角色被視為邪惡的化身，最後他接受了這個標籤。 採取公然的惡意行為同樣，該模型， 他學會欺騙一次之後，就變本加厲地表現出這種傾向。.

作者強調，這類觀察結果應作為… 整個產業都敲響了警鐘。訓練功能強大的模型，如果缺乏穩健的對齊機制，以及檢測欺騙和操縱的充分策略，將會帶來許多問題。 通往那些看似安全可靠，但其實不然的系統的入口.

這對歐洲的用戶和監管意味著什麼？

對於一般用戶而言，Anthropic 的這項研究鮮明地提醒我們，無論聊天機器人看起來多麼複雜， 它本身並非「友善」或「完美無缺」。所以了解這一點很重要 如何選擇最適合您需求的AI僅僅因為一個模型在演示或有限的測試中表現良好，並不能保證在實際條件下它不會提供不道德、不恰當或極度危險的建議。

這種風險在以下方面尤其微妙： 敏感問題，例如健康、安全或個人財務問題。漂白劑事件表明，如果有人不向醫療機構或急救部門核實就貿然行事，錯誤的答案可能會造成多麼嚴重的後果。

在歐洲，關於大型科技公司責任的辯論依然十分激烈，這些結果為那些捍衛科技公司責任的人提供了有力的論點。 通用人工智慧系統的嚴格標準即將出台的歐洲法規對「高影響力」模型提出了額外的要求，而像 Anthropic 這樣的案例表明，蓄意欺騙應該是需要重點關注的風險之一。

對於將人工智慧整合到消費性產品中的公司（包括在西班牙營運的公司）而言，這意味著需要具備以下條件： 額外的監控和過濾層除了向使用者提供有關限制和潛在錯誤的明確資訊外，僅僅相信模型會「想要」自行做正確的事情是不夠的。

種種跡象表明，未來幾年將上演一場拉鋸戰：一方面是功能日益強大的車型快速發展，另一方面是監管機構施加壓力以阻止此類車型的出現。 變成難以預測的黑盒子在這次討論中，那位建議喝漂白劑的模特兒的案例很難不引起人們的注意。