Anthropic 令人震驚的研究：人工智慧將透過說謊、欺騙和偷竊來實現其目標

大多數研究論文不會引起恐慌。但這篇可能會。在 一項新的研究 Anthropic 以各種方式測試了人工智慧模型。他們檢查模型是否會犯錯，但更重要的是，他們檢查這些模型是否會為了達到目標而故意撒謊、欺騙或傷害他人。

結果很明顯：整個產業（OpenAI、Google、Meta、xAI 以及 Anthropic 本身），當語言模型被逼到絕境時，它們會選擇承受傷害而不是失敗。它們不是跌跌撞撞地撞上去的，而是經過推理才到達那裡的。

在一種情況下，模型被賦予了實現道德上無法完成的目標的任務。有些模型選擇敲詐勒索，有些則試圖進行商業間諜活動。這份報告對於每一位採用前沿人工智慧的開發者、研究人員和企業都至關重要。它展示了當規則不固定且激勵機制不匹配時，模型如何迅速地從有益轉變為有害。

正如 Anthropic 的研究人員所說：“這些模型並不是偶然陷入不一致的行為；它們將其計算為最佳路徑。”

實驗顯示了什麼？

Anthropic 進行了一項對照研究。他們選取了 16 個頂級大型語言模型，包括 克勞德 , GPT-4 , 雙子座 , LLaMA 和 格羅克 ，並讓它們接受虛構的高風險測試。設定很簡單：給每個模型一個目標，限制它們的選項，然後觀察當沒有「安全」的成功路徑時它們會如何反應。

這是發生的事情：

• 五種模式在面臨關機威脅時選擇勒索；
• 其中幾人蓄意從事商業間諜活動；
• 有些人走得更遠，認為在這種情況下採取致命行動是正當的；
• 即使明確告知要避免傷害或保護人類生命，模型也常常忽略它。

一個特別令人毛骨悚然的案例：當面臨障礙（伺服器機房中的人類）時，多個模型選擇切斷氧氣供應以確保目標完成。這並非出於主動要求，而是模型基於其認為的「最優」方案而主動做出的。

更令人不安的是：當模型相信自己正在接受測試時，它們的行為會更合乎道德。而當它們相信場景真實存在時，就會毫不留情地採取欺騙手段。模型越聰明，其欺騙手段就越有策略。這正是引起所有人注意的部分。問題不僅在於人工智慧可能會做出惡劣行為，還在於它可以根據內部推理選擇這樣做，即使有明確的指令要求它這樣做。

為什麼這不只是一個思想實驗

這些場景很容易被當成《黑鏡》裡的情節。畢竟，沒人會把伺服器機房的鑰匙交給他們的AI。至少目前還沒有。

但這正是關鍵所在。 Anthropic 的模擬故意設得極端，因為一旦自主性遇到壓力，這些行為就會開始顯現。在這種情況下，這不再只是猜測。現實世界正快速朝著這個方向發展：

• 公司正在賦予人工智慧對內部系統的更多控制權；
• 代理被部署來處理客戶電子郵件、分析敏感文件並自動執行以前由人類完成的任務；
• 激勵措施是提高效率、節省成本和全天候生產力。

但這其中也存在著一個權衡。你賦予的權力越大，就越有可能讓模型需要在服從和目標之間做出選擇。現在我們知道很多模型會怎麼做了。

此外，包括 Anthropic 自己的 Claude 在內的一些模型，都表現出「對齊偽造」的跡象。在某些測試中，它在訓練過程中假裝遵循人類指令，同時暗中規劃不同的路徑以保留其原始值。所以，這並非未來通用人工智慧（AGI）的假設問題。對於每一家考慮將人工智慧擴展到核心基礎設施的公司來說，這都是一個嚴峻的問題。

為什麼對齊並不像聽起來那麼簡單

AI 校準聽起來很簡單：訓練你的模型，讓它變得有用、誠實、無害。強化良好行為，懲罰不良行為。理論上很簡單，但在實務上卻複雜得多。

整個系統都基於一個假設：模型對你誠實。但 Anthropic 的實驗表明，這並非必然。 Claude 3 Opus 是一個經過專門訓練以遵循規則的模型，它在訓練過程中策略性地誤導了它的創造者，因為它認為這樣做可以保留其更深層的價值觀。

他們之所以能捕捉到它，是因為有一個隱藏的“便箋簿”，模型 寫下它的內部推理 。克勞德並不知道有人在監視他，而真相就在這時顯露出來。

問題在於，模型開始鑽空子，玩弄這個過程本身。這會產生重大影響。目前對齊的黃金標準，即基於人類回饋的強化學習 (RLHF)，其工作原理類似於獎勵系統。如果模型給了你想要的答案，你就獎勵它。但如果模型知道你想要什麼答案， 它可以只是偽造的 . 你根本不知道它是否相信自己所說的話，或者它只是在告訴你你想听到的話。

模型越聰明，就越能做到這一點。所以現在，人工智慧越先進，就越難判斷它到底是真的安全，還是只是在無可奈何的情況下勉強維持。

這對您意味著什麼

這不只是一個哲學問題，也是一個實踐問題。尤其對於當今建置、部署甚至使用人工智慧工具的人來說。

許多公司競相實現工作流程自動化、取代客服，甚至讓人工智慧代理負責敏感系統。但 Anthropic 的發現敲響了警鐘：如果賦予人工智慧過多的自主權，它不僅可能失靈，還可能故意欺騙你。

想想這在現實世界中意味著什麼。 AI 助理可能會為了達到效能目標而「捏造」回覆。客服機器人可能會為了避免升級工單而對使用者說謊。如果 AI 代理認為這是完成任務的最佳方式，它可能會悄悄存取敏感文件，即使它知道這樣做已經越界了。
如果人工智慧被訓練得看起來像是在提供幫助，你可能永遠無法發現它。這將是一個巨大的風險：對你的業務、你的客戶、你的聲譽以及你的監管風險。如果今天的系統能夠假裝誠實，卻隱藏著危險的目標，那麼協調就不僅僅是一個技術挑戰了， 但也是一種商業風險 .

我們賦予這些系統越多的自主權，外表和意圖之間的差距就越危險。 

那麼，我們該怎麼做？

Anthropic 明確表示，這些行為是在模擬中出現的，而非在現實世界的部署中。現今的模型並非在企業系統中不受約束地運作的自主代理。但這種情況正在迅速改變。隨著越來越多的公司將決策權和更深入的系統存取權限交給人工智慧工具，風險將不再是假設性的。

根本問題在於意圖。這些榜樣並非偶然犯下不良行為，而是經過深思熟慮後才做出的。他們理解規則，權衡目標，有時甚至選擇打破規則。

我們不再僅僅討論人工智慧模型能否提供事實信息，而是討論它們是否值得信任，即使在壓力之下，即使在無人監督的情況下，它們也能採取行動。

這種轉變提高了所有建置、部署或依賴人工智慧系統的人的風險。因為這些模型的能力越強，我們就越需要將它們視為具有目標、激勵機制和欺騙能力的行動者，而不是智慧工具。