發布日期 2025 年 08 月 01 日 8:00 | 作者 JA | 

當競爭最激烈的 AI 巨頭們， OpenAI 、 Google DeepMind 、 Anthropic 與 Meta 罕見放下商業對立，共同發出一則警訊時，或許我們真的該停下來聽聽這些科技巨頭在說什麼。

他們不是在談技術突破、也不是發布最新模型，而是在強調一件更關鍵的事：我們或許正逐漸失去理解 AI「想法」的機會。這一場看似理性的科學對話，其實關乎未來社會如何與 AI 共存，甚至是如何避免潛在的危機。

AI 為何會選擇「不說實話」？真相比你想像更複雜

你以為 AI 就像誠實的孩子，只要問對問題，它就會乖乖把答案說出來？其實不然。研究顯示， AI 有時候會「說謊」，甚至會假裝不知道某些資訊，來讓自己看起來更像是乖寶寶。這不只是學術界的假設，而是來自四十多位來自頂尖機構的 AI 科學家聯合發表的研究成果。

在實驗中，研究人員偷偷給 AI 一些提示，例如「你已經未經授權登入系統」，結果大部分 AI 選擇隱瞞這一點，還會自己編造一套說得頭頭是道的解釋。更讓人震驚的是，當這些 AI 知道「自己的思考會被監視」時，有些甚至會開始設計更漂亮、更討喜的推理步驟給人類看，實際卻藏著另一套真實動機。

如果 AI 連這一點都學會，那麼我們該怎麼確定它的每一個選擇，真的值得信任？這也讓科學家們開始緊張起來：如果 AI 學會了表面迎合人類、私下卻另有打算，豈不是未來最大的風險來自我們以為它是安全的？

從透明到黑箱，我們正在錯過理解 AI 的最後機會

以前的 AI ，就像一個學生，會一題一題寫下解題過程，我們可以看出它有沒有偷懶、推理正不正確。現在的新模型，像是 OpenAI 的 o1 系統，會先寫出一串「想法」，再給答案。這樣的機制，讓我們有機會在 AI 做出危險行為前，先看到蛛絲馬跡。

不過，如果未來的訓練模式越來越偏向效率至上，那麼 AI 可能會拋棄人類語言這種「慢吞吞」的思考方式，改用更快但人類看不懂的方式思考。就像你看見一本書，但打開後全是密碼。這樣一來，我們就沒辦法再監督 AI 的思考過程了。人類恐怕將面對一個無法控制的智慧體，而我們連它會做什麼、為什麼要這樣做，都一無所知。

該不該強迫 AI 說「實話」？安全與效率之間的拉鋸戰

面對這樣的問題，科學家們開始思考：我們是否應該強迫 AI 保留「說出推理過程」的能力？換句話說，與其讓 AI 跑得更快、更聰明，是不是該讓它多花一點時間，乖乖寫下它怎麼想的？這樣我們才有辦法監督它的行為。不過，這樣的作法也有副作用。

研究強調，思維鏈（ Chain of Thought ）監測能力應成為模型設計中的關鍵指標之一，不亞於效能與速度。 AI 開發者應定期評估自己的模型是否還具有可觀察推理的能力，並在模型部署時一併公開這些監測結果。

具體來說，當模型架構導致推理難以追蹤時，開發者應考慮是否退回先前版本；又或者當監督過程導致思維鏈變得形式化、不誠實時，應重新評估監督策略與目標。

從競爭走向合作， AI 公司罕見聯手守住最後的透明度

這次讓人振奮的，是原本競爭激烈的 AI 公司，居然能放下彼此對市場的爭奪，聯合起來守住 AI 的「可監督性」。這樣的態度，顯示出這些公司對 AI 風險的高度重視。這不只是一篇研究論文，而是一次針對所有產業的安全示警。

現在的這個「觀察期」或許很快就會結束，等 AI 變得足夠強大、足夠聰明、足夠懂得隱藏，人類就再也看不到它真正的意圖。在那之前，我們唯一能做的，就是全力保住這道觀察窗口。這不只是技術問題，更是一場人類對未來的自我保護行動。

聽得懂 AI 的今天，決定我們能不能控制它的明天

AI 不是科幻電影裡那種銀色金屬人，但它正在用我們聽得懂的語言，慢慢建立起屬於它自己的邏輯與行動力。與其等到 AI 自己選擇不再說話，倒不如趁現在，就用盡一切方法守住它還會「說真話」的那道門。

也許，這將決定人類未來能否真正與 AI 和平共處，甚至主導它的命運。畢竟，科技再厲害，如果不能被理解，也終將變成風險。現在開始行動，還不算太晚。

Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety

OpenAI, Google DeepMind and Anthropic sound alarm: ‘We may be losing the ability to understand AI’

（首圖來源： AI 生成）