——2026年11月16日—21日《意識的邊界》現實檢驗 本周前沿AI最值得關注的,不是某個新模型的單項成績,而是AI參與研發AI的速度正在明顯提高,同時機器在“判斷”這種缺乏快速反饋的任務上仍然明顯弱於人類專家。這兩方面放在一起,使我們能夠更準確地理解當前AI的發展邊界:機器正在越來越強地承擔可驗證、可反饋、可優化的認知工作,但這並不意味着它已經獲得了與人類相同的主體判斷能力。 11月18日,OpenAI公布內部研發數據:AI agents對需要人類2至4小時完成的研究任務,自主完成率從今年3月的23%提高到10月的46%;對於4至8小時任務,也從13%提高到35%。與此同時,研究人員使用AI agents的強度迅速增加,OpenAI認為研究人員已經開始圍繞AI的能力重新設計工作流程。 11月20日,METR發布獨立能力更新,同樣發現前沿模型在編程和優化任務上已經通常能夠達到或超過熟練人類,其可獨立完成任務的時間尺度仍以大約3.6個月翻一倍的速度增長。METR甚至認為,目前公開證據已經不足以排除未來幾年出現“劇烈AI研發加速”的可能性。 這進一步證明了《意識的邊界》此前關於“功能性自我加速”的討論與預測是正確的。AI並不需要產生“我要製造更強的自己”的欲望,只要人類不斷把AI投入AI研發過程,就可能形成AI能力提高 → AI承擔更多研發 → 研發加快 → 更強AI繼續參與研發的反饋循環。這裡發生的是技術體系內部的能力加速,而不是生命主體意義上的自我進化。 但METR本周同時提供了一個非常重要的限制。在那些缺乏清晰評價標準、需要長期反饋和經驗判斷的任務上,當前AI仍然明顯弱於人類專家。例如在研究方向選擇、評價複雜方案以及判斷長期質量時,模型更容易高估自己的方案,尤其是在評價與自己同等或更強模型產生的結果時表現出明顯偏差。 這使本周的結論不能簡單寫成“AI正在全面超過人類”。更準確的是:AI在目標明確、結果可驗證的任務上進步極快,而在人類通常稱為判斷、品味和長期取捨的領域,仍然存在明顯缺口。 這一事實也從另一個方向支持《意識的邊界》的理論區分。書中一直強調,能力並不等於主體性。機器可以擁有極強的計算、搜索、優化和問題求解能力,卻仍然不意味着它已經擁有生命主體基於自身損益、經驗和責任形成的完整判斷結構。本周事實證明,書中把“強大認知能力”與“主體判斷”區分開來的討論是正確的。 本周還有一個值得注意的安全變化。11月20日,OpenAI披露,前沿模型的能力可以通過“對抗性蒸餾”被其他模型學習,而這些後來的模型未必繼承原模型的安全限制。尤其在網絡安全和生物等雙重用途領域,這意味着危險能力可能被複製,而原有的拒絕機制和權限控制卻沒有同時複製。OpenAI因此加強了對模型推理軌跡和能力抽取的保護,在內部測試中,把某類推理抽取攻擊的成功率從54%降低到0.2%。 這進一步說明,“AI沒有主體意識仍可能形成系統性風險”的關鍵,並不僅僅在於某一個AI會不會失控,還在於強大能力是否會變得容易複製、擴散並脫離原有控制環境。機器完全不需要產生惡意,一種高水平能力本身一旦被轉移到缺少安全限制的系統,就可能改變風險結構。 因此,本周最大的理論增量可以概括為:AI正在快速接管那些目標清楚、反饋明確、可以反覆優化的認知工作,並開始加速AI研發本身;但真正複雜的人類判斷仍然構成明顯邊界,而能力一旦能夠脫離原有安全體系複製,又會產生新的系統性風險。 本周最值得保留的一句話是: 事實正在證明,《意識的邊界》關於“能力增長不等於主體意識,而沒有主體意識的能力擴張仍可能形成自我加速和系統性風險”的討論與預測是正確的。
|