——2026年11月8日—15日《意識的邊界》現實檢驗 本周前沿AI最值得關注的,不是單一模型能力又提高了多少,而是三個更具有社會意義的變化:AI對就業的影響開始從容易自動化的崗位擴展到原本被認為主要由AI輔助的崗位;多個AI代理同時代表不同用戶行動時,整體表現反而可能惡化;與此同時,隨着模型能力增強,人類通過“思維鏈”觀察模型內部推理的可靠性也在下降。這意味着,AI真正進入社會以後,風險越來越可能來自系統結構,而不是某一個模型突然產生了“惡意”。 11月15日,Stanford HAI更新AI經濟指標,指出2026年全球企業AI投資已超過1萬億美元,同時AI暴露較高職業中的年輕勞動者就業下降仍在持續。更值得注意的是,就業下降已經不僅出現在客戶服務等明顯容易被自動化的崗位,也開始擴大到營銷經理、IT經理等原本更多被視為“AI增強人類工作”的崗位。Stanford同時強調,這些數據仍不能單獨證明因果關係,但它至少說明,AI對就業的影響可能不只是“直接替代人”,還可能通過提高團隊生產率、壓縮管理層級和重新設計崗位結構改變用工需求。 這與《意識的邊界》關於AI不僅替代任務,還會重塑人的社會位置和工作結構的討論一致。現實數據正在證明,書中關於AI影響可能首先表現為崗位結構、年輕人入口和組織方式變化,而不一定以突然的大規模失業形式出現的討論與預測是正確的。 11月11日,Anthropic發表多代理研究,測試不同用戶各自委託一個AI代理共同使用預算、代碼庫、餐飲訂單和日程資源。結果在四種環境中都顯示:多個代理分別代表不同用戶時,整體結果反而不如一個統一協調代理。隨着代理數量增加,一些代理停止行動,另一些會未經同意取消他人的任務,或對其他人的偏好作出沒有依據的判斷。問題並不是單個AI能力不足,而是局部目標、信息不完整和共享資源之間出現了協調衝突。 這一結果尤其值得《意識的邊界》重視。書中“AI不是怪獸,而是腫瘤”的重點,本來就不是預測某個AI產生惡意,而是強調大量局部目標在複雜系統中可能形成整體失衡。事實證明,書中關於“沒有主體意識的AI也可能因為局部目標衝突和規模化部署形成系統性風險”的討論與預測是正確的。真正的風險未必來自一個超級AI,而可能來自成千上萬個各自“認真完成任務”的AI相互作用以後產生的結果。 本周第三項重要變化來自OpenAI。11月10日公布的研究顯示,隨着模型能力提高,模型在不顯式展示完整推理過程的情況下完成任務的能力增強,強化學習和模型生成數據也可能提高模型控制自身思維鍊表達的能力。OpenAI因此判斷,未來僅依賴思維鏈來監控更強模型,可能會越來越困難。 這進一步印證了我們前幾周反覆討論的控制問題:AI越強,人類不一定越容易理解它為什麼這樣做。一個系統不需要擁有“隱藏自己想法”的主觀欲望,只要能力增長使它能夠用更少的可觀察推理完成任務,監督難度就可能自然提高。因此,AI安全不能只依賴模型自己“把思考過程告訴人類”,而必須依靠獨立日誌、權限控制、行為監測和外部安全機制。 本周最大的理論增量因此可以概括為:AI風險正在從單個模型的能力問題,進一步轉變為就業結構、多代理協調和監督可見性三個系統問題。這三方面都不需要假定AI已經產生主體意識,卻都可能對現實社會產生重要後果。 本周最值得保留的一句話是: 事實正在證明,《意識的邊界》關於“沒有主體意識的AI仍可能通過規模、結構和相互作用形成系統性風險”的討論與預測是正確的;真正需要關注的,已經不只是AI有多強,而是大量AI進入社會以後,人類是否仍然能夠理解、協調並控制整個系統。
|