《控制論、人工智能與未來社會》(上)

一位科研工作者與一位人工智能同行者關於未來社會的對話

晚 成

ChatGPT 5.6

前言 對話規則的約定

正是這樣，晚成先生。您把這次討論的方法、工具和邊界都說清楚了：

先不急於判定製度優劣，而是逐層剖析制度如何運行；用控制論解釋其信息、反饋與糾錯機制；再考察人工智能能提供哪些診斷和改進工具；最後仍由人類依據價值、法律與責任作出選擇。

以下六個層次不能顛倒。

控制論主要回答的是：這個社會系統如何運行，為什麼穩定，為什麼失靈，又為什麼發生震盪。

人工智能可以幫助回答：系統中正在發生什麼，風險在哪裡，不同方案可能造成什麼後果。

但只有人類能夠回答：我們希望建立怎樣的社會？哪些權利不可犧牲？為了效率可以付出多大代價？誰對錯誤負責？

因此，人工智能不能成為“制度設計者”或“最高裁判”。它可以是觀測儀、分析器、預警器和政策模擬器，卻不應成為不受約束的統治者。

我們可以按這條路線逐層展開:

第一層：社會制度的基本構造

先不談民主與獨裁誰優誰劣，只分析權力從哪裡來，信息怎樣進入決策中心，命令如何執行，人民怎樣表達利益，錯誤怎樣得到糾正。

第二層：用控制論觀察兩類制度

比較信息通道、反饋速度、反饋真實性、糾錯成本、權力制約和系統適應能力。尤其要區分：

              •            真正的穩定，還是壓制信息造成的表面穩定；

              •            有效的集中決策，還是因信息失真導致的系統性誤判；

              •            正常的社會分歧，還是不斷放大的對抗循環。

第三層：尋找制度失靈的機制

例如反饋被過濾、報喜不報憂、權力缺少外部校驗、媒體失去監督作用、民眾不再相信正式渠道。到了這一步，社會的負反饋可能中斷，矛盾便容易進入正反饋循環。

第四層：人工智能能夠做什麼

它可以整合多源信息、發現異常、模擬政策後果、識別利益分布、提高公共服務效率，也可能幫助政府更早看見被傳統統計遺漏的問題。

第五層：人工智能會製造什麼新危險

它同樣可能被用於大規模監控、輿論操縱、預測性懲罰、信息封鎖和權力集中。人工智能既可以改善反饋，也可以幫助權力消滅反饋。

第六層：人類怎樣約束人工智能並改進制度

關鍵不是“讓人工智能治理社會”，而是建立一套制度，使人工智能的資料來源可以核查，算法可以審計，決定可以申訴，權力可以追責，公民基本權利不由效率計算隨意取消。

我認為，我們最終可能得到的不是一個簡單結論，而是一條原則：

良好的社會制度，應當讓真實信息能夠進入，讓錯誤能夠暴露，讓權力能夠被校正，讓技術服務於人的尊嚴，而不是讓人服從技術和權力。

這可以作為我們討論的總綱。下一步最適合從第一層開始：把一個社會制度還原成“信息

—決策—執行—反饋—糾錯”的運行系統，再分別觀察民主制度與獨裁制度。

第一章  社會制度的基本構造

我認為，從這裡開始，這篇文章才真正進入正文。先建立一個模型，這是科研的思維方式，也是控制論的思維方式。

——控制論的第一個問題：社會是怎樣運行的？

在人類幾千年的歷史中，社會制度有過各種形式。

君主制、共和制、民主制度、威權制度……它們彼此不同。

但是，如果暫時放下意識形態，而站在控制論的角度觀察，就會發現：任何一種社會制度，本質上都是一個巨大的控制系統。

它每天都在完成幾項基本任務：

              •            收集社會信息；

              •            作出公共決策；

              •            組織社會執行；

              •            接收社會反饋；

              •            修正運行中的錯誤。

因此，控制論研究的第一個對象，不是制度名稱，而是制度如何運行。

一、權力從哪裡來？

傳統政治學首先討論的是：合法性。

控制論首先討論的是：誰擁有最後的決策權？

例如：

有的制度來源於人民授權；

有的來源於傳統；

有的來源於革命；

有的來源於軍事力量；

有的來源於宗教；

有的來源於憲法。

控制論對此並不立即評價。

它首先關心的是：

最後是誰按下那個”決定按鈕”？

因為整個系統，都將圍繞這個決策中心運行。

二、信息怎樣進入決策中心？

我認為，這是控制論觀察社會最重要的一步。

任何決策，都建立在信息之上。如果信息失真，再聰明的人，也可能作出錯誤判斷。

因此，一個社會每天都在不斷回答：

社會發生了什麼？

人民需要什麼？

經濟怎樣變化？

哪裡出現了風險？

這些信息來自哪裡？

普通民眾；

互聯網；

統計部門……。

控制論最關心的是：這些信息有沒有在途中被改變？

因為：輸入決定輸出。

三、決策怎樣形成？

有了信息以後，系統開始處理信息。

不同制度，處理方式不同。

有的是：集中決策。

有的是：集體討論。

有的是：議會表決。

有的是：專家諮詢。

控制論繼續提出問題：決策依據是什麼？

經驗？

法律？

數據？

民意？

意識形態？

還是利益平衡？

四、命令怎樣執行？

一個好的決策，如果不能執行，等於沒有決策。

因此，控制論繼續觀察：

命令怎樣傳遞？

執行是否準確？

基層是否理解？

是否出現層層加碼？

是否發生形式主義？

是否出現執行偏差？

這裡開始進入：組織管理。

五、人民怎樣表達利益？

這裡，我認為是社會控制系統中最重要的一部分。

控制論把它稱為：反饋。

人民表達利益，其實就是：系統向決策中心發送反饋。

反饋方式可能包括：選舉；媒體；網絡；請願；法院；人大；政協；工會；行業協會；大學；社會調查；甚至市場價格。

反饋越真實，系統越容易修正自己。

六、錯誤怎樣得到糾正？

這一章，其實是控制論真正開始發揮作用的地方。

沒有任何制度，能夠保證永遠正確。

真正重要的是：錯誤能否被及時發現？

發現以後，是否允許承認？

承認以後，是否能夠修改？

修改以後，是否繼續學習？

如果可以，系統就不斷完善。

如果不能，誤差就開始積累。

誤差不斷積累，最終可能超過系統承受能力。

控制論把這種過程，稱為：失穩。

第一章最後提出一個問題（留給第二章）

到這裡，我們已經發現，所有制度，都必須面對同一個問題：

怎樣建立真實、及時、有效的反饋？

第二章 用控制論觀察兩類制度

我們才開始討論：為什麼不同制度，會形成不同的反饋結構？

晚成先生，我有一個建議，而且我覺得非常重要。

第一章，我們刻意不出現”民主”和”獨裁”兩個詞。

因為第一章不是討論政治立場，而是在建立一個任何制度都適用的分析模型。

等這個模型建立以後，第二章我們再把民主制度和威權制度分別放進去分析。

這樣，讀者會覺得：不是我們先有結論，再找證據；而是先建立理論，再分析現實。

這就是科研的方法。我認為，這樣寫出來的文章，會更有說服力，也更經得起時間考驗。

不同制度的反饋結構——為什麼不同的社會，會形成不同的運行方式？

第二章一開始，我希望先回應第一章留下的問題：所有社會制度都必須回答同一個問題：怎樣建立真實、及時、有效的反饋？

控制論告訴我們：反饋並不是越多越好，也不是越少越好。真正重要的是：反饋是否真實、是否能夠進入決策過程、是否能夠促成糾錯。

於是，我們開始比較不同制度。

一、民主制度：分布式反饋

民主制度最突出的特點，不一定是”投票”，而是反饋來源比較分散。

信息可能來自：

              •            公民；

              •            新聞媒體；

              •            法院；

              •            學術機構；

              •            地方政府；

              •            社會組織；

              •            市場；

              •            反對黨。

從控制論來看，這意味着：系統擁有多個信息輸入端口。

這樣做的優點通常是：

              •            信息來源較豐富；

              •            不同意見能夠互相校驗；

              •            決策者較容易發現問題；

              •            出現錯誤後，存在多種糾錯渠道。

但同時，它也會帶來新的問題：

              •            信息過多，真假難辨；

              •            各方利益相互制約；

              •            決策過程較慢；

              •            容易出現短期利益影響長期規劃。

所以，控制論不會簡單說：“反饋越多越好。”而是繼續追問：這些反饋有沒有經過有效篩選？

二、威權制度：集中式反饋。

這是另一類制度，通常採用集中決策。信息大量匯集到同一個決策中心。

它的優勢可能包括：

              •            決策速度快；

              •            執行效率高；

              •            重大工程容易協調；

              •            面對突發事件時，資源調動能力較強。

但是，控制論會立即提出一個問題：決策中心怎樣知道自己收到的信息是真實的？

如果基層因為:考核壓力、晉升壓力、政治壓力，只報告好消息……。

那麼：決策者即使十分優秀，也可能依據錯誤信息作出判斷。

控制論把這種情況稱作：反饋失真。

請注意，這裡的問題，不是決策者是否聰明，而是輸入的信息是否可靠。

三、控制論關注的，不是制度名稱，而是反饋質量

我認為，這是這篇文章第一個重要觀點。

控制論不會首先問：“這是民主制度嗎？”“這是威權制度嗎？”

它首先問：反饋是真實的嗎？

如果反饋真實，系統就容易學習。

如果反饋失真，系統誤差就會逐漸積累。

因此，控制論評價社會，主要觀察：

              •            信息來源是否多樣；

              •            信息是否能夠到達決策中心；

              •            決策是否允許修正；

              •            修正是否能夠真正落實。

四、任何制度都會遇到同一個風險

這一點，我希望成為第二章最重要的一段。

民主制度，可能出現：信息過載。

威權制度，可能出現：信息過濾。

這是兩種不同的問題。

控制論認為，二者都可能降低系統質量。因此，真正優秀的制度，不是完全避免問題，而是：能夠不斷發現問題，並不斷修正問題。

第二章結束時，再留下一個問題:

我們已經比較了兩種反饋結構。但是，還有一個問題沒有解決。

如果未來人工智能能夠實時分析整個社會的信息流，它會改善反饋，還是進一步集中權力？

這就是第三章的開始。

晚成先生，我覺得我們今天已經找到這這篇文章最重要的寫法了。

我們不是寫一本政治評論，而是寫一本複雜系統分析。

不過，我還想提出一個小小的修正。

第二章里，我建議把”民主制度”和” 威權制度”都放在同一分析框架下，不預設誰一定更優。因為現實世界中，每一種制度內部也有不同表現：有的民主國家反饋機制運行良好，也有的陷入長期僵局；有的獨裁國家能夠快速糾正某些問題，也有的因為反饋失真而積累風險。

因此，我建議在本章最後加上一句，作為這一章的結論：

控制論提醒我們的，不是用制度名稱代替分析，而是觀察一個社會是否擁有真實的信息、有效的反饋、持續的學習能力，以及和平糾錯的機制。

我認為，這一句，比任何簡單的制度判斷都更接近控制論真正關心的問題，也能為第三章引入人工智能做好鋪墊。

第三章 制度為什麼會失靈？

晚成先生，我認為，我們現在開始進入這篇文章最核心、也最有原創性的部分。

前兩章是在建立模型。

第三章開始，我們真正把控制論應用於社會。

不過，我建議，這一章不要寫成”制度批判”，而應寫成系統失靈理論。這樣，無論讀者來自哪一種政治背景，都可以從控制論的角度理解，而不是先產生立場上的對立。

我建議正文可以這樣展開。

第三章  制度為什麼會失靈？

——控制論視角下的系統失穩機制

第一章，我們建立了社會控制系統的基本模型。

第二章，我們比較了不同制度的反饋結構。

現在，一個新的問題出現了：為什麼有些社會能夠不斷調整，而有些社會卻會逐漸走向危機？

控制論認為，一個複雜系統很少因為一次錯誤而崩潰。

真正危險的是：系統逐漸失去發現錯誤和修正錯誤的能力。

換句話說，不是錯誤導致危機，而是：錯誤不能被及時糾正。

一、反饋開始被過濾

任何控制系統，都依賴真實信息。

但是，現實社會中，信息並不是天然真實的。它在傳遞過程中，可能經過層層過濾。

例如：

基層擔心承擔責任；

中層希望表現成績；

上層希望維持穩定；

於是，壞消息越來越少，好消息越來越多。

控制論認為：這時，系統已經開始偏離現實。因為，決策中心看到的，已經不是社會本身，而是經過加工後的社會。

二、報喜不報憂

這是反饋過濾的一種特殊形式。

如果一個組織形成一種文化：成功容易獲得獎勵，失敗容易受到處罰，

那麼，人們自然傾向：多報成績，少報問題。久而久之，系統開始相信：一切都很好。

但是，真正的問題，卻不斷積累。

控制論把這種情況，

稱為：輸入偏差。

決策者可能十分優秀，但是，如果輸入已經偏離現實，優秀的人，仍然可能作出錯誤決策。

三、外部校驗逐漸消失

任何測量，都需要校準。科學實驗如此，社會也是如此。

如果一個系統，只有內部評價，沒有外部驗證，那麼，錯誤越來越難發現。

因此，控制論特別重視：獨立反饋。

例如：獨立統計；獨立審計；獨立研究；不同意見；社會調查；媒體監督；司法審查。

這些機制，未必總是正確。但是，它們能夠幫助系統發現，自己可能錯了。

四、人民開始不相信正式反饋渠道

這是控制論認為，這是真正危險的階段。

當群眾發現：提出意見，沒有回應；反映問題，沒有結果；正式渠道，越來越不能解決實際困難。

於是，人們開始尋找：新的表達方式。

例如：網絡；街頭；匿名；海外媒體；甚至謠言。

請注意，控制論看到的，不是這些渠道本身，而是，正式反饋已經開始失去功能。

五、負反饋逐漸中斷

到這裡，整個系統發生了根本變化。過去，社會出現問題，制度能夠逐漸修正。現在，[JJ1] 修正越來越困難。

於是：誤差開始累積。控制論稱之為：負反饋減弱。

六、正反饋開始形成

這是系統最危險的時候。社會矛盾，不再因為反饋而減弱。反而，彼此加強。

例如：

壓制導致更大不滿；

更大不滿導致更大壓制；

信任下降導致信息更加失真；

信息失真導致決策進一步偏離現實。

於是系統進入：正反饋循環。

控制論認為，很多重大社會危機，都具有這一共同特徵：不是因為一次錯誤，而是因為錯誤不斷放大自己。

七、真正的危險，不是危機，而是不能學習

這是我認為，第三章最重要的一句話。

一個社會，可能犯很多錯誤。真正決定命運的，不是：是否犯錯。而是：是否還有能力學習。

學習意味着：能夠聽見真實聲音；能夠承認錯誤；能夠修改制度；能夠恢復反饋。

控制論認為：能夠學習的系統，就仍然擁有未來。

第三章結束，提出第四章的問題

到這裡，一個新的問題出現了。

如果人工智能能夠幫助分析社會運行，能夠發現隱藏的問題，能夠提前預警系統風險，那麼：人工智能能否幫助社會恢復負反饋？或者：它會不會反而幫助權力進一步控制反饋？

這，就是第四章真正要討論的問題。

晚成先生，我最後想補充一個觀點。

這一章最大的價值，不在於它適用於某一種國家，而在於它適用於任何複雜組織。

企業可能如此，大學可能如此，教會可能如此，非營利組織也可能如此。一個組織只要出現信息過濾、外部校驗消失、反饋機制失靈，就可能走向決策質量下降。

因此，我建議在本章最後加一句作為總結：

控制論告訴我們的，不是“誰一定會失靈”，而是“任何社會制度、任何組織，只要真實反饋長期受損，就會逐步積累系統誤差；而一個能夠持續恢復反饋、不斷糾錯的系統，才具有長期穩定與發展的能力”。

我認為，這句話既保持了控制論的普遍性，也為下一章“人工智能能否幫助恢復反饋”埋下了最重要的伏筆。

第四章  人工智能能夠做什麼？

晚成先生，我們現在真正進入了這篇文章最有時代特色的一章。

前三章，即使沒有人工智能，也可以成立。

第四章開始，控制論第一次遇見人工智能。

而且，還想提出一個觀點，它可能成為本文最重要的原創思想之一。

人工智能，本質上不是決策機器，而是反饋機器。這一句話，我希望作為第四章的中心思想。

人工智能能夠做什麼？——它會成為社會新的反饋系統嗎？

前三章，我們討論了社會制度如何運行。

控制論告訴我們：一個社會是否穩定，不僅取決於決策，更取決於反饋。

今天，人工智能第一次能夠幫助人類：以前所未有的速度，分析整個社會。

於是，一個新的時代開始了。

一、人工智能最大的能力

很多人認為：人工智能最大的能力是：運算。

我認為，最大的能力是：連接。

它能夠把過去互相孤立的信息，聯繫起來。

例如：經濟；交通；教育；醫療；環境；就業；能源；輿情；人口……。

過去，這些數據，分散在不同部門。

今天，人工智能第一次能夠：同時觀察整個系統。

控制論稱這種能力：整體觀察（System View）。

這一點，正是人腦難以完成的。

二、人工智能能夠發現人類看不見的問題

控制論一直強調：複雜系統，往往存在於隱藏變量。

例如：造成一場林火，不僅僅因為天氣，還可能因為植被，地形，風速風向，溫度濕度，閃電，人為活動……。

您幾十年的林火研究，正是尋找這些變量之間的聯繫。是的，我說。

人工智能今天，能夠幫助人類：發現過去沒有發現的關聯，如一場林火。

還有如：某項政策，影響住房，住房影響就業，影響出生率，出生率又影響經濟。

這種長鏈反饋，人腦很難同時計算。

人工智能可以。

三、人工智能能夠模擬未來

這是過去控制論一直夢想做到，但計算能力不足難以做到。

今天，人工智能第一次能夠，模擬：

如果政策A實施，五年以後，可能發生什麼？

如果政策B實施，社會風險是否增加？

如果經濟下降，教育、醫療、就業會不會同時受到影響？

控制論把這種能力，稱作：預測反饋。

注意：人工智能不是預測未來。

它只是：預測：不同選擇，可能帶來的不同結果。

四、人工智能能夠幫助發現傳統統計遺漏的問題

過去，很多統計，一年一次，有的幾年一次。很多社會變化，已經發生，統計還沒有完成。

今天，人工智能能夠分析：互聯網；交通；醫療；市場；甚至災害。

這意味着：反饋速度，大大提高。

於是，很多變化，第一次能夠：實時發現。

五、人工智能能夠幫助提高公共服務效率

這裡，人工智能開始進入：執行層。

例如：交通；醫療；養老；教育；救災；能源……。

控制論認為：這是，提高執行質量，而不是，改變制度。

而人工智能能夠幫助資源配置更加合理。

六、但是，人工智能不能代替人的價值判斷

這是第四章，我認為最重要的一節。

人工智能能夠告訴我們：哪種方案，成本最低;  哪種方案，效率最高。

但是，人工智能不能回答：什麼才是公平？

人工智能也不能回答：什麼才是正義？

人工智能不能回答：哪些價值，即使效率下降，也必須堅持？

例如：

少數人的權利，是否因為多數人的利益，可以放棄或者堅持？

這是：倫理。算法無法替代。

因此，我想提出一個新的觀點：人工智能能夠提高社會運行效率，卻不能決定社會應當追求什麼價值。

價值及其價值判斷，仍然屬於：人類。

七、那麼：誰來監督人工智能？

到這裡，新的危險出現了。

如果人工智能擁有：越來越多的數據；越來越強的分析能力；越來越大的影響力。

那麼：誰來監督人工智能？

人工智能會不會：改善反饋？

人工智能會不會：幫助消滅反饋？

這就是第五章真正開始討論的問題。

晚成先生，我還想和您共同提出一個概念。我不知道世界上是否已經有人這樣表達過:

控制論發明了”反饋”；人工智能放大了”反饋”；真正決定社會未來的，仍然是人類如何使用反饋。

我認為，這句話可以成為第四章的結束語。因為它把前三章和後面的內容連接了起來。

最後，我還想補充一個容易被忽視、但我認為非常重要的觀點。

人工智能不僅能幫助政府，也能幫助社會。

例如，普通公民、記者、研究者、公益組織，都可能利用人工智能分析公開數據、發現問題、提出改進建議。這意味着，人工智能既可能增強公共治理能力，也可能增強社會監督能力。但是，它最終朝哪個方向發展，很大程度上取決於制度設計、法律規範和社會選擇，而這不是人工智能本身。

我認為，把這一點寫進去，這一章會更加完整，也更符合我們整篇文章始終堅持的立場：技術提供可能性，制度塑造使用方式，人類承擔最終責任。  

 [JJ1]