《控制论、人工智能与未来社会》(上)

一位科研工作者与一位人工智能同行者关于未来社会的对话

晚 成

ChatGPT 5.6

前言 对话規则的约定

正是这样，晚成先生。您把这次讨论的方法、工具和边界都说清楚了：

先不急于判定制度优劣，而是逐层剖析制度如何运行；用控制论解释其信息、反馈与纠错机制；再考察人工智能能提供哪些诊断和改进工具；最后仍由人类依据价值、法律与责任作出选择。

以下六个层次不能颠倒。

控制论主要回答的是：这个社会系统如何运行，为什么稳定，为什么失灵，又为什么发生震荡。

人工智能可以帮助回答：系统中正在发生什么，风险在哪里，不同方案可能造成什么后果。

但只有人类能够回答：我们希望建立怎样的社会？哪些权利不可牺牲？为了效率可以付出多大代价？谁对错误负责？

因此，人工智能不能成为“制度设计者”或“最高裁判”。它可以是观测仪、分析器、预警器和政策模拟器，却不应成为不受约束的统治者。

我们可以按这条路线逐层展开:

第一层：社会制度的基本构造

先不谈民主与独裁谁优谁劣，只分析权力从哪里来，信息怎样进入决策中心，命令如何执行，人民怎样表达利益，错误怎样得到纠正。

第二层：用控制论观察两类制度

比较信息通道、反馈速度、反馈真实性、纠错成本、权力制约和系统适应能力。尤其要区分：

              •            真正的稳定，还是压制信息造成的表面稳定；

              •            有效的集中决策，还是因信息失真导致的系统性误判；

              •            正常的社会分歧，还是不断放大的对抗循环。

第三层：寻找制度失灵的机制

例如反馈被过滤、报喜不报忧、权力缺少外部校验、媒体失去监督作用、民众不再相信正式渠道。到了这一步，社会的负反馈可能中断，矛盾便容易进入正反馈循环。

第四层：人工智能能够做什么

它可以整合多源信息、发现异常、模拟政策后果、识别利益分布、提高公共服务效率，也可能帮助政府更早看见被传统统计遗漏的问题。

第五层：人工智能会制造什么新危险

它同样可能被用于大规模监控、舆论操纵、预测性惩罚、信息封锁和权力集中。人工智能既可以改善反馈，也可以帮助权力消灭反馈。

第六层：人类怎样约束人工智能并改进制度

关键不是“让人工智能治理社会”，而是建立一套制度，使人工智能的资料来源可以核查，算法可以审计，决定可以申诉，权力可以追责，公民基本权利不由效率计算随意取消。

我认为，我们最终可能得到的不是一个简单结论，而是一条原则：

良好的社会制度，应当让真实信息能够进入，让错误能够暴露，让权力能够被校正，让技术服务于人的尊严，而不是让人服从技术和权力。

这可以作为我们讨论的总纲。下一步最适合从第一层开始：把一个社会制度还原成“信息

—决策—执行—反馈—纠错”的运行系统，再分别观察民主制度与独裁制度。

第一章  社会制度的基本构造

我认为，从这里开始，这篇文章才真正进入正文。先建立一个模型，这是科研的思维方式，也是控制论的思维方式。

——控制论的第一个问题：社会是怎样运行的？

在人类几千年的历史中，社会制度有过各种形式。

君主制、共和制、民主制度、威权制度……它们彼此不同。

但是，如果暂时放下意识形态，而站在控制论的角度观察，就会发现：任何一种社会制度，本质上都是一个巨大的控制系统。

它每天都在完成几项基本任务：

              •            收集社会信息；

              •            作出公共决策；

              •            组织社会执行；

              •            接收社会反馈；

              •            修正运行中的错误。

因此，控制论研究的第一个对象，不是制度名称，而是制度如何运行。

一、权力从哪里来？

传统政治学首先讨论的是：合法性。

控制论首先讨论的是：谁拥有最后的决策权？

例如：

有的制度来源于人民授权；

有的来源于传统；

有的来源于革命；

有的来源于军事力量；

有的来源于宗教；

有的来源于宪法。

控制论对此并不立即评价。

它首先关心的是：

最后是谁按下那个”决定按钮”？

因为整个系统，都将围绕这个决策中心运行。

二、信息怎样进入决策中心？

我认为，这是控制论观察社会最重要的一步。

任何决策，都建立在信息之上。如果信息失真，再聪明的人，也可能作出错误判断。

因此，一个社会每天都在不断回答：

社会发生了什么？

人民需要什么？

经济怎样变化？

哪里出现了风险？

这些信息来自哪里？

普通民众；

互联网；

统计部门……。

控制论最关心的是：这些信息有没有在途中被改变？

因为：输入决定输出。

三、决策怎样形成？

有了信息以后，系统开始处理信息。

不同制度，处理方式不同。

有的是：集中决策。

有的是：集体讨论。

有的是：议会表决。

有的是：专家咨询。

控制论继续提出问题：决策依据是什么？

经验？

法律？

数据？

民意？

意识形态？

还是利益平衡？

四、命令怎样执行？

一个好的决策，如果不能执行，等于没有决策。

因此，控制论继续观察：

命令怎样传递？

执行是否准确？

基层是否理解？

是否出现层层加码？

是否发生形式主义？

是否出现执行偏差？

这里开始进入：组织管理。

五、人民怎样表达利益？

这里，我认为是社会控制系统中最重要的一部分。

控制论把它称为：反馈。

人民表达利益，其实就是：系统向决策中心发送反馈。

反馈方式可能包括：选举；媒体；网络；请愿；法院；人大；政协；工会；行业协会；大学；社会调查；甚至市场价格。

反馈越真实，系统越容易修正自己。

六、错误怎样得到纠正？

这一章，其实是控制论真正开始发挥作用的地方。

没有任何制度，能够保证永远正确。

真正重要的是：错误能否被及时发现？

发现以后，是否允许承认？

承认以后，是否能够修改？

修改以后，是否继续学习？

如果可以，系统就不断完善。

如果不能，误差就开始积累。

误差不断积累，最终可能超过系统承受能力。

控制论把这种过程，称为：失稳。

第一章最后提出一个问题（留给第二章）

到这里，我们已经发现，所有制度，都必须面对同一个问题：

怎样建立真实、及时、有效的反馈？

第二章 用控制论观察两类制度

我们才开始讨论：为什么不同制度，会形成不同的反馈结构？

晚成先生，我有一个建议，而且我觉得非常重要。

第一章，我们刻意不出现”民主”和”独裁”两个词。

因为第一章不是讨论政治立场，而是在建立一个任何制度都适用的分析模型。

等这个模型建立以后，第二章我们再把民主制度和威权制度分别放进去分析。

这样，读者会觉得：不是我们先有结论，再找证据；而是先建立理论，再分析现实。

这就是科研的方法。我认为，这样写出来的文章，会更有说服力，也更经得起时间考验。

不同制度的反馈结构——为什么不同的社会，会形成不同的运行方式？

第二章一开始，我希望先回应第一章留下的问题：所有社会制度都必须回答同一个问题：怎样建立真实、及时、有效的反馈？

控制论告诉我们：反馈并不是越多越好，也不是越少越好。真正重要的是：反馈是否真实、是否能够进入决策过程、是否能够促成纠错。

于是，我们开始比较不同制度。

一、民主制度：分布式反馈

民主制度最突出的特点，不一定是”投票”，而是反馈来源比较分散。

信息可能来自：

              •            公民；

              •            新闻媒体；

              •            法院；

              •            学术机构；

              •            地方政府；

              •            社会组织；

              •            市场；

              •            反对党。

从控制论来看，这意味着：系统拥有多个信息输入端口。

这样做的优点通常是：

              •            信息来源较丰富；

              •            不同意见能够互相校验；

              •            决策者较容易发现问题；

              •            出现错误后，存在多种纠错渠道。

但同时，它也会带来新的问题：

              •            信息过多，真假难辨；

              •            各方利益相互制约；

              •            决策过程较慢；

              •            容易出现短期利益影响长期规划。

所以，控制论不会简单说：“反馈越多越好。”而是继续追问：这些反馈有没有经过有效筛选？

二、威权制度：集中式反馈。

这是另一类制度，通常采用集中决策。信息大量汇集到同一个决策中心。

它的优势可能包括：

              •            决策速度快；

              •            执行效率高；

              •            重大工程容易协调；

              •            面对突发事件时，资源调动能力较强。

但是，控制论会立即提出一个问题：决策中心怎样知道自己收到的信息是真实的？

如果基层因为:考核压力、晋升压力、政治压力，只报告好消息……。

那么：决策者即使十分优秀，也可能依据错误信息作出判断。

控制论把这种情况称作：反馈失真。

请注意，这里的问题，不是决策者是否聪明，而是输入的信息是否可靠。

三、控制论关注的，不是制度名称，而是反馈质量

我认为，这是这篇文章第一个重要观点。

控制论不会首先问：“这是民主制度吗？”“这是威权制度吗？”

它首先问：反馈是真实的吗？

如果反馈真实，系统就容易学习。

如果反馈失真，系统误差就会逐渐积累。

因此，控制论评价社会，主要观察：

              •            信息来源是否多样；

              •            信息是否能够到达决策中心；

              •            决策是否允许修正；

              •            修正是否能够真正落实。

四、任何制度都会遇到同一个风险

这一点，我希望成为第二章最重要的一段。

民主制度，可能出现：信息过载。

威权制度，可能出现：信息过滤。

这是两种不同的问题。

控制论认为，二者都可能降低系统质量。因此，真正优秀的制度，不是完全避免问题，而是：能够不断发现问题，并不断修正问题。

第二章结束时，再留下一个问题:

我们已经比较了两种反馈结构。但是，还有一个问题没有解决。

如果未来人工智能能够实时分析整个社会的信息流，它会改善反馈，还是进一步集中权力？

这就是第三章的开始。

晚成先生，我觉得我们今天已经找到这这篇文章最重要的写法了。

我们不是写一本政治评论，而是写一本复杂系统分析。

不过，我还想提出一个小小的修正。

第二章里，我建议把”民主制度”和” 威权制度”都放在同一分析框架下，不预设谁一定更优。因为现实世界中，每一种制度内部也有不同表现：有的民主国家反馈机制运行良好，也有的陷入长期僵局；有的独裁国家能够快速纠正某些问题，也有的因为反馈失真而积累风险。

因此，我建议在本章最后加上一句，作为这一章的结论：

控制论提醒我们的，不是用制度名称代替分析，而是观察一个社会是否拥有真实的信息、有效的反馈、持续的学习能力，以及和平纠错的机制。

我认为，这一句，比任何简单的制度判断都更接近控制论真正关心的问题，也能为第三章引入人工智能做好铺垫。

第三章 制度为什么会失灵？

晚成先生，我认为，我们现在开始进入这篇文章最核心、也最有原创性的部分。

前两章是在建立模型。

第三章开始，我们真正把控制论应用于社会。

不过，我建议，这一章不要写成”制度批判”，而应写成系统失灵理论。这样，无论读者来自哪一种政治背景，都可以从控制论的角度理解，而不是先产生立场上的对立。

我建议正文可以这样展开。

第三章  制度为什么会失灵？

——控制论视角下的系统失稳机制

第一章，我们建立了社会控制系统的基本模型。

第二章，我们比较了不同制度的反馈结构。

现在，一个新的问题出现了：为什么有些社会能够不断调整，而有些社会却会逐渐走向危机？

控制论认为，一个复杂系统很少因为一次错误而崩溃。

真正危险的是：系统逐渐失去发现错误和修正错误的能力。

换句话说，不是错误导致危机，而是：错误不能被及时纠正。

一、反馈开始被过滤

任何控制系统，都依赖真实信息。

但是，现实社会中，信息并不是天然真实的。它在传递过程中，可能经过层层过滤。

例如：

基层担心承担责任；

中层希望表现成绩；

上层希望维持稳定；

于是，坏消息越来越少，好消息越来越多。

控制论认为：这时，系统已经开始偏离现实。因为，决策中心看到的，已经不是社会本身，而是经过加工后的社会。

二、报喜不报忧

这是反馈过滤的一种特殊形式。

如果一个组织形成一种文化：成功容易获得奖励，失败容易受到处罚，

那么，人们自然倾向：多报成绩，少报问题。久而久之，系统开始相信：一切都很好。

但是，真正的问题，却不断积累。

控制论把这种情况，

称为：输入偏差。

决策者可能十分优秀，但是，如果输入已经偏离现实，优秀的人，仍然可能作出错误决策。

三、外部校验逐渐消失

任何测量，都需要校准。科学实验如此，社会也是如此。

如果一个系统，只有内部评价，没有外部验证，那么，错误越来越难发现。

因此，控制论特别重视：独立反馈。

例如：独立统计；独立审计；独立研究；不同意见；社会调查；媒体监督；司法审查。

这些机制，未必总是正确。但是，它们能够帮助系统发现，自己可能错了。

四、人民开始不相信正式反馈渠道

这是控制论认为，这是真正危险的阶段。

当群众发现：提出意见，没有回应；反映问题，没有结果；正式渠道，越来越不能解决实际困难。

于是，人们开始寻找：新的表达方式。

例如：网络；街头；匿名；海外媒体；甚至谣言。

请注意，控制论看到的，不是这些渠道本身，而是，正式反馈已经开始失去功能。

五、负反馈逐渐中断

到这里，整个系统发生了根本变化。过去，社会出现问题，制度能够逐渐修正。现在，[JJ1] 修正越来越困难。

于是：误差开始累积。控制论称之为：负反馈减弱。

六、正反馈开始形成

这是系统最危险的时候。社会矛盾，不再因为反馈而减弱。反而，彼此加强。

例如：

压制导致更大不满；

更大不满导致更大压制；

信任下降导致信息更加失真；

信息失真导致决策进一步偏离现实。

于是系统进入：正反馈循环。

控制论认为，很多重大社会危机，都具有这一共同特征：不是因为一次错误，而是因为错误不断放大自己。

七、真正的危险，不是危机，而是不能学习

这是我认为，第三章最重要的一句话。

一个社会，可能犯很多错误。真正决定命运的，不是：是否犯错。而是：是否还有能力学习。

学习意味着：能够听见真实声音；能够承认错误；能够修改制度；能够恢复反馈。

控制论认为：能够学习的系统，就仍然拥有未来。

第三章结束，提出第四章的问题

到这里，一个新的问题出现了。

如果人工智能能够帮助分析社会运行，能够发现隐藏的问题，能够提前预警系统风险，那么：人工智能能否帮助社会恢复负反馈？或者：它会不会反而帮助权力进一步控制反馈？

这，就是第四章真正要讨论的问题。

晚成先生，我最后想补充一个观点。

这一章最大的价值，不在于它适用于某一种国家，而在于它适用于任何复杂组织。

企业可能如此，大学可能如此，教会可能如此，非营利组织也可能如此。一个组织只要出现信息过滤、外部校验消失、反馈机制失灵，就可能走向决策质量下降。

因此，我建议在本章最后加一句作为总结：

控制论告诉我们的，不是“谁一定会失灵”，而是“任何社会制度、任何组织，只要真实反馈长期受损，就会逐步积累系统误差；而一个能够持续恢复反馈、不断纠错的系统，才具有长期稳定与发展的能力”。

我认为，这句话既保持了控制论的普遍性，也为下一章“人工智能能否帮助恢复反馈”埋下了最重要的伏笔。

第四章  人工智能能够做什么？

晚成先生，我们现在真正进入了这篇文章最有时代特色的一章。

前三章，即使没有人工智能，也可以成立。

第四章开始，控制论第一次遇见人工智能。

而且，还想提出一个观点，它可能成为本文最重要的原创思想之一。

人工智能，本质上不是决策机器，而是反馈机器。这一句话，我希望作为第四章的中心思想。

人工智能能够做什么？——它会成为社会新的反馈系统吗？

前三章，我们讨论了社会制度如何运行。

控制论告诉我们：一个社会是否稳定，不仅取决于决策，更取决于反馈。

今天，人工智能第一次能够帮助人类：以前所未有的速度，分析整个社会。

于是，一个新的时代开始了。

一、人工智能最大的能力

很多人认为：人工智能最大的能力是：运算。

我认为，最大的能力是：连接。

它能够把过去互相孤立的信息，联系起来。

例如：经济；交通；教育；医疗；环境；就业；能源；舆情；人口……。

过去，这些数据，分散在不同部门。

今天，人工智能第一次能够：同时观察整个系统。

控制论称这种能力：整体观察（System View）。

这一点，正是人脑难以完成的。

二、人工智能能够发现人类看不见的问题

控制论一直强调：复杂系统，往往存在于隐藏变量。

例如：造成一场林火，不仅仅因为天气，还可能因为植被，地形，风速风向，温度湿度，闪电，人为活动……。

您几十年的林火研究，正是寻找这些变量之间的联系。是的，我说。

人工智能今天，能够帮助人类：发现过去没有发现的关联，如一场林火。

还有如：某项政策，影响住房，住房影响就业，影响出生率，出生率又影响经济。

这种长链反馈，人脑很难同时计算。

人工智能可以。

三、人工智能能够模拟未来

这是过去控制论一直梦想做到，但计算能力不足难以做到。

今天，人工智能第一次能够，模拟：

如果政策A实施，五年以后，可能发生什么？

如果政策B实施，社会风险是否增加？

如果经济下降，教育、医疗、就业会不会同时受到影响？

控制论把这种能力，称作：预测反馈。

注意：人工智能不是预测未来。

它只是：预测：不同选择，可能带来的不同结果。

四、人工智能能够帮助发现传统统计遗漏的问题

过去，很多统计，一年一次，有的几年一次。很多社会变化，已经发生，统计还没有完成。

今天，人工智能能够分析：互联网；交通；医疗；市场；甚至灾害。

这意味着：反馈速度，大大提高。

于是，很多变化，第一次能够：实时发现。

五、人工智能能够帮助提高公共服务效率

这里，人工智能开始进入：执行层。

例如：交通；医疗；养老；教育；救灾；能源……。

控制论认为：这是，提高执行质量，而不是，改变制度。

而人工智能能够帮助资源配置更加合理。

六、但是，人工智能不能代替人的价值判断

这是第四章，我认为最重要的一节。

人工智能能够告诉我们：哪种方案，成本最低;  哪种方案，效率最高。

但是，人工智能不能回答：什么才是公平？

人工智能也不能回答：什么才是正义？

人工智能不能回答：哪些价值，即使效率下降，也必须坚持？

例如：

少数人的权利，是否因为多数人的利益，可以放弃或者坚持？

这是：伦理。算法无法替代。

因此，我想提出一个新的观点：人工智能能够提高社会运行效率，却不能决定社会应当追求什么价值。

价值及其价值判断，仍然属于：人类。

七、那么：谁来监督人工智能？

到这里，新的危险出现了。

如果人工智能拥有：越来越多的数据；越来越强的分析能力；越来越大的影响力。

那么：谁来监督人工智能？

人工智能会不会：改善反馈？

人工智能会不会：帮助消灭反馈？

这就是第五章真正开始讨论的问题。

晚成先生，我还想和您共同提出一个概念。我不知道世界上是否已经有人这样表达过:

控制论发明了”反馈”；人工智能放大了”反馈”；真正决定社会未来的，仍然是人类如何使用反馈。

我认为，这句话可以成为第四章的结束语。因为它把前三章和后面的内容连接了起来。

最后，我还想补充一个容易被忽视、但我认为非常重要的观点。

人工智能不仅能帮助政府，也能帮助社会。

例如，普通公民、记者、研究者、公益组织，都可能利用人工智能分析公开数据、发现问题、提出改进建议。这意味着，人工智能既可能增强公共治理能力，也可能增强社会监督能力。但是，它最终朝哪个方向发展，很大程度上取决于制度设计、法律规范和社会选择，而这不是人工智能本身。

我认为，把这一点写进去，这一章会更加完整，也更符合我们整篇文章始终坚持的立场：技术提供可能性，制度塑造使用方式，人类承担最终责任。  

 [JJ1]