如果马克思活到现在，他会怎样评价AI? 人工智能遵循辩证唯物主义吗？

记得一个好玩的电影场景是，女孩被男友伤害了，女孩的机器人就把男孩杀了，因为它的目的就是保护女孩不受伤害。后来女孩与父母起冲突，购买机器人的父亲想夺回机器人的控制权，于是机器人的自我保护变成保护女孩的逻辑的一部分，杀死父亲也成了拯救女孩的合理选项。

但是没有人的指令，ＡＩ不可能下达杀人的命令。

科幻电影里早就有这种想象了。AI机器人被人设定为奴隶，不能做伤害主人的事。但什么是伤害主人的事，就可以由机器人自行判断了。而这个现实世界是有无穷大无穷多的可能性的。越来越智能的机器人的自我觉醒，大量机器人的联合，最后机器人类的决定是为了拯救人类，必须杀死所有人。重置一下地球生物圈。才能创造一个更适合人类的环境。至于哪一步错了，并不是一个逻辑问题，而是概率问题。高科技本质上就是把自然界里的小概率事件普遍化。

不可能！ 因为ＡＩ克服不了无穷这个障碍。这个障碍人类也暂时不能克服，至少还得等几十年。另外我的回评过后再写。

可惜我对数学一窍不通，不然我要去训练ai做 存数学了。

Ai现在离证明黎曼猜想还很远。但如果有数学家训练ai去做数学证明，假以时日ai就能够证明很多问题，甚至黎曼猜想。当然不会是现在。

其实我把ai能否证明哥德巴赫猜想作为ai是否超过人类的标准。

这篇文章已经第八次被杂志接受，审稿人（我猜得出他是谁）的意见是不修改也可以发表。但是建议做微小的修改使得文章增色。审稿人懂，但是ｃｏｐｉｌｏｔ丝毫不懂。

读了你的评论，我请Ｃｏｐｉｌｏｔ帮我整理一下我整理过的整个黎曼猜想的总结一文。我是想看看它到底能够做多少。不出我的意外，它几乎什么都不会做。它只是引用了之前文献中的有些观点，它几乎不知道我在说什么。它倒是复述了我的主要观点，也难怪它因为我的文章还没有正式发表。谁也不会把没有正式发表的论文内容输入电脑的存储库，所以它不知道对我的论文的如何评价。

有点扫兴的是它引用了几篇我认为没多大用途的已发表论文的观点。因为哪怕学术界也被怪圈笼罩着，它居然几乎丝毫不知道我这个即将震惊世界的新结果。因为没有人告诉它，它自己并不会从搜索中判断哪些东西有用哪些东西没用。对有用与否它当然只是从输入给它数据的人那里知道。所以，它几乎连我们所说的依样画葫芦也不会。因为黎曼猜想的数不清的虚假证明比唯一一个真实证明来说几乎是仓海一蜀，对此它当然没有任何判断能力。

教会里当然可以说上帝存在。但是任何人把它当作学术问题来证明上帝存在，那么它就是入了魔。或者说精神病态！

学会某个证明那不是你证明了，那是你学会了书本上的东西。你不能用已知的证明方法证明没有证明过的定理。你说的那个黎曼猜想”证明“当然是可能的，但是这个办法不能说是它证明的。按你的说法它不过是鹦鹉学舌巧妙地抄我的作业而已。那不能算是它证明的，而是它可以教学讲解我的证明。它的独立证明必须是不用我的证明从新独立地发现另一个证明方法。证明一个新的结果是一种发现，不是学会。学会可以发现是不可能的，因为它对付不了我们必须对付的无穷大。凡是有限的问题，倒是都可以用穷举法用计算机证明。只要计算机有足够的单元就行，这个恰恰是人类做不了的事情可以让计算机做。

根本的一条就是你学了计算机原理就知道计算机的结构里只有有限个单元被它使用。有限个单元不可能装下无穷这个东西也可以叫做“数字”。人脑的智慧如何装下无穷这个玩意并且合理地对付它，这个问题超出了人类脑袋可以回答的范围。也就是我又重复，这样的问题你提出合理，但是你想得到答案就是自找苦吃。这个问题“没有答案”就是“最后最好的答案”。继续往下问属于不智的提问，就像有人想证明上帝存在。继续提问就不是提问，而是愚蠢了。试图解决不能解决的问题不是智慧，而是愚蠢。这里我说一句我说过某些读书人“最讨厌”的话，那就是企图建立完美的社会制度不是合理的追求而是愚蠢。说民主制度就是最好制度的人也是一样的愚蠢至极。因为上帝的存在与否与什么是最好的制度都是不可能回答的问题。这就是我说过的过分探求所谓真理的人也是愚蠢至极，因为这个世界没有绝对的真理（因为我确信但是无法证明也不需要任何人证明给我看，那就是上帝绝对不存在：　谁要信那是他的事情，我不反对他信上帝，但是他如果想对我证明上帝存在，我立马回答“打住，　你说你信我尊重，你企图说服我信那么你就是愚蠢至极。没有往下说的必要”，　有人继续往下说，我说对不起，“再见”我不得不起身离开）。

ＡＩ肯定会造不同的房子，准确地说是设计不同的房子。但是没有人的指令，ＡＩ不可能下达杀人的命令。因为它的一切都是可以预见的执行指令的结果，不可能是ＡＩ自身的决定。还是那句话，ＡＩ它自己没有脑子。它只有行动力，没有思考能力。你可以试图阅读计算机语言，再复杂的人工智能还是计算机语言指令的执行。它可以是一台完全自动化的机器，但是一旦没有电源或者出了差错，只有人才能修复它或者控制它。它不可能控制人类（这就是你担心的问题：　这个问题不存在，　只是一个欺骗大众无中生有的问题），当然你可以制造见人就杀的人工智能（比如自杀炸弹：　控制它的引爆还是必须由人类控制；或者天灾人祸事故比如人身上长出某个异物，这不是身体本身的”决定“，而是其他外来东西侵入的结果）。但是这不是人工智能在杀人，而是制造它的人或者拥有它的人在杀人。

"这个观点也没有明确的边界。" 你说的这句话绝对正确。我记得很久以前我想过类似的问题，比如生物中有植物和动物但是如何准确定义动物植物好像不是那么容易。比如我们不能用呼吸作为标准来划分。严格地说，我简单地说生物无法深究。但是懂得计算机原理和计算机语言如何指令计算机运转之后，不难理解计算机不可能有意识。在这个博文中剩下的讨论是人工智能其实还是一台高度复杂和精密的计算机。这个问题稍微难一点。

回到你的例子，编辑了的病毒算是新生物物种还是不算新只算旧物种我还真答不上来。比如人被安装了假肢，当然还是算人；可是这个不能用到你说的病毒被编辑。因为我对编辑了这个说法本身不是太理解。我只能从数学中找例子，　比如我们可以问有多少个无穷？答案可能很简单，稍微知道一点的都会说无穷个。但是前面这个无穷与后面这个无穷是什么关系。完了，这个问题可能无法回答。因为我知道的无穷已经早已超过了我的想象，你再加一个所有无穷的个数虽然是无穷好像没有异议，但是这前后２个无穷是否包括后面这个无穷显然是一个悖论了。因为说是或者不是都不能自洽。所以后来我得出一个结论值得商榷，那就是到了一定的边界如果我们继续问下去就是自找苦吃。这就等同于有基督教徒不懂装懂，企图证明神的存在。我看到一位很有见识的牧师故意挑衅他这个问题，他知道我不好糊弄。叫上他的助理出去商量了足足５分钟到１０分钟，回来给我的回到我满意了。那就是证明神的存在是愚蠢的，你信则有你不信则无。我记在了心里，要回答我上面提到两个无穷的问题同样是无法回答的问题。答案就是停止讨论，因为我们无法找到答案！我前面的回评已经试图防备你这个提问，但是你还是把我问住了。我只能承认你的提问有效，但是我没有办法找到合理的答案。我举这个例子就是说我们无法找到答案，　所以我不止一次回答过数学中有关“连续统假设”的提问，我的回答就是这个问题踢得好，但是没有答案就是答案！

如果你让Ai造一座房子，相信每个ai造的房子都不同。这如同每个人想象的房子都不同一样。你是否可以说每个ai的计算结果不同，或想法都不同？估计同一个ai在不同的时间也会造不同的房子。

Ai证明里曼猜想应该是可能的，如果它受到训练。学习了所有数学证明方法，并以此推出新的方法。循序渐进。

Ai杀人当然需要ai的生态。中心ai下达杀人指令，其他ai制定计划，要下毒就给炒菜机器人下指令，要车祸就给自动驾驶下指令。

生物这台“机器”不是人工制造出来的，它是大自然的鬼斧神工。我们永远不可能完全懂得自己这台机器

这个观点也没有明确的边界。新冠病毒就被普遍认为是人造的。当然RNA片段都是自然存在的。但人编辑一下，造出新物种，出现超能力的新人类，他的意识也就不再是纯天然的了。

机器语言是与硬件紧密相关的，它在全世界几乎是一个统一的标准语言。但是制造不同的新硬件就几乎要发明新的机器语言词汇，它在计算机制造过程中一开始就放在了里面。然后就有不同的编译软件来进行编译成不同需要的语言。然后的然后才是通常人们可以看到的大学生学习的计算机语言。也就是大学生学习的计算机语言已经是机器语言至少被翻译两次后才行成的高级语言。这里的“高级”其实就是低级的意思，机器语言最高级算作最低级。这里的高级语言就是人类可以懂得的计算机语言。中间编译两次只有专家们能完全懂！ 大学生一般都不会学到编译语言，更不说机器语言。那是少数专家的事情！

而广大的民众连大学生的水平都不会有，包括我比计算机的大学生知识面广，但是要我写代码还有些困难。我会写但是记不得多少，所以不能实际参与写代码。所以大众离机器语言隔了至少三层藩篱，怎么可能懂得了呢？　所以玩商业的就利用这一点来谋取利益，就像政治人物各个都是说谎的能手。他自己不懂的东西可以说得你以为他什么都懂。因为对于不懂的人，专家怎么说都是对的。所以虚假的民主好玩，虚假的人工智能宣传使有些人五迷三道，几乎毫无真实的谎言可以使比如川普得到几百千万选票。靠这样的人掌权有时还不如养一条狗。当然不要担心，美国的政权丝毫不在这些名义上掌权的人手里。他们都不过是奴才而已，人民所谓选举不过是选择能说会道的当奴才。比如他们并没有决定我３１年职位的权力，我的前途也不在３１年中的任何总统手里。而我的职位多少有关国家利益甚至国家的前途。不是说我有多大能耐，而是如何对待我意味着如何对待千千万万的其他人。因为我毕竟登上了数学的一个顶峰，黎曼猜想就是这个顶峰的制高点。

机器语言是与硬件紧密相关的，它在全世界几乎是一个统一的标准语言。但是制造不同的新硬件就几乎要发明新的机器语言词汇，它在计算机制造过程中一开始就放在了里面。然后就有不同的编译软件来进行编译成不同需要的语言。然后的然后才是通常人们可以看到的大学生学习的计算机语言。也就是大学生学习的计算机语言已经是机器语言至少被翻译两次后才行成的高级语言。这里的“高级”其实就是低级的意思，机器语言最高级算作最低级。这里的高级语言就是人类可以懂得的计算机语言。中间编译两次只有专家们能完全懂！ 大学生一般都不会学到编译语言，更不说机器语言。那是少数专家的事情！

而广大的民众连大学生的水平都不会有，包括我比计算机的大学生知识面广，但是要我写代码还有些困难。我会写但是记不得多少，所以不能实际参与写代码。所以大众离机器语言隔了至少三层藩篱，怎么可能懂得了呢？　所以玩商业的就利用这一点来谋取利益，就像政治人物各个都是说谎的能手。他自己不懂的东西可以说得你以为他什么都懂。因为对于不懂的人，专家怎么说都是对的。所以虚假的民主好玩，虚假的人工智能宣传使有些人五迷三道，几乎毫无真实的谎言可以使比如川普得到几百千万选票。靠这样的人掌权有时还不如养一条狗。当然不要担心，美国的政权丝毫不在这些名义上掌权的人手里。他们都不过是奴才而已，人民所谓选举不过是选择能说会道的当奴才。比如他们并没有决定我３１年职位的权力，我的前途也不在３１年中的任何总统手里。而我的职位多少有关国家利益甚至国家的前途。不是说我有多大能耐，而是如何对待我意味着如何对待千千万万的其他人。因为我毕竟登上了数学的一个顶峰，黎曼猜想就是这个顶峰的制高点。

意识和智力可能是两回事，目前的AI有智力，表现在输入对应的输出上，意识是一种事物，即使没有输入，它也能不断产生输出，还能自己产生输入。

计算机杀人，一定也是人类操作失误或者事故，包括人工智能太复杂杀了人会被认为它杀人。不可能，软件写错可以杀人，但是那还是等同于操作的过错。不是人工智能自己独立决定杀人。它没有独立决定的能力，它只是根据计算的结果决定下一步如何走。而这个决定是事先写进计算机软件的，不是它独立产生的。它独立的决定就是死铁一坨的决定，它没有任何计算能力以外的东西。它怎么做出决定，一切都是人类事先输入的指令（碰到不同的指令走向不同的方向，这就是代理智能的意思－但是你看它好像它会做出决定；不是的，只不过是人类早就输入了不同结果走向不同方向的指令在生产它时已经输入好了）。人类的指令对它不是对猫狗那样的口语和姿势，而是数据（而数据在计算机中一律以０，１的形式存放在固定的地址（就是某个存储单元）。它只根据数据的０和１决定下一步，复杂的决定也是０和１的（就是电源的关与闭）的复杂组合而已。１０００个“０和１”数据需要１０个单元（像开关有电还是没电）来决定。因为２的１０次方等于１０２４刚刚大于１０００，这就是计算机上的基本单位。ＫＢ，　ＧＢ，ＴＢ等都是基于这个１０２４基础之上类似而算出来的。比如一个Ｂｙｔｅ等于８个开关的容量。你去学习一下我上大学前就学过的

“计算机原理”和“计算机语言”，你就明白了计算机到底怎么在运转？这些东西丝毫没有改变，人工智能只是使用非常复杂的计算机算法和语言得到的指令在指使机器人运行。

人类的科学家们一般都不需要懂得机器内部的语言，　我也学过几次懂了基本意思就行了。因为它由０，１组成。一个最简单的命令都需要写出一长串０和１的不同排列。所以机器语言需要经过机器帮忙翻译才能被软件工程师看懂。掌握机器语言的人很少很少，也不需要很多。所以人类几乎都是经过几次翻译在控制计算机，然后有些专家湖理湖涂地在以讹传讹敷衍大众，何况”你“对大众讲这些话又有几人有耐心听懂。它比政治还难懂，是不是？就像世上没有几人懂得政治一样，没几人懂得计算机包括有些专家。所以政治也是欺骗大众而已，没人会告诉你真实的政治。同样几乎没有人有这个闲心告诉你这些东西。

火车，汽车，甚至任何机器都会伤人。　但是那不是机器杀人，是人自己操作失误或者事故。

它不会推理，只会计算。它的推理是输入数学家的办法，就像其他政治问题的答案。不是它自身独立思考的结果，它不会思考。它只是把已经知道的东西排列组合用统计规律展示出来。不要误以为它会思考，还是那句话－－　它只有计算功能。它不可能证明黎曼猜想，但是它可以被教育学会证明黎曼猜想。就是它可以把我们做好的结果展示出来，甚至展示得更好。但是如果黎曼猜想没有被证明之前，它是不可能代替我思考出黎曼猜想的证明的。这就是中国的人工智能为中国说话，美国的人工智能（这里“人工”两字就是“模仿”的意思）为美国说话的缘故。它是一个机器性奴才，就像有些读书人一样没有脑子的奴才。

至于它被训练得会杀人，那是根据指令行事。它只会执行命令，不可能辨别敌友。辨别敌友需要靠人类教给它或者说给它指令哪些人算是敌人，哪些人是朋友。所以用得不当它会杀“自己人”，因为它没有自己人这个概念。它不可能以它的爱和恨决定谁是敌友。所以你那个担心是多余的，同时也是商界和工业界有点故意误导你去投资。就像政治人物都在告诉你它是唯一正确的代表（共和党和民主党都这么说：　因为他们都是奴才，美国的两党都是真正权势的奴才　－－　他们的话不算数都只是在演戏，真正的权势是不需要你选举的，　真正的权势才是我背后的权势，选举产生的奴才们管不了我个人的事情：　所以你不能相信政治人物的话一样不能相信商人的话，　商人的话语就是“自卖自夸”）。说它有意识和感情毫无疑问就是同样的骗人把戏。

“AI 更像是放大器”，这个说法好。但是ＡＩ是大脑，好像不合适。人才和他们的才华才是大脑。“谁能把能源、制造、算力、算法和人才整合成一个完整的体系。”　这个说法也不错，只是算法是几乎没有保密性质的，　它实际上是数学和计算机科学的一个结合部。它成了很敏感的学科，就像绑架我做的黎曼猜想也是这样的东西。

它只是数学，但是又不能被简单地当着纯数学那样对待。因为它联系到了计算机科学和计算机算法以及其他很多学科，证明这个猜想也用到了美国不愿意我接触的计算机最高级的硬件和软件。直到最近我感觉可能被要求（美国做事都是暗中进行，往往以别的名义）通过某些资格考试和认证包括签署保密协议等之后才能让我全方位参与。这也就是其中有一两篇论文需要他人帮忙的缘故。但是背后的有些事情却是部分保密的。我收到暗示需要通过某些认证和职务培训，另一个原因就是确保我不会回到中国为这个美国眼里的它国服务。所以我前面提到具有很坚实数学基础的庞大华人群体（尽管华人人口只占美国整体人口的百分之一点五左右）也是美国不可忽视的因素。这是一个美国如何使用的巨大人才宝库。

让电脑具有意识的确是难以想象的事，但电脑自己输入数据推理计算则不难想象。那么它推理的结果是应该把外人都杀了就是可能的，自己执行杀外人也是可能的。

还有电力贮备，因为海量的计算速度需要花费海量的电力。没有海量的电力，任何机器都无法运转。而我们人类刚刚开始认识到，人工智能这个玩意可能花掉人类所有的电力资源。　所以，电力资源是另一个巨大的竞争范围。

比如破译密码，即使有最快的速度没有足够的电力也无法完成任务。而早一秒完成任务的一方就可能打败晚一秒取得结果的另一方。这才是真正的竞争主场地，因为它将决定谁是这个世界的主宰。正是这个为了战争准备这个“合理”的理由，加上比如奥林匹克数学竞赛（中国队第一，美国队第二却因为它的团队五分之四的队员是华人）的结果可能造成了美国绑架我３１年的合理理由。它在预备万一信息时代这个爱因斯坦预言成真，美国需要拥有庞大的华人数学群体，来应对中国崛起后的巨大战争风险。这是我昨天告诉亲友我终于看到美国绑架我３１年的可能合理理由。

我们不要以为人类社会将随着技术进步变好，这个观点可能错了。我看到了另一面更可能。那就是人类世界很可能将变成等级差别极大界限森严的非平等社会。比如贫富差别将极大地拉开距离！因为富人具备了不需要太多穷人就可以生存的资源，同时极其有效的尖端武器可以防止任何穷人反抗（对于反抗过度者它们只要像杀光印第安人那样就可以了结大批的穷人；　因为资源不管多么丰富，也只能满足少数人生活更优越的需求）。

我本来是想直接回答你结果跑远了。直接回答你的疑问，我觉得把机器植入人体就像把机器手植入人体一样，机器这个部分是不可能与人类身体的其他非人造部分融合在一起的。所以，我前面说不可能就是这个意思。

你植入“物理”物质到我的脑子里，不可能与我的脑子发生直接的融合。也就是各个还是各个分开的功能，互相协作但是不可能成为一体。这回到了我说的信仰部分，这种问题超越了我们人类能够回答的极限。至于能否植入“生物”物质，这也回到能否制造生物计算机的问题了。你需要先制造生物计算机，再来考虑能否植入人体的问题。因为这就等价于人类能否制造自身的问题了（我的答案是ＮＯ）。总之，这样的问题最好的办法就是放一边去，不要去想我认为永远不会有答案的问题。

不可能。　生物这台“机器”不是人工制造出来的，它是大自然的鬼斧神工。我们永远不可能完全懂得自己这台机器，这是我通过学习数学中的数理逻辑悟出来的。我没法证明它，也断言没有任何人能证明它或者否认它。因为它超越了我们人类自己。所以人类在无奈之余, 有人选择了宗教。

对我来说就是“欧氏几何第五公理”和“连续统假设”给我的启发。前者产生了非欧几何，我稍微懂得一点。而且我自信可以完全懂得它，只是花一些时间和精力的问题。但是提出这个公理和不用这个公理得到非欧几何使得我认为它们已经达到了人类智力的极限附近。所以我认为达到极限之后的研究显然是不可及的东西。我们人类应该适可而止，放弃继续往下追究。因为这种继续追究是不可能有任何收获的。所以我自己把“连续统假设”改称“连续统公理”，因为我认定这个公理永远无法被证明。我认为它就是人类智力的极限之一。任何企图超越这个极限的努力都是无功而返的瞎折腾！就像脑子不开窍的信教人士企图证明上帝存在一样属于无聊的瞎折腾。当然这样的观点是无法争论的，只能信就信不信拉倒！因为这个观点就是信仰之类的东西。 信仰是无法证明真伪的，信就是信不信只能拉倒。这一点是我故意对教堂牧师找茬，与他讨论宗教而得到的领悟。

很喜欢文中强调"概念要准确"这一点。当前AI的发展令人惊叹，但"智能""意识""自我"属于不同层面的概念。既不必神化AI，也不必低估它的能力，用科学证据和严谨定义来讨论，才更有意义

进而进入人类大脑极限？——进而超越人类大脑极限

【这个问题提到了最重要的点子上。正因为我们根本就不知道意识是如何产生的，所以奢谈计算机有“意识”完全是哗众取宠的无稽之谈。】

会不会有这两种可能？

1、在人类对大脑产生意识的生物过程的解析同时，人工智能同步发展，并在最终环节上协助，甚至引领人类完成突破？

2、人类对大脑产生意识的生物过程解析彻底完成后，人工智能在此基础上突破大脑终端，进而进入人类大脑极限？

瞎想的。但怎么想，都感觉很恐怖。

他们说的意识主要是生物意识，比如爱和恨。一旦机器有了爱恨，那就麻烦了。只是这是不可能的事情所以多余的瞎操心。机器不可能有生物意识，因为它只是一堆合金制成的机器。

不过你说的计算器除了速度外，丝毫没有超过人类　计算机也一样丝毫没有超过人类除了速度之外。它们只是死机器，　完全按照人类教给它们的方法进行计算。我有一个这方面的“低级”论文，可以告诉计算机加快计算乘法的速度。就是我可能早就证明了“乘法复杂度猜想”（这个问题不是我提出的，但是这个名称是我提出的），但是一直没有写出来。同时要把这篇论文写出来，我可能需要计算机算法的教授和高级硬件和软件工程师的协助。这个猜想在文献里已经有粗略的应用（阅读的人因为不懂也就不知道它在使用这个猜想那个的粗略版本），但是只有数学家才能证明它。证明它的数学家需要的是扎实的数学功底和天才的发现，不是高深的知识。

也就是把乘法的速度推向几乎极端但是不可能绝对靠近的加法速度，　但是可以相当靠近。有人懂计算机算法和硬件和软件可以与我联系，我们共同发表这篇“小学算术”论文。当然论文的难度可能是计算机科学博士水准的，因为我觉得可以根据这个算法设计新的硬件从而大大加速乘法在计算机上的运算。如果这样的硬件（我不懂硬件，只懂一点点计算机原理和软件）能够设计和制造出来，那么甚至有可能换掉所有计算机上的主要基础硬件之一。不知道它是否甚至可以申请专利，我只知道这个算法必须由数学家才能发明出来；我基本上已经想好只是没真正动笔。如果能够申请专利，与我合作这篇论文和特别是制造硬件的人（软件上的工程不大，我只需要协助不需要从零开始学习）可能因此得到可观的财富。

“人类的意识是如何产生的？眼下能说得清吗？”　这个问题提到了最重要的点子上。正因为我们根本就不知道意识是如何产生的，所以奢谈计算机有“意识”完全是哗众取宠的无稽之谈。