“而且这个灵魂还可以控制肉体。”

科幻小说里面已经很多这类描述了。我印象里都看到过三四次了。现在当然不可能。但富人向往永生，当肉身衰老后，把意识转移到另一具年轻的肉身上去，是多么有吸引力的科研项目啊。

科幻小说《云球》里面讨论了这个AI 和意识的区别问题。结论是算力。当计算机的算力达到某个阈值时，就能形成意识。拥有自我。并具备人权。而人的意识本质上是生物元器件构成的更省电更强大算力的计算机。而肉身和意识在计算机算力强大后，就可以分离了。而不听人指挥的AI意识体，迟早会出现。不过现在AI还没有那么强大。人类最多担心的是AI武器不是杀死敌人，而是掉转枪口对准自己。

关于自我意识，我有点不同看法。就算AI通过计算能跟人对话，只能说AI可以具有"思维"能力，计算机工作当然是遵循它的“思维逻辑”的。但思维，推理，逻辑是数学概念，跟自我意识不是一回事。

一个人，就算是个痴呆，傻子，也是有意识的，而机器没有。如果哪天AI产生自我意识，它的算力比人类强大太多，它凭什么听人的指挥？

“意识电子化”，如果可以的话，就等于有脱离肉体的灵魂，而且这个灵魂还可以控制肉体。我觉得不可能。

“没有电源，AI什么也不是，连废铁都不是。不知道马斯克怕什么？”

我很多年前就看到过一部科幻电影，讲一个人把意识完全电子化，然后抛弃肉身，藏身于网络。就象电脑病毒一样有无数拷贝。除非人类统一关闭所有电子设备，不用电，AI才能被杀灭。否则只要有一个机器人活动起来了，就可以重新打开所有电源，令AI复活。AI进化到一定程度，产生自我意识，开始自我复制和保护，人类就未必能靠拔电源控制AI了。

"AI如果没有自我意识"

更实际的问题是，AI正在更新人类对“自我意识”的认知。当计算机能够通过计算就讲出人话，可以与真人对话时，旧的“自我意识”的概念就已经动摇了。就像过去，人们发现有些动物照镜子看到的只是另一只动物，而有些动物能认识到镜子里的动物是自己。于是自我意识就能扩展到一些动物的身上。将来扩展到AI也非常可能。

AI 被炒得要毁灭人类了，连马斯克都吓坏了。前几天看了一个专家的评论，不认为现在AI对人类构成威胁，将来也不会。最后他说，真的这一天来到了，那就unplug the power cable (拔掉电源）。我早就是这么想的：没有电源，AI什么也不是，连废铁都不是。不知道马斯克怕什么？

AI有自我意识吗？AI如果没有自我意识，无论如何仍然是计算机的概念；AI如果具有了自我意识，那将有可能是人类的灾难。这就是AI的悖论。现在的AI热闹，主要是资本炒作的效应。

中国大陆房地产泡沫，成因之一就是持有成本极低，没有地产税，管理费也很便宜。所以买房炒房。