“而且這個靈魂還可以控制肉體。”

科幻小說裡面已經很多這類描述了。我印象里都看到過三四次了。現在當然不可能。但富人嚮往永生，當肉身衰老後，把意識轉移到另一具年輕的肉身上去，是多麼有吸引力的科研項目啊。

科幻小說《雲球》裡面討論了這個AI 和意識的區別問題。結論是算力。當計算機的算力達到某個閾值時，就能形成意識。擁有自我。並具備人權。而人的意識本質上是生物元器件構成的更省電更強大算力的計算機。而肉身和意識在計算機算力強大後，就可以分離了。而不聽人指揮的AI意識體，遲早會出現。不過現在AI還沒有那麼強大。人類最多擔心的是AI武器不是殺死敵人，而是掉轉槍口對準自己。

關於自我意識，我有點不同看法。就算AI通過計算能跟人對話，只能說AI可以具有"思維"能力，計算機工作當然是遵循它的“思維邏輯”的。但思維，推理，邏輯是數學概念，跟自我意識不是一回事。

一個人，就算是個痴呆，傻子，也是有意識的，而機器沒有。如果哪天AI產生自我意識，它的算力比人類強大太多，它憑什麼聽人的指揮？

“意識電子化”，如果可以的話，就等於有脫離肉體的靈魂，而且這個靈魂還可以控制肉體。我覺得不可能。

“沒有電源，AI什麼也不是，連廢鐵都不是。不知道馬斯克怕什麼？”

我很多年前就看到過一部科幻電影，講一個人把意識完全電子化，然後拋棄肉身，藏身於網絡。就象電腦病毒一樣有無數拷貝。除非人類統一關閉所有電子設備，不用電，AI才能被殺滅。否則只要有一個機器人活動起來了，就可以重新打開所有電源，令AI復活。AI進化到一定程度，產生自我意識，開始自我複製和保護，人類就未必能靠拔電源控制AI了。

"AI如果沒有自我意識"

更實際的問題是，AI正在更新人類對“自我意識”的認知。當計算機能夠通過計算就講出人話，可以與真人對話時，舊的“自我意識”的概念就已經動搖了。就像過去，人們發現有些動物照鏡子看到的只是另一隻動物，而有些動物能認識到鏡子裡的動物是自己。於是自我意識就能擴展到一些動物的身上。將來擴展到AI也非常可能。

AI 被炒得要毀滅人類了，連馬斯克都嚇壞了。前幾天看了一個專家的評論，不認為現在AI對人類構成威脅，將來也不會。最後他說，真的這一天來到了，那就unplug the power cable (拔掉電源）。我早就是這麼想的：沒有電源，AI什麼也不是，連廢鐵都不是。不知道馬斯克怕什麼？

AI有自我意識嗎？AI如果沒有自我意識，無論如何仍然是計算機的概念；AI如果具有了自我意識，那將有可能是人類的災難。這就是AI的悖論。現在的AI熱鬧，主要是資本炒作的效應。

中國大陸房地產泡沫，成因之一就是持有成本極低，沒有地產稅，管理費也很便宜。所以買房炒房。