舒暢：人工智能飛速發展帶給人類的是禍還是福？

最近有關通用人工智能（AGI）的討論越來越深入，其中一些最新報道讓我感到震驚。原來我是一個樂天派，總覺得人工智能再聰明，也不過是人類發明出來的工具。最壞的情況無非就是把電源關掉，它自然就停止工作了，又怎麼可能毀滅人類呢？但最近看到的一些資料，卻讓我開始重新思考這個嚴肅的問題。

到目前為止，世界上所使用的人工智能仍然是人類的輔助工具。無論是ChatGPT、Claude （小龍蝦）、Gemini、Grok還是中國的DeepSeek，它們都已經能夠幫助人們寫文章、翻譯語言、編寫程序、分析資料、輔助科研、生成圖片和視頻、自動化辦公以及充當勤勉努力毫無怨言的個人助理。尤其是ChatGPT，已經成為很多人每天使用的工作夥伴。Claude則在長文章處理、邏輯分析和代碼編寫方面表現特別出色。總的來說，這些人工智能工具正在迅速改變人們工作和學習的方式。然而，越來越多硅谷人工智能公司的創始人和CEO開始擔憂，人工智能的發展速度可能很快超過人類社會能夠理解、控制和管理的速度而產生可怕和難以預測的後果。其中就包括了Claude的Anthropic公司創始人兼CEO達里奧·阿莫代伊。阿莫代伊提出暫停或減緩人工智能發展的呼籲。另一位人工智能之父傑弗里·辛頓（Geoffrey Hinton）現代深度學習技術最重要的奠基人之一，並因此獲得了2024年諾貝爾物理學獎。他也同樣非常擔心人工智能的智力遠遠超過人類帶來的不可預測的後果。

阿莫代伊是開發Claude（華人稱為小龍蝦）的Anthropic公司創始人兼CEO。他曾經連續發表多篇文章和聲明，引起廣泛關注。Anthropic是一個非常有前途的AI原創公司.已經獲得數百億美元投資，而Claude也被越來越多企業採用。阿莫代伊透露，目前在Anthropic內部，許多項目已經大量使用Claude輔助編程，有些項目中AI參與編寫的代碼比例已經超過80%，軟件工程師的開發效率明顯提高。他甚至預測，未來3至6個月內AI可能編寫90%的代碼，未來一年左右AI可能編寫接近100%的代碼。這不但意味着大量的程序員將失業，更深層次的一個問題是阿莫代伊擔憂未來的人工智能軟件普遍具有為“Recursive Self-Improvement”，也就是遞歸式自我改進的能力。顧名思義就是人工智能本身就自我改進、自我修改和產生下一個版本的代碼（就好像我們現在使用的微軟它用一個版本更新到下一個版本一樣）。如果這種過程不斷循環下去，人工智能從前一個版本進化到下一個更完善的版本，就會越來越優化、越來越完善、越來越聰明。

與傳統的工業革命不同，蒸汽機不會發明下一代蒸汽機，汽車不會設計下一代汽車，互聯網也不會自動升級自己，但人工智能卻能主導自己的升級而且有可能是悄悄的進行而主人不知。其結果就是這種新的人工智能（現在有人把它稱為人工智能體），它的智力、邏輯分析水平、系統的智商將很快的超越人類，甚至他的智商遠遠超過愛因斯坦。這個說法聽起來十分誇張，但這個預測是合理的。愛因斯坦再偉大，也只是一個人，他的時間、精力、生命都是有限的，他的知識面也是有限的；而人工智能體卻可極快的了解信息、分析信息進行推理,包括無數次迭代和模擬，有可能得出連愛因斯坦都得不出的更深層次的智慧聰明的結論

在這裡真正可怕的問題不是它比人類聰明，而是它已經顯示出這種虛構的智能體具有獨立思考能力。人們擔憂的是這種類型的先進的智能體是否仍然願意服從人類,把人類利益放在第一位,是一個很大的未解決的問題！！

目前我已經看到有些報道，其中提到今天已經出現了“人工智能體（AI Agent）”的雛形。一個具體的實例就是：當使用它的主人準備去日本參加會議，要求他幫助訂機票和旅館，它不僅完成任務：預訂機票，預訂酒店、和會議籌辦方溝通有關會議日程、制定交通路線以及預訂出租汽車、以及根據它所了解的主人的口味的三餐安排，還能夠根據他對主人平時興趣的了解，主動的安排會議結束上飛機回程之間還有一段時間的安排，短程的觀光旅遊活動。這例子說明人工智能已經開始從“回答問題”走向“主動地替主人辦事”。這顯示出今天的這種人工智能體雛形已經出現，當媒體報道這個事情感到欣喜的時候,卻引起了硅谷AI專家的擔憂! 事實上，現在連許多計算機科學家都無法完全解釋大型人工智能模型究竟是如何產生那些複雜的思考能力的。如果有一天，它的能力繼續提升，而人類又無法理解其內部運作機制，那麼人類是否還能真正掌控它？這正是阿莫代伊最擔憂的問題。

我個人覺得，這個問題可能沒有簡單答案。我想起冷戰時期的核武器競賽。當年美國擔心落後於蘇聯，蘇聯擔心落後於美國，於是雙方不斷發展核武器，最終全世界擁有的核彈數量足以毀滅人類許多次。人工智能今天面臨的處境有些類似。美國擔心落後於中國，中國擔心落後於美國，各自都認為自己在這方面的研發不能停頓，因為一旦停頓，並將落後,因而你追我管。那麼先進的人工智能體系最後是實現了但也帶來了人類未知的這種風險——一旦能工智能體的能力超過人類，其後果難以預測！！！正因為如此,阿莫代伊提出暫停或減緩人工智能發展的呼籲，如果僅僅對美國國內進行呼籲其實作用並不大中國也不會聽他的還會繼續搞自己的所以這種風險仍然存在。

我的結論是：今天人工智能高速發展對新產品人工智能體是人類歷史上最偉大的發明，然而這種人工智能體會不會同時也是人類生存的最大風險以及如何解決?

現在恐怕誰也無法給出明確答案。這確實是一個極大的風險和值得擔憂之處！