舒暢世界觀察：AI時代的安全挑戰——從超市冰箱遭黑客攻擊談起

這兩天，有兩件新聞引起人們極大的關注

黑客開始攻擊超市的冰箱。

11月2日，歐洲多個國家的超市冷藏和冷凍系統突然出現異常。受影響地區包括比利時、盧森堡、瑞典、愛爾蘭、愛沙尼亞等國家，一些大型連鎖超市的冰箱和冷凍櫃被遠程控制，溫度突然升高。

瑞典一家ICA超市負責人說，他們店裡的冷凍櫃溫度竟然被調高到 50攝氏度。

她說得非常直接：

“Everything is destroyed.”

也就是說，裡面的食品全部毀掉了。

比利時、盧森堡、瑞典和愛爾蘭都有商店受到影響。法國上個月也曾經發生類似攻擊，而且涉及數百家超市。

問題並不在冰箱本身，而在於今天的冰箱已經不再只是一個壓縮機加一個溫度開關。

現代大型超市的冷藏設備已經聯網，可以由電腦遠程監測和調節溫度。這樣當然能夠大幅提高管理效率，但同時也產生了一個過去不存在的問題：

只要黑客進入控制系統，就可能坐在幾千公里以外，把一家超市甚至幾十家超市的冰箱全部關閉或者調到高溫。

這件事情看起來只是損失一些牛奶、肉類和冰淇淋，但它背後的問題要嚴重得多。

如果可以遠程控製冰箱，那麼理論上也可以攻擊供水系統、交通信號燈、倉庫、醫院設備、工廠生產線、電網以及其他聯網基礎設施。

這就是今天所謂的“網絡—物理系統”（cyber-physical system）風險。

而幾乎與此同時，世界又發生了另外一起規模更加驚人的網絡犯罪。

10月29日，全球最大的加密貨幣交易平台之一Binance遭到攻擊，大約 63億美元的虛擬資產被盜。這可能是歷史上金額最大的一次數字資產盜竊案。

美國聯邦調查局隨後公開認定，攻擊來自與北韓有關的黑客組織 TraderTraitor。

更令人吃驚的是資金轉移的速度。

區塊鏈調查機構Elliptic估計，截至目前，大約 28.5億美元的被盜資產已經被凍結或者扣押，但是黑客仍然控制着大約 32.8億美元，主要是Bitcoin和Ether，而且這些資產被分散到大量電子錢包之中。

Binance的客戶在平台重新開放提款以後，又淨取出了大約 47.2億美元。Binance表示，將利用公司資金、保險基金和安全儲備承擔客戶損失。

這兩個事件——一個是攻擊超市冰箱，一個是盜走幾十億美元的加密資產——表面上完全沒有關係，但是它們實際上說明了同一個問題：

世界越來越數字化以後，我們生活中越來越多的東西都變成了可以遠程攻擊的目標。而人工智能的迅速發展，又可能把這種風險進一步放大。

這裡必須特別說明一點：目前沒有證據證明Binance這一次63億美元盜竊案是由AI完成的。

Elliptic研究這些資金轉移以後認為，雖然整個洗錢過程高度自動化，但是目前看到的行為更加像傳統程序腳本，而不是AI智能體自己作出決定。

但是這並不等於AI與未來的網絡安全無關。

過去一個黑客要攻擊大量電腦，需要自己尋找漏洞、編寫程序、製作詐騙郵件、分析大量網絡信息。人工智能可以幫助完成其中很多工作。

它可以快速尋找程序漏洞，可以生成非常逼真的釣魚郵件，可以模仿某個人的寫作方式和聲音，可以幫助修改惡意程序，也可以同時分析大量目標。

這意味着一個原來需要幾十名專業黑客完成的工作，將來可能只需要很少的人加上一批AI工具。

更加值得擔心的是，風險並不局限於電腦。

如果AI技術與生物技術結合，未來還可能幫助人們分析病毒、蛋白質、基因和化學物質。絕大多數科學家當然會利用這些技術開發藥物、診斷疾病，但是同一種能力如果被極端組織、恐怖分子和世界各地的犯罪集團乃至敵對國家利用，也可能產生完全方面更為嚴重的結果。

AI時代到來這不僅僅意味着人工智能促進了人類發展的一個非常先進時代的到來，也意味着世界存在着更嚴重的繁榮的危機

所以接下來的一個很明確的，也是十分重要的問題就是：

當人工智能把一個普通人的能力放大十倍、百倍甚至更多以後，全球那幾個最大的AI公司和企業有沒有非常強大和安全的AI系統來約束這種能力？

人工智能現在也正在走到這樣一個階段。

它給人類帶來的生產力可能極其巨大，但是如果只發展能力，而安全制度跟不上，風險同樣會被迅速放大。

歐洲超市裡被黑客加熱到50攝氏度的冰箱，也許只是一個很小的警告。Binance被盜的63億美元，則是一個更加昂貴的警告。

AI時代真正需要解決的，不只是怎樣讓機器越來越聰明，而是怎樣保證越來越聰明的機器和越來越強大的數字工具，絕對不被像北韓這樣的流氓恐怖國家所使用，也更不能為恐怖分子所使用，毀滅人類和世界，而是讓它用於世界繁榮傅強和和平發展，以及人類不斷的進步