永遠不老的樂觀主義者：Kevin Kelly（1952—）
十多年前，自由攝影記者出身的美國暢銷書作家凱文·凱利（KK）推出了他的新書《失控》，一時間在科創圈風靡一時。像“蜂群思維”、“去中心化”、“新生物文明”等概念不脛而走，人們趨之若鶩。 如今世界走到了今天，KK當年的樂觀預言又當如何？ 恐怕除了書名之外，難見其它。 比如KK說：生物系統內有一隻奇妙的、“看不見的手”，會通過海量連接湧現出更文明的秩序來。可如今我們所看到的，卻是秩序的反面——混亂，尤其是“後新冠”時代的生物系統。 又比如KK說：當我們的技術能夠適應、學習和進化之後，我們就擁有了一個嶄新的生物文明。可是在當今以AI技術為代表的人機交互作用越來越深入地影響到人類本身時，有誰能確保人類的演進就一定是“進化”？當AI深度學習所依仗的歷史與現實素材充滿了謊言、謬誤與似是而非時，文明分明會成為一種徹頭徹尾的退化？ 雖然KK認為：“進化”的代價可能就是失控！但他卻依然樂觀地將失控比作“放牧”：雖不是完全說了算，但也不是全然失控。在他眼裡，那只是創造者“不得不”與他的創造物一起共享控制權而已。 不得不？這話聽起來就讓人不舒服。 當人們自願將權利“讓渡”給AI機器時，當被造物試圖從“創造者”手中獲取控制權時，也就意味着人類從此進入了與魔鬼共舞的節奏。 人們自以為有辦法掌控一切，但結果卻可能像是在森林裡玩火的無知的孩子，一不留神就點燃了整個森林！ 
去年年底前一個隆冬的早晨，正在國外讀書的烏克蘭美女奧爾加（Olga Loiek）一覺醒來便看到了一條神秘的Instagram消息，消息是用英文寫成的詢問：你會說普通話嗎？ 幾周前，她也收到過類似的消息，這些消息有些是來自她在YouTube 頻道上的粉絲（當時她擁有大約15000名訂閱者），消息中有不少都是為她流利的中文水平點讚的。 這讓奧爾加十分詫異，她在慕尼黑的公寓裡向媒體記者表示：她壓根兒就不會說中文！而且也僅僅是去年11月底才剛剛開通頻道，迄今發布的視頻不超過10個。 今年21歲的奧爾加在美國賓夕法尼亞大學讀認知神經科學，目前在德國實習。起初她並未在意，以為是惡作劇。但到了2024年1月底，她收到了這樣一條消息，這次不是稱讚，而是警告：有人可能正在冒充你！ 這條消息的後面附有小紅書上的一段視頻鏈接。視頻中的女子面露笑容，熱情洋溢地用嫻熟的中文盛讚中俄關係，時而抱怨對莫斯科的制裁，時而在商店頁面上銷售俄羅斯產品，而視頻中那女子的形象，分明就是奧爾加！ 這對於身為烏克蘭人、至今家人仍生活在烏克蘭的奧爾加來說實在是太過離譜。奧爾加憤怒了：“我覺得受到了侵犯，因為這些話我這輩子都不會說！” 奧爾加隨即向小紅書舉報了冒用賬號，後者對賬號進行了刪除。但不久她更加驚訝地發現，小紅書上竟出現了大約 35個使用她面孔並聲稱自己是俄羅斯人的賬號！而且到目前為止已有超過 4900 個視頻是使用她的臉製作的！ 
事實上，作為一種AI技術，深度偽造（Deepfake，簡稱“深偽”）在2016年便已出現。其特點就是利用基於圖形學的3D模型重建追蹤技術以及最新的AI深度學習技術，將已有的圖像、視頻以及聲音等資源，疊加至目標圖像、視頻與音頻之上，達到偽造的效果，並將其作為最終結果加以呈現。 利用這些技術，語音可以偽造，人臉可以偽造（換臉），甚至動態表情等也都可以偽造！ 最初，“深偽”技術的逼真度有限，並且主要用在電影拍攝中為了避免重拍而進行的角色替換，像換臉等。但近年來，隨着OpenAI的突破性進展，該技術正在被越來越多的人一而再、再而三地濫用，那些充斥在網絡上的大量虛假信息矇騙了許許多多心地善良的人。 特別是，當造假者有幸能夠獲得“一黨”“一國”當權者欣然默許甚至主動引領教唆的“加持”之下，他們挾最新的AI技術成果之風將會如虎添翼，會讓更大、更普遍的欺騙登峰造極！ 按說，在一個開放式的網絡與社交媒體環境中，當某人的“深偽”出現時，人們很容易通過原始人的比對和交叉驗證信息來揭穿造假，令謊言難以大行當道。然而，對於“厲害國”中所擁有的十多億互聯網用戶而言，國際上流行的YouTube、Instagram等平台與大陸內使用的微信、小紅書與抖音等很難有交集，這種社交媒體生態的相互隔絕，讓人們幾乎無法進行相互比較和交叉驗證。這在客觀上為謊言的製造者實施欺騙創造了極佳的條件。 在像微信通道、小紅書等國內著名社交媒體上，你會不時地發現：某享譽全球的國際頂級交響樂團在著名指揮的揮棒下，正在像模像樣地演奏着一首歌頌黨、歌唱社會主義的紅色樂曲；某位完全不懂英文、但長期占據主流媒體頭版的最高領導人，可以站在國際講壇上用純正流利的英語侃侃而談；還有的，就像奧爾加那樣，用嫻熟的中文吹捧俄羅斯人慶祝農曆新年；還有號稱已經移居中國8年之久的俄羅斯女性April Annie，大談中國的美好與強大；更有不知是來自何方的“神聖”的名叫Sophia Elena、Katyusha等外國美女，熱情洋溢地讚揚中俄夥伴關係，談論俄羅斯女性想要嫁給中國男人的夢想……她們語調平緩，講話中連輕微的呼吸聲都聽不到，沒有背景噪音，一切的一切都“完美的”讓人難以置信。 而這所有的東西，都是假的！都是人為炮製出來的！
對於那些由AI生成的虛假視頻，讓作為烏克蘭人的奧爾加倍感憤怒
其實，這些在“厲害國”根本不算什麼？比這更無恥的造假與欺騙比比皆是。更顛覆你認知的是：除了擁有龐大的地下經濟專門從事偽造、盜用個人數據和製作“深偽”品之外，政府官方如今已經撕下了所有偽裝，他們可以公開地、理直氣壯地說假話，耍流氓。造假內容之震撼、行為之拙劣、手段之低下，可謂是“前無古人、後無來者”。他們早已不管廣大的受眾者是否相信，反正我就是這麼說，你能把我怎麼樣？ 這同時還包括在國際舞台上的無恥表演，有人調侃：你撒謊的時候，我都替你緊張，我怕你騙不了人，也怕陪演的人難以繼續。 年紀大了，就喜歡看人演戲。精彩的地方，還可以給你鼓鼓掌，拆穿你？多沒意思呀！ 可調侃歸調侃，當全社會普遍的造假成為常態時，當整個國家、政府的信用蕩然無存時，失控終將發生。因為面對洪水般的“騙子”，恐怕就連造假的“始作俑者”也會失去對局面的控制。 這其中，AI有意無意間，毫無疑問將成為造假者的強大利器。 近一年來，人們越來越感受到，與AI的爆發式發展相比，無論是企業，還是國家以及世界，對這項技術的監管手段貧乏，進展緩慢。面對未來AI對人類構成的危險和威脅，以及如何緩解這些威脅並控制其泛濫，人們顯然尚未獲得足夠的了解、達成應有的共識。 尤其是對於那些毫無底線的壞人，他們總會存有惡意模仿他人的動機，也因此，失控難以避免！ 
伊利亞在X平台上的頭像已經改成了這個樣子，分明像是現代羅賓漢 2024年6月19日，OpenAI的原首席科學家伊利亞在X平台上終於宣告： 我們的新公司——安全超級智能（SSI）公司正式登場，這是世界上第一個SSI實驗室。它只有一個目標、一個產品，那就是：安全超級智能。 構建安全超級智能，是我們這個時代最重要的技術問題。我們將組建一支短小精悍的技術團隊，用顛覆性的突破來實現這一目標。 請加入我們！ 這標誌着圍繞AI技術與產品的前景，兩大陣營的對峙將日趨清晰。一批有理想、有情懷、有底線、有責任感的企業家與科學家正在站出來行動。 我們相信，會有越來越多的志同道合者加入其中。 但是，僅有這些是不夠的。 對於那些造假的源頭該如何加以擬制和打擊呢？ 如果說人類將“不得不”站出來付諸行動，以挽救這個快速墜落的世界，那麼政府呢？社會呢？每一個個體呢？該怎樣去面對一個正在“失控”的現在和未來？ 這值得深思。 （文中圖片均引自網絡）
|
