沈醫課堂感悟:AI浪潮下高校教育的認知斷層 我和瀋陽醫學院的老師們相識多年,回國之後就一直保持合作。他們院長還是我們專委會的常委,這次才有機會過來講課。單純為一點課酬,我肯定不會專程跑一趟。願意過來,主要是想和師生面對面交流,把AI這十五年走過的路講一講,從跌入低谷到再度興起,聊聊身處技術變革之中,個體如何避免被淘汰,如何尋找重生的路徑,最後落點回到人性。 一堂課講完,留下來和在座老師們交流,心裡生出很強烈的割裂感。台下不少是醫學院承擔計算機基礎課的老師,教了一輩子計算機。可聊過才知道,他們對當下生成式AI最基礎的概念,基本沒有建立認知。反觀前段時間,我去口腔醫院、耳鼻喉科講課,那些臨床大夫不是計算機科班出身,但他們對AI的興趣、願意動手嘗試的勁頭,反倒強得多。這件事,讓我一直放不下,心裡滿是困惑。 行業里不少人判斷,AI產業化的窗口期就在眼前,甚至篤定2027到2035年,大範圍AI智能化落地一定能夠實現。可如果高校里教計算機基礎的老師,對底層原理都不甚了解,整個高等教育體系,又該如何接住這場技術變革? 順着課堂講授的思路,我把這一組核心概念逐一拆開,把彼此內在的邏輯梳理清楚,一併講明白生成式大模型為什麼天生存在兩個短板:缺少持久記憶,容易產生幻覺。 先說生成式大模型。 很多人誤以為大模型就是一座巨大的知識庫,把全世界的知識都存儲在裡面。這其實是最大的誤區。生成式大模型本質上就是一個概率預測器。訓練階段,它學習海量文本當中詞語之間的統計關聯;等到實際運行推理的時候,它不是去調取一條預先存好的標準答案,而是順着已經生成出來的文字,去預判下一個出現概率最高的單元,一段一段接龍,拼出完整的文字。 模型權重記錄的,只是文字和文字之間的統計規律,並不是像數據庫那樣,把一條條事實固化保存。這一點,和早年傳統AI完全不一樣。老一代符號AI、專家系統,有獨立的存儲器,事實寫進去,讀出來是什麼就是什麼,幾乎不會編造內容。生成式大模型本身沒有原生的永久存儲單元,這就是所有問題的根源。 再講Token,詞元。 大模型並不直接認識漢字、詞語或是完整句子。所有輸入、輸出的文字,都會被切分成最小的處理單元,也就是Token。一個Token可能是單個漢字,可能是半個詞語,也可能只是一個標點符號。模型全部的概率計算,都是在Token這個層面完成。整套信息鏈路里,所有數據流轉,全部以Token流的方式傳遞。 簡單來講,Token就是AI世界裡信息最小的載體。不管是人的提問,還是外部調取回來的資料,都必須轉換成Token,模型才能夠處理。 接下來是上下文窗口,IMIC。 IMIC就是大模型眼前這張臨時草稿紙。大模型能夠實時讀到的全部信息,只能放在這張草稿紙上。用戶提出的問題、過往對話片段、外部檢索拿到的資料、工具返回的結果,全都要轉成Token,填進IMIC。窗口有固定的Token容量上限,一旦空間占滿,最早寫進去的內容就會被截斷丟掉。 這就是大模型“沒有記憶”最直接的原因。它不存在一塊可以永久存放信息的內存。所有信息只留在這張臨時草稿紙上,草稿寫滿、舊內容被沖刷掉,信息也就消失了。它只有有限的短時工作信息,沒有長時記憶。 當草稿紙上現有的信息不足以回答問題,模型又必須繼續生成通順的文字,它就會按照統計規律,自動補全看起來合理的內容,這就是幻覺。幻覺不是程序漏洞,是生成式架構自帶的副作用,就像藥物與生俱來的不良反應。學醫的人很容易理解:想要用好一項技術,先要讀懂它的副作用。 只依靠大模型和上下文窗口,能力遠遠不夠。這就引出Tool,工具。 大模型本身不會聯網檢索,做不了複雜數學運算,也讀不了外部文檔。Tool就是外部能力接口,負責執行單一類型任務,像文獻檢索、數據計算、讀取文件都屬於Tool。 當智能體判斷上下文裡面信息不足,就下發指令調用Tool;Tool完成任務,把結果送回來,再轉為Token送入上下文窗口,大模型才能看到這份真實素材,依靠外部事實減少編造,降低幻覺發生的概率。Tool只是獨立的執行單元,本身沒有任務規劃、自主推理的能力。 單個工具比較零散,我們把整套流程打包封裝,就形成Skill,技能。 Skill是一套封裝完成的標準化業務流程。裡面包含提示詞模板、多個Tool的調用邏輯,還有事實校驗規則,明確規定什麼場景調用哪一類工具,拿到結果之後如何核驗,哪些情況不允許模型自由發揮。Tool好比一件件單獨的器械,Skill是一套完整、規範的操作流程。 Skill的價值,就是約束大模型不受控的概率生成,加入覆核環節,壓低幻覺出現的概率。 把大模型、上下文窗口、外部記憶系統、Skill調度模塊、安全護欄整合在一起,就構成了Agent智能體。 智能體不等於大模型。大模型只是智能體內部負責思考推理的大腦。智能體本身是一套調度管控框架。接到一項任務之後,智能體先拆解任務,判斷現有信息夠不夠;信息不夠,就去檢索外部記憶,按需啟用對應的Skill,Skill再調用Tool獲取外部信息;拿到結果之後循環校驗,信息不足就再次檢索或者調用工具,反覆推進,直到任務完成。 這裡單獨說外部記憶系統。它獨立在大模型之外,一般採用向量數據庫,相當於永久的檔案庫房。歷史對話、文獻資料長期保存在這裡。但大模型不能直接讀取向量數據。有需要的時候,由智能體檢索相關檔案,提取內容轉成Token送入上下文窗口。外部記憶解決長期留存的問題,彌補上下文窗口容量有限的短板,但沒法徹底消除幻覺,只能提供可信的參考素材。 整套智能體體系落地使用,最終的運行模式就是人機協同。 智能體擅長信息檢索、文本整理、多步驟任務執行,但是幻覺沒辦法百分之百根除,AI不具備人的價值判斷、真實場景感知和風險權衡能力。人機協同的核心,就是分工互補:AI負責信息處理、生成初稿;人負責設定目標、審核風險,做出最終決策。AI承擔執行層面的工作,人守住風險底線。 各組件之間的互動邏輯,以及AGI、智能體、Skill之間的關係 講完單個概念,更重要的是看懂它們如何聯動運轉。 整條信息鏈路的起點永遠是Token。所有信息流轉,全部以Token作為載體。外部記憶檢索出來的材料、Tool返回的數據、Skill裡面預設的規則,都必須翻譯成Token,送入IMIC。IMIC是整套系統唯一的信息交匯舞台。沒有放進IMIC里的內容,大模型看不見。不管外部記憶庫存了多少檔案,只要檢索結果沒有轉成Token送入IMIC,這個大腦就感知不到。這是最底層的一條規則。 智能體作為總調度,它的工作是一個完整閉環:接收任務 → 檢索外部記憶,調取相關歷史資料 → 把資料轉為Token送入IMIC → 大模型依靠IMIC內全部信息判斷任務難度,規劃執行步驟 → 判斷是否啟用Skill;如果需要,由Skill按需調用Tool → Tool執行完畢,返回結果,結果再次轉為Token送入IMIC → 大模型繼續推理,校驗結果;信息不足就再次發起檢索或者調用工具,循環往復,直到任務完成。 我用醫院體系來類比AGI、智能體、Skill之間的關係,醫學院的老師們一聽就能明白。 AGI,通用人工智能,就相當於醫院裡的全科醫生。全科醫生知識面廣,能夠接診各類問題,初步評估病情,判斷患者需要轉診到哪個專科。但全科醫生並不精通每一類複雜專科手術與專項診療,遇到棘手的病症,要交給專科處理。 Skill,就是一個個專科醫生。心內科、骨科、耳鼻喉、口腔,每一個專科只精通一類固定業務,有標準化診療流程、專用器械,專門解決特定問題。 Agent智能體,則相當於醫院整體的診療管理體系。這套體系負責分診、調度,接收患者訴求,判斷什麼時候調用全科能力(大模型)做初步判斷,什麼時候轉交給專科Skill去處理。 IMIC在這套體系裡,相當於接診醫生眼前的病歷頁。檔案室(外部記憶系統)資料再多,專科大夫(Skill)檢查得到的結果再關鍵,都必須摘抄到這張病歷紙上,接診的全科醫生(大模型)才能讀到。病歷紙篇幅有限,寫滿了,前面記錄的內容就要捨棄,這就是IMIC的局限。 放到我們的智能體架構里看:AGI是能力願景,是那個全科式的通用推理能力;Skill是專項能力包,用來處理特定場景,彌補通用能力在專業領域的不足;Agent智能體是調度框架,負責把通用能力和各項專項Skill組織起來,配合外部記憶、工具協同完成複雜任務。 技術本身終究只是工具。無論智能體架構怎麼完善,都替代不了人的判斷。技術浪潮來來去去,到最後,所有技術的落腳點,終究還是看見人性。
|