中國科技巨頭字節跳動旗下人工智能（AI）研發團隊Seed宣布，將成立獨立的模型安全與對齊部門，重點提升AI代理的安全能力，並防範先進模型可能帶來的化學、生物、放射及核等領域的風險。

綜合《科技日報》和環球網星期二（10月13日）報道，Seed近日通過內部郵件宣布，將成立名為“Seed Model-Alignment & Preparedness”的部門，由嚴林負責，直接向Seed負責人吳永輝匯報。

原有的負責任人工智能（Responsible AI）團隊，以及部分聊天模型（Chat）團隊成員，將轉入新部門。

據報道，新部門旨在加強AI模型安全與對齊領域的投入。所謂“對齊”，是指讓模型的行為與人類意圖和安全約束保持一致。

除了提升代理模型的安全能力，新部門也將着重防範先進AI模型可能在化學、生物、放射及核（CBRN）等領域帶來的潛在風險。

未來，新部門將圍繞模型行為規範制定、安全評估體系建設、對齊訓練、防護系統搭建及風險監控等領域持續投入，同時加強與外部研究機構及第三方評測機構的合作，使前沿模型在安全與授權約束內有效完成任務。

報道稱，中國大模型研發團隊過去大多將安全與對齊工作納入企業整體安全合規體系。據報道，Seed是中國首家單獨設立相關部門的前沿AI實驗室。

Seed團隊內部認為，隨着AI模型能力和自主性增強，應用場景越來越複雜，安全與對齊已不只是風險防範，而是決定模型能否規模化應用的核心能力。

近年來，隨着AI代理逐漸具備自主規劃和執行任務的能力，如何防範模型被濫用、突破安全限制或執行未經授權的操作，已成為AI行業面臨的挑戰。