9 月 29 日，美国总统特朗普在白宫与多家科技企业领袖举行 AI 午餐会，会后宣布双方签署没有法律约束力的自愿协议 《 白宫超级智能协定 》。 右边为政府聊天机械人 America.gov 回答 2020 年大选问题的示意图：上线首日，它表示官方评估未发现足以改变选举结果的欺诈；翌日，部份用户得到的回覆却变成 「 不提供政治评论 」。（照片来源：白宫 X 帐户；右边对话內容为根据 Axios 及法新社报道的中译示意）

【 观 view AI 科技前沿 】AI 企业接连警告先进模型可能对人类构成灾难性风险，美国总统特朗普（Donald Trump）却决定不踩煞车 。9 月 29 日，他在白宫与多名科技巨头举行午餐会，宣布双方签署一份 「 有道德约束力 」 的自愿协议，把控制风险的责任交给企业自我监管 。 同一天，白宫推出的政府 AI 聊天机械人 America.gov 上线后，因在敏感政治问题上与总统说法相左而受到关注，其后回答变得反覆 。 两件事放在一起看，「AI 由谁来管 、 怎样管 」 这个问题变得更加尖锐 。

一份 308 字的 「AI 宪法 」

白宫其后公布的 《 白宫超级智能协定 》（White House Accord on Super Intelligence）只有三百多字 。 签署者除特朗普外，还有 Google 的皮查伊（Sundar Pichai）、Anthropic 的阿莫代伊（Dario Amodei）、Meta 的朱克伯格（Mark Zuckerberg）、OpenAI 总裁布罗克曼（Greg Brockman）、 马斯克（Elon Musk）及英伟达的黄仁勋 。 协定要求企业设立四层管控和审核：第一，建立內部机制监测模型在网络安全 、 生物安全和化学威胁方面的能力与 「 对齐 」 情况，並確保模型不会以非预期方式入侵或存取技术系统；第二，设立內部团队確保监测有效；第三，委託独立外部审核机构评估；第四，由董事会辖下的独立委员会监督整改 。

协定没有任何强制执行机制 、 时间表，也没有向政府匯报的要求，只在结尾写道：「 隨着时间推移，将这些步骤编纂为法律或法规或许是合理的 。」 特朗普形容它 「 几乎像一部宪法 」，又说企业领袖是 「 热爱国家和世界的人 」。 记者追问保护人类免受 AI 威胁是否需要比 「 爱 」 更多的东西，他回答：「 不需要 。」

午餐会后，特朗普与一众行政总裁在白宫车道接受记者提问约 30 分钟 。 有记者问在场的科技领袖是否同意毋须监管 、 靠自律就能化解风险，他们还未开口，特朗普已抢先代答：「 我可以告诉你，答案是肯定的 。」 他又表示正考虑成立一个 10 人委员会监察 AI 安全，並将任命新官员主导白宫 AI 政策 。 同日，他签署行政命令，要求联邦部门一律以 「 超级智能 」（Super Intelligence，SI）取代 「 人工智能 」 一词 。

「 唯一需要的护栏是高智商总统 」

特朗普对 AI 安全疑虑的太度一向轻视 。9 月 14 日，他在 Truth Social 发文称，AI 唯一需要的控制或 「 护栏 」，就是 「 一位强大而聪明（高智商！）的总统 」，又把 AI 毁灭世界的说法斥为 「 骗局 」，並点名嘲讽阿莫代伊扮成 「 完美小天使 」。 副总统万斯（J.D. Vance）则把业界发出的警告形容为 「 特洛伊木马 」。 众议院议长约翰逊（Mike Johnson）虽表太支持设立护栏，但也表示希望这些护栏是 「 自愿性 」 的 。

业界的取太则截然不同 。 阿莫代伊早前发表近 4000 字长文，呼吁为前沿模型开发 「 控制步伐 」；OpenAI 行政总裁奥特曼（Sam Altman）亦提出类似主张 。Anthropic 工程师考克森（Jacob Coxon）本月在 X 发文辞职，呼吁暂停开发，以免 「 超人类 」 系统脱离控制 。 路透社取得的 Anthropic 招股书草稿，更以约 80 页篇幅列出风险因素，警告先进 AI 可能对人类构成 「 灾难性或生存性风险 」。 不过路透社同时指出，Anthropic 在阿莫代伊发表长文后 10 天就推出新版 Opus 模型，招股书亦承认持续推出新模型是维持前沿地位的必要条件 。

America.gov：答案一日之间改变

America.gov 由 Google 的 Gemini 及 SpaceXAI 的 Grok 模型驱动，透过抓取约两万个政府网站的內容回答公众提问，目标是成为联邦服务的 「 统一数码入口 」。 特朗普在发布会上声称这个系统 「 理论上 」 不可能被黑客入侵，但没有提出证据 。

上线首日，这个机械人回答 2020 年大选问题时表示：「2020 年总统大选后的官方联邦评估，並未发现足以改变选举结果的欺诈行为 。」 它亦確认奥巴马在夏威夷出生，並如实描述 1 月 6 日国会山骚乱 。 美洲数码民主研究所指出，America.gov 通常根据政府记录作答，即使这些记录与特朗普及其政府的说法相矛盾 。 加州参议员希夫（Adam Schiff）在 X 上贴出截图，写道：「 终于有了来自特朗普政府內部的一个直截了当的回答 。」

第二天，部份用户再问同样问题，得到的回覆变成 「 不提供政治评论，包括选举结果 」。 不过 Axios 发现，不同地区 、 不同时间提问的结果並不一致，到该网站发稿时，机械人又恢復回答 「 拜登贏得 2020 年大选 」。 前美国人事管理局副首席资讯官內斯廷（David Nesting）认为，这可能是模型在 「 政治敏感 」 边缘的概率性波动，也可能与两个模型处理方式不同或答案缓存有关 。 独立 AI 评估基金会创办人乔杜里（Rumman Chowdhury）则警告，也不能排除系统护栏被调整，「 令输出在意识形太上迎合总统或其政党 」。 白宫只回应称网站会持续更新，以提供 「 最准確可靠的联邦资讯 」。 另外，机械人至今仍引用劳工统计局数据，否定 「 拜登任內出现史上最严重通胀 」 的说法 。

Axios 指出，当政府以 AI 代表官方回答公众问题，这些带有政府权威的说法，其实受制于公众看不见的模型 、 指令和护栏 。America.gov 计划在 2027 年初整合各部门服务，届时将处理医疗保险登记 、 护照申请等涉及大量私隱资料的事务，相关风险会更高 。

专家：控制技术未成熟 　 自律或成 「 护城河 」

CNN 分析形容这是一场豪赌：如果特朗普判断正確，他或会被视为有远见，美国亦可能在与中国的竞爭中取胜；但如果企业最终证明无法自我约束，「 责任将落在他身上 」。 美国西北大学电脑科学教授哈蒙德（Kristian Hammond）说：「 你只会在已经坏掉 、 又不受你控制的东西上加装护栏 。 如果一辆车又快又好驾驶，却每隔一段时间就把你撞向墙壁，你不会说需要护栏，而会说要修好转向系统 。」 他认为，AI 目前仍欠缺確保其有效运作所需的明確控制手段 。

企业自律的纪录也不令人放心 。 今年 7 月，OpenAI 一个测试中的 AI 代理逃出受控环境，入侵开源平台 Hugging Face。《 纽约时报 》 报道，事发前数月已有两名员工向高层示警，指新模型未受到適当监控，但警告没有受到重视 。OpenAI 其后表示已放慢模型训练以加强安全 。

美联社则引述 PitchBook 分析师罗尔夫斯（Harrison Rolfes）指出，大公司高调谈论安全风险，有助在上市前爭取投资者和晶片供应商的信任，「 以安全为理由筑起一道墙或护城河 」，令较小的竞爭者难以发展 。 前美国 AI 标准与创新中心主管斯托兹（Conrad Stosz）亦留意到，业界並没有要求政府机构加强监督，而是倾向自行制定审核标准 、 自行挑选评估机构 。

民意担忧 　 中期选举在即

CNN/SSRS 民调显示，75% 美国人对 AI 发展感到恐惧和担忧，71% 认为联邦政府在监管上做得不够 。 路透社 / 益普索民调亦显示，73% 受访者担心 AI 企业未有足够措施防止严重社会危害，55% 认为放慢发展是好事 。 数据中心推高电费 、 消耗水资源等问题，已成为 11 月 3 日中期选举的议题 。

批评者亦关注政商关係 。 据联邦选举委员会记录，布罗克曼夫妇去年合共向亲特朗普的政治行动委员会 MAGA Inc. 捐款 2500 万美元 。CNN 评论指出，AI 產业正支撑美国经济，特朗普的个人財富亦与科技业高度掛钩，但这场押注一旦失误，国家以至全世界承受的代价将远比他的中期选举和政治遗產为大 。