美國川普政府上週五對人工智慧（AI）新創公司 Anthropic 兩款最新 AI 模型 Fable 5 和 Mythos 5 發布出口管制指令，理由是發現其存在「越獄」（jailbreak）漏洞，恐危及國家安全。此舉導致 Anthropic 暫停全球所有用戶對這些模型的存取權。業界與學術界對此迅速做出反應，發布公開信呼籲政府撤銷限制，強調此舉恐阻礙美國在 AI 領域的領先地位。Anthropic 今日正與川普政府官員會面，商討解決方案。

根據《Yahoo Finance》報導，川普政府上週五發布出口管制指令，要求 Anthropic 停止向美國境內外所有外國人士提供其 Fable 5 及 Mythos 5 AI 模型。政府認為已找到一種「越獄」Fable 5 的方法，能讓模型執行不應進行的動作。Anthropic 上週才推出這兩款模型。然而，Anthropic 對此提出異議，聲稱政府提供的只是「潛在且狹窄的非普遍性越獄」證據，這種越獄僅在有限情況下有效，且涉及要求模型閱讀特定程式碼並修復軟體缺陷。Anthropic 更指出，此類漏洞在其他模型（如 OpenAI 的 GPT-5.5）中也存在，其風險程度相對簡單。

美國總統科學技術顧問委員會主席大衛·奧利弗·薩克斯（David Sacks）則認為，政府及「信任的合作夥伴」皆認為此越獄問題嚴重。他批評 Anthropic 未能如其執行長達里奧·阿莫代（Dario Amodei）屢次承諾的那樣，迅速修復安全問題，導致政府對其將安全置於首位的說法感到「困惑」。薩克斯表示，政府希望 Anthropic 能盡快修復安全問題，以便解除出口管制，讓 Fable 5 恢復全面發布。

面對政府的嚴格管制，《Nextgov.com》報導指出，包括 Adobe、輝達（NVIDIA）和 Zoom 等業界領袖，以及約翰·霍普金斯大學（Johns Hopkins）與馬里蘭大學巴爾的摩分校（University of Maryland, Baltimore College）等學術機構的代表，週一共同發布了一封公開信。信中呼籲美國商務部長霍華德·盧特尼克（Howard Lutnick）及美國國家網路總監肖恩·凱恩克洛斯（Sean Cairncross）撤銷對 Anthropic 模型的限制。聯名信指出，這項禁令「讓防禦者無法使用最好的模型，造成市場不確定性，並危及美國的 AI 領導地位，而這一切並沒有足夠的真實風險來證明其合理性」。他們強調 Fable 5 內建多重防護機制，能有效防止其用於網路攻擊。Luta Security 創辦人兼執行長凱蒂·穆蘇里斯（Katie Moussouris）也表示，解除禁令將有助於程式設計師和安全團隊修復程式碼。

這次事件反映了川普政府在推動 AI 產業發展同時，對國家安全的日益重視。《Healthcare IT News》報導，川普政府的最新 AI 行政命令旨在加強網路安全協調，並賦予政府在模型公開發布前評估並實施安全防護措施的能力。Clearwater 顧問副總裁戴夫·貝利（Dave Bailey）形容該行政命令是「一種防禦工具，旨在保護關鍵基礎設施，包括醫療保健，透過縮小強大模型存在與敵人可能利用之間的時間窗口」。網路安全和基礎設施安全域性局長（CISA CEO）珍·伊斯特利（Jen Easterly）也稱這是「良好的第一步」。

Anthropic 本身也積極參與 AI 網路安全合作。其主導的 Project Glasswing 專案已擴大至涵蓋 15 個國家、150 個組織，其中包括電力、水資源、醫療保健和通訊等關鍵部門，旨在協助各產業調整對網路安全核心假設的看法。該公司早前表示，若其中某些新合作夥伴的程式碼庫遭受重大攻擊，恐影響超過 1 億人，對全球和國家安全造成嚴重影響。

國際間對於 AI 安全的監管也在同步推進。經濟合作暨發展組織（OECD）的量子技術理事會已通過新的發展建議，涵蓋量子與 AI 的互通性。經濟合作暨發展組織早在 2019 年就發布了關於可信賴 AI 的建議，強調 AI 行動者應在 AI 系統生命週期的各階段，採行系統性的風險管理方法，並納入負責任的商業行為。美國國家標準及技術研究所（NIST）也已完成後量子密碼學標準，鼓勵各界盡早採用以降低未來風險。這些措施均顯示，在 AI 快速發展的時代，政府與國際組織正努力平衡創新與安全，尤其是在潛在的國家安全風險考量下。