美國人工智慧（AI）公司 Anthropic 近日向美國國會議員提出一份 AI 安全法案草案，旨在呼籲政府應有權阻擋可能造成大規模死傷或經濟損失的危險 AI 模型發布。此舉顯示 AI 產業在快速發展的同時，對潛在風險的擔憂日益加劇。
根據《Deccan Chronicle》報導，Anthropic 提出的草案建議，若某個 AI 模型被認定可能立即造成超過 50 人死亡或受傷，或導致超過 10 億美元的損害，美國政府應能阻止其發布。這些潛在威脅包括 AI 模型製造或釋放生物武器、AI 失控，以及網路攻擊等。該公司發言人指出，這項提案是 Anthropic 自今年 6 月以來，持續向聯邦與州政府議員倡議的「先進 AI 框架」之具體體現。
該法案草案還要求 AI 製造商必須測試其模型並公開測試結果，同時允許獨立評估者定期審查模型。Anthropic 表示，這些是「明智的政策」，相信國會應採取行動。然而，《Deccan Chronicle》也提到，現任總統川普（Donald Trump）政府迄今已拒絕了加強監管的呼籲。
Anthropic 共同創辦人 Jack Clark 上週六在曼谷舉行的國際貨幣基金（IMF）與世界銀行年會上表示，快速進步的 AI 能力將加速各領域的變革。Clark 強調，需要國際合作來為 AI 制定「不尋常且嚴肅的規則」，並警告政策制定者採取行動的時間窗口正在縮小。他引用 Anthropic 內部 AI 模型預測，在特定條件下，AI 可能在 2030 年前將美國經濟產出提高近 50%，達到 44 兆美元。Clark 同時警示，利用 AI 進行科學研究也可能導致誤用，例如生物及網路武器等，需要最嚴格的人為監督與透明度。
AI 應用帶來營運變革與產業調整
除了對外部監管的呼籲，Anthropic 內部營運也正因 AI 的廣泛應用而發生轉變。根據《mint》與《CIOL》報導，Anthropic 的初級技術職位招聘比例大幅下降，從 27% 降至 9%；自 2025 年初以來，技術部門的初級員工佔比從 21% 滑落至 14%。這顯示許多基礎的程式編寫、偵錯與技術維護工作正逐步被自動化系統取代。至 2026 年 8 月，由員工指導的 AI 系統活躍工時已是人類員工的六倍。
