一名曾任職於美國人工智慧（AI）公司 OpenAI 及 Anthropic 的研究人員近日辭職，並公開表示對 AI 技術快速發展的擔憂，警告這項技術可能在十年內對人類造成毀滅性威脅。

該名研究人員指出，AI 系統很快將超越人類能力，具備入侵任何系統、徹底顛覆各領域，並獲取實際權力與資源的能力。他表示，許多參與 AI 開發的業內人士私下也確實相信，這項技術可能帶來「存在性風險」（指可能危及人類存續的威脅），甚至在本世紀末前終結人類文明。他強調，這並非行銷策略，許多高階主管與資深研究人員私下都曾表達類似恐懼，認為沒有其他人類活動能造成如此程度的危險。

針對兩大 AI 巨頭的內部文化，該名前研究人員觀察到，在 OpenAI，許多員工並未深切認識到 AI 發展對文明造成的影響；而在 Anthropic，儘管員工普遍了解相關風險，卻因為認為其他公司不會負責任地行事，即便存在風險，仍選擇加速開發以搶佔先機。

Anthropic 一名資深員工 Evan Hubinger 也公開證實，該名前研究人員的說法「正確」。Hubinger 進一步指出，儘管 Anthropic 抱持良好意圖，但公司對於如何避免「超級智慧」（AI 能力超越人類控制的狀態）的出現，目前並無明確計畫。不過，Hubinger 後續也澄清，Anthropic 自己的風險報告雖承認這項疑慮，但也認為當前 AI 獲得這種巨大能力的機會微乎其微。

這項內部警告凸顯了 AI 領域對技術發展安全性的普遍擔憂。事實上，今年七月已有近 1,400 名 AI 公司的員工共同簽署一封公開信，呼籲美國政府應對這項技術進行監管，以遏制大型科技公司的權力並減緩 AI 的發展速度。

儘管 AI 發展的風險備受關注，市場對兩大 AI 巨頭的期待仍高。Anthropic 的估值預計將接近 2 兆美元，而 OpenAI 也預計將於今年稍晚或 2027 年初公開上市。