美國一家人工智慧（AI）巨頭曾於今年二月警告，其技術若落入權勢政府手中，恐侵蝕個人自由，但這項擔憂似乎未被美國政府採納。美國五角大廈（Pentagon）已於五月一日宣布，與 Google、微軟、AWS、輝達（Nvidia）、OpenAI、Reflection AI, Inc. 及 SpaceX 等多家科技公司達成新的合作協議，旨在「增強複雜作戰環境中的戰士決策能力」。據悉，所有簽約公司皆接受了五角大廈「不設防護措施」的要求。

早在今年一月，美國戰爭部（Department of War）發布備忘錄，表明僅會與同意「任何合法用途」且願意移除對大規模監控及自主殺手機器人武器開發限制的 AI 公司簽約。Anthropic 公司雖支持 AI 用於合法外國情報與反情報任務，並認為這是「保衛美國及其他民主國家、擊敗專制對手」的必要工具，但也警示在「少數情況下」，美國政府可能濫用該技術進行大規模國內監控，這與民主價值觀相悖。Anthropic 尤其擔憂在缺乏適當防護措施下，全自動 AI 武器的可靠性問題。

Anthropic 強調，人工智慧驅動的大規模監控對基本自由構成嚴峻且新型的風險。即使現行法律允許政府在未經許可下，從公開來源購買美國公民的活動、網路瀏覽與社交紀錄，美國情報體系（Intelligence Community）也承認這引發了隱私疑慮，並在國會引起兩黨反對。Anthropic 擔憂強大的人工智慧能將這些零散、看似無害的資料，自動且大規模地組合成任何個人的完整生活樣貌。

由於 Anthropic 拒絕配合，五角大廈在今年三月將其列入「供應鏈風險」黑名單，通常此類標籤僅用於威脅美國國家安全的敵對外國公司。五角大廈轉而選擇與其他 AI 公司合作。值得注意的是，科技界對 AI 發展的倫理與走向已產生分歧，例如馬斯克（Elon Musk）曾對 OpenAI 提起訴訟，認為該公司執行長奧特曼（Sam Altman）與總裁格雷格·布羅克曼（Greg Brockman）不應經營一家營利性公司，因為他相信 AI 對人類構成生存威脅。記者郝珂靈（Karen Hao）也曾指出，「OpenAI 變成了它曾聲稱不會成為的一切」，從最初的非營利組織轉向積極商業化，並在未充分解決缺陷的情況下，加速技術部署，引發業界的「逐底競爭」。