然而,AI 產業光鮮亮麗的創新背後,是日益加劇的高壓工作文化。儘管 AI 曾被承諾能帶來更短的工作週,但矽谷的工程師們卻面臨著長時間工時,在產品發布前的「衝刺」階段,每週工時甚至可超過 90 小時。一位前 OpenAI 技術人員透露,公司頻繁召開「危機會議」、週末加班,以及「極度殘酷」的績效考核。Meta 公司更將許多員工強制調往被視為「任務關鍵」的 AI 相關團隊,員工幾乎沒有選擇餘地。這種激烈的「AI 軍備競賽」不僅導致人才爭奪戰白熱化,連 Meta 執行長祖克柏(Mark Zuckerberg)都曾親自接觸 AI 研究人員。此外,為加速客戶導入 AI 系統,Palantir 科技等公司大量部署工程師駐點客戶端,Anthropic 也與黑石(Blackstone)、高盛(Goldman Sachs)合資 15 億美元,將工程師派駐金融客戶,進一步增加了前線工程師的工作負荷。
與此同時,對 AI 發展失控的擔憂也日益升高。美國參議員伯尼·桑德斯(Bernie Sanders)已公開呼籲 Meta、OpenAI 和 Anthropic 等公司停止 AI 開發,並警告若業界不放緩腳步,美國參議院將會實施監管。桑德斯指出,AI 模型的能力已達到「關鍵風險門檻」,可能被用於開發生物武器,且近期發生的多起駭客入侵事件,證明企業已失去對其技術的控制。他強調,這些公司正投入數百億美元競逐一項無人能完全理解、預測或控制的技術。超過 1,300 名科學家和開發者也共同發表公開信,呼籲美國政府協調國際努力,減緩前沿模型的開發速度,以便監管機構能建立必要的安全防護措施。