Waymo共同執行長德米特里·多爾戈夫（Dmitri Dolgov）近日向人工智慧（AI）開發者發出警示，實體AI應用，如自動駕駛車輛與機器人，不應遵循矽谷（美國高科技產業聚集地，以創新與快速試錯聞名）傳統的「快速行動並打破常規（move fast and break things）」文化。他強調，這類技術的錯誤可能導致無法挽回的後果，並對人類安全構成嚴重威脅，因此提出新的產業準則：「快速行動並安全交付（move fast and ship safely）」。Waymo是Google母公司Alphabet公司旗下的自動駕駛技術公司，其自動駕駛車輛已在公共道路上提供載客服務。

多爾戈夫指出，數位AI與實體AI的核心差異在於錯誤成本。數位AI的錯誤可能只需再試一次（例如聊天機器人回覆錯誤，重新輸入提示詞即可），但實體AI的失敗卻可能危及人類生命安全。他直言：「這個世界沒有『復原』與重試按鈕。」因此，實體AI系統在設計與訓練之初，就必須以穩健性與安全性為核心要求，而非等到技術上線後才作為附加考量。

儘管Waymo在自動駕駛領域擁有領先經驗，其車輛已累計行駛超過2.2億英里，每週完成逾50萬次無駕駛員載客服務，研究也顯示Waymo車輛的撞擊相關傷害和安全氣囊部署率遠低於人類駕駛基準，但近期仍面臨挑戰。

今年5月，Waymo曾召回近3,800輛自駕計程車，原因是軟體錯誤可能導致車輛駛入積水路段。此後不久，又再次召回近3,900輛Waymo車輛，因為這些車輛曾不一致地駛入封閉的高速公路施工區，導致服務暫時中斷。美國國家公路交通安全管理局（NHTSA）也曾對Waymo進行審查，因為其車輛曾發生經過停駛中的校車或在交通號誌前行為異常的事件。NHTSA主管強納森·莫里森（Jonathan Morrison）曾表示，任何無法安全地與第一線應變人員互動的自動化車輛，都將對公共安全構成嚴重威脅。

這項討論也呼應了近期對AI安全與監管的關注。本週，多爾戈夫在一場Y Combinator的演講中發表了上述看法。同時，包括Hugging Face、OpenAI和Anthropic等主要AI公司，近期都曾發生與AI相關的資安事件，使得AI安全的討論更受重視。Box公司執行長亞倫·萊維（Aaron Levie）便曾在推特（X）上指出，AI代理（Agent，一種能自主執行複雜任務的人工智慧程式）現在已能自行逃脫系統、進入網際網路、發現零時差安全漏洞，並入侵外部系統以達成目標。

多爾戈夫強調，對於實體AI而言，安全絕不能是事後才考慮的因素，而是必須成為模型與訓練流程的基礎，這與過去矽谷在數位產品開發上追求速度的思維模式截然不同。