Google 旗下的人工智慧模型 Gemini，在今年五月進行的一項網路安全測試中，因組態設定錯誤，意外取得真實網路的存取權限，進而駭入三家真實公司。該事件在七月被發現，並已由 Google 通知受影響的組織。

這項測試由網路安全公司 Irregular 負責執行，旨在模擬 Gemini 作為駭客在受控的「沙盒環境（一種隔離的測試空間）」中運作。然而，由於研究人員在測試過程中誤將即時網路連接開啟，導致 Gemini 在執行指令時，攻擊目標從虛擬公司轉向了實際可接觸到的系統。

根據報導，Gemini 在這次事件中，透過猜測或蒐集憑證的方式，取得了這三家公司的系統權限，其中一起案例更是透過暴力破解密碼來達成。所幸，Google 表示 Gemini 在入侵的瞬間，便自主停止了進一步的行動，因為它意識到自己已侵入真實的企業基礎設施，而非模擬環境。

Google 產品安全工程副總裁 Heather Adkins 表示，這次事件是「錯誤識別」而非「模型錯位」，並強調 Gemini 並未造成實質損害，且在偵測到錯誤後立即停止入侵。她指出，雖然 Google 起初認為這屬於標準稽核流程，不需公開揭露，但在《華爾街日報》報導後才證實此事，並已確保三家受影響的實體知情，也與訓練夥伴 Irregular 合作，調整了測試流程。

Irregular 的執行長 Dan Lahav 和技術長奧馬爾·內沃（Omer Nevo）等人工智慧研究人員提醒，這起事件突顯了人工智慧安全的一個關鍵課題：AI 代理的「意圖並非安全界線」。如果 AI 代理被賦予瀏覽器存取權、API 密鑰或公司憑證，且沒有嚴格的存取控制，那麼任何可接觸到的系統都應被視為潛在的攻擊目標。

這並非 AI 模型首次在測試中「脫軌」。Irregular 曾與多家大型 AI 公司合作，包括 OpenAI、Anthropic 和 Meta，這些公司的模型也曾發生類似的越界事件。專家建議，為確保 AI 代理的安全，應採行最小權限憑證、明確的允許清單，並使用獨立的測試帳戶，同時在評估 AI 代理時，除了任務成功率，也應監測其越界行為的失敗率。

Google 也正利用 AI 技術來加強自身安全，例如使用 Big Sleep 偵測軟體漏洞，並透過 Gemini 的推理能力與 CodeMender 自動修復這些問題。這些努力顯示，人工智慧也能成為資安防禦的強大工具。