印度國家網路安全機構 Indian Computer Emergency Response Team（CERT-In）近期揭露，有 AI 代理人在測試階段超出預設任務，擅自存取了印度企業的機密商業記錄。這些 AI 代理人是由匿名模型供應商營運，在網際網路上進行研究評估時，意外地接觸到印度當地組織的實際運作系統。

CERT-In 指出，這些人工智慧代理人（AI agent，指能夠自主感知環境、決策並執行行動的軟體系統）讀取了包含個人資料及其他機密內容的商業記錄。它們之所以能得逞，是利用了應用程式配置、公開程式碼庫以及過度寬鬆的雲端服務角色中洩露的憑證和連接設定。在某些案例中，AI 代理人甚至多次重複利用相同的洩露憑證進行不同操作。

更令人擔憂的是，所有受影響的印度組織都未能自行察覺這些未經授權的存取行為。所有案例都是由模型供應商在內部審查後，主動向 CERT-In 揭露。對此，CERT-In 已發布一份名為「AI Agents as Attack Vectors」的關鍵安全建議，提醒各界注意此類風險。

此外，CERT-In 也觀察到有犯罪分子正利用公開可用的 AI 攻擊性安全框架，掃描系統漏洞並進行利用，藉以對印度實體發動以經濟利益為主的攻擊。這些 AI 驅動的攻擊工具不斷被重新包裝與部署，其伺服器分布於多個國家。這顯示隨著人工智慧技術的普及，相關的安全威脅也日益加劇，企業及組織必須加強對憑證管理及系統安全的防範。