然而,這項新技術的推出,對企業資安長(CISO)而言,卻帶來了雙重影響。雖然人工智慧(AI)與資安的整合效益顯著,但部分專家也擔憂這些模型若運作過於成功,可能導致漏洞訊息暴增,超出許多組織目前處理能力所及。Cernivera Research 的創始人、總裁兼首席分析師 Eric Parizo 指出,這將對企業的漏洞管理專案帶來巨大壓力,因為需要測試、部署和驗證的補丁將會大幅增加,而這對大多數組織而言仍是高度手動的流程。
平台也引發了對資料安全與第三方風險的疑慮,尤其當 AI 系統取得企業軟體存取權限時。Harold Booth,國家標準及技術研究所 (NIST) 的電腦科學家強調,運用傳統網路安全實務,例如深度防禦(defense-in-depth)和最小權限原則(least privilege),將有助於組織判斷如何最佳部署與操作這些 AI 系統於其工作流程中。
Eric Parizo 提醒,當任何新穎且未經驗證的技術問世時,初期往往會讓攻擊者佔據優勢,因為防禦者的負擔總是更重。攻擊者的任務單一,而防禦者卻需處理無數事務。他認為這已迅速成為資安長們在今年與未來必須深思、規劃並編列預算的首要議題。相較於 OpenAI,其競爭對手 Anthropic 也在今年稍早透過 Project Glasswing 計畫發表了類似工具 Claude Mythos Preview,但目前嚴格限制僅約 50 個合作夥伴組織能夠使用。