在企業級應用方面,AI代理程式的發展也日趨成熟。健康科技公司Health Universe已成功募得600萬美元種子資金,其平台運用AI代理程式提升醫療工作流程效率。該平台能安全整合醫療紀錄,並部署AI代理程式,大幅縮短臨床試驗的準備時間,例如杜克臨床研究中心(Duke Clinical Research Institute)便將原本需要9個月的流程縮短至7.5天。此外,Swa Technology公司今日推出企業級多代理生成式AI協調解決方案,協助企業比較並整合ChatGPT、Claude、Perplexity、Grok等多個AI模型的輸出,實現跨模型工作流程,例如使用Anthropic的Claude進行任務編排,再由OpenAI的ChatGPT負責研究。
然而,人工智慧在提升效率的同時也帶來安全挑戰。Anthropic公司的Claude Opus 4.6模型僅用兩週時間,便在Firefox瀏覽器中發現22個安全漏洞,其中14個為高嚴重性漏洞,並能實際撰寫部分漏洞的攻擊程式(exploits)。Mozilla公司已驗證並修補這些漏洞,並開始將AI輔助分析整合到其內部安全流程中。此事件證明AI能以超越人類的速度發現程式碼缺陷,但也暗示了惡意使用者可能利用相同能力加速攻擊發展。