Abacus.AI 將其模型定位為「開源權重」(open-weight),而非傳統的「開源」(open-source)。這表示企業可以下載模型權重、自行託管(self-host)並進行私有微調,確保敏感資料在企業防火牆內運行,大幅提升資料控制權與隱私性。企業能選擇在自己的雲端虛擬私有雲(VPC)中運行模型,或透過 Hugging Face 下載,甚至使用 Abacus.AI 提供的 RouteLLM API 進行部署。
Abacus.AI 執行長 Bindu Reddy 指出,雖然開源權重模型在快速追趕閉源模型,但在處理長時間運行的 AI 代理迴圈方面仍有所不足。Smaug 系列的目標正是解決此一痛點,為企業提供接近頂級閉源模型(如 Anthropic 及 OpenAI 產品)的代理效能,卻能以更低的成本大規模部署。根據 Abacus.AI 提供的資訊,這能使企業部署 AI 代理的成本比使用領先的閉源模型低 10 至 100 倍,有效緩解企業在擴大 AI 應用時面臨的 Token 成本壓力。