Fireworks.ai 營運一個雲端平台,讓開發者能針對開源 AI 模型進行微調(fine-tune),也就是針對特定任務調整模型參數,使其表現更佳。該平台以按使用量計費的模式,提供託管式圖形處理器(GPU)叢集存取。為簡化複雜的訓練流程,Fireworks.ai 更推出一款 AI 代理(Agent),能自動化 AI 模型訓練工作流程。開發者只需描述任務需求並上傳訓練資料集,該 AI 代理便能自動處理技術細節,包括尋找可最大化模型輸出品質的超參數(hyperparameters,即影響機器學習演算法學習過程的參數)組合,並在需要時擴充訓練資料集。該平台亦支援四種平行化技術(parallelization techniques,將複雜計算拆分,由多個處理器同時執行),每種皆針對不同模型類型進行優化。
Fireworks.ai 每日處理超過 40 兆個 Token(模型處理資訊的基本單位),顯示市場對高效能 AI 基礎設施的需求日益高漲。這股對 AI 基礎設施的巨額投資熱潮,不僅推動了全球 AI 技術的進步,也預示著對先進半導體元件與高效能運算解決方案的龐大需求,間接對身處全球科技供應鏈核心的台灣相關產業帶來深遠影響。