該使用者在其 iPhone 15 Pro Max 上,透過 Google 的 AI Edge Gallery 應用程式安裝了 Gemma 4-E2B-it 模型。這個 2.54 GB 的模型完全在裝置上離線運行,無需連接網路。本機LLM的優點包含:可在沒有網路訊號的環境下使用,例如飛行途中;沒有頻率限制(rate limits),使用者能無限次查詢;且因資料處理全在裝置本地完成,大幅提升隱私保護。該使用者表示,對於清理電子郵件、解釋概念、解析程式碼或進行單位轉換等日常輕量級任務,本機AI都能輕鬆勝任。
即時資訊與算力限制
然而,本機AI模型的主要缺點之一是其「時間凍結」的特性。由於模型內容在下載時即已固定,無法像雲端AI模型(例如 Anthropic 的 Claude 和 Google 的 Gemini)那樣即時連網獲取最新資訊。這意味著,當問題涉及當前事件或需要即時網路查詢時,本機模型便無法提供準確的回應。