嵌入式系統Edge AI × GenAI整合設計

嵌入式系統整合工程師養成系列

【嵌入式系統Edge AI × GenAI整合設計】

導入AI智慧決策，讓嵌入式系統能理解狀況並做出行為回應

隨著嵌入式系統逐步走向智慧化，工程挑戰已不僅止於即時控制與系統建置，而是如何讓裝置具備理解環境、做出判斷並驅動行為的能力。本課程聚焦於培養在嵌入式系統中導入TinyML（微型機器學習）與GenAI（生成式AI）的整合設計思維，並深入探討模型量化(Quantization)、RAG (檢索增強生成)等關鍵技術，確保系統不僅「聰明」，更具備在資源受限環境下穩定運作的工程可行性。

模組內容分為嵌入式 Linux 與 STM32 MCU 兩條實務路線，分別探討SLM(小語言模型)本地推論與MCU雲端協作的設計重點。透過多模態感知(Multimodal)、提示工程(Prompt Engineering)與本地/雲端混合決策架構，協助學員建立將嵌入式系統升級為具備智慧判斷與精確控制能力的整體工程視角。

課程內容著重程式設計實務演練，除了講授設計理論及語法，將於課堂上現場撰寫程式範例，並直接於教學板上執行測試示範，期能培養學員完整系統開發與符合業界需求之能力。

~本課程歡迎企業包班，請來電洽詢課程負責人，02-2370-1111#309 徐小姐~

※報名時可加購開發版

• 適合對象：適合具備嵌入式系統開發經驗，欲導入 AI 系統整合的工程師與相關技術人員。
• 培訓證書：各單元出席率達80%，將由工業技術研究院產業學院核發受訓證明。
• 上課地點：工研院產業學院 台北學習中心。實際地點依上課通知為準!
• 洽詢專線：(02)2370-1111分機604，方小姐。

單元一：STM32 MCU Edge AI × GenAI系統整合設計

學員將學會如何將TinyML(微型機器學習)模型部署至STM32端進行硬即時(Hard Real-time)推論，並利用ThreadX的網路堆疊與TLS安全加密協定，安全地將複雜語意邏輯卸載至雲端GenAI。課程最終目標為實現『本地毫秒級反應+雲端智慧決策』的混合架構，並掌握MCU連接LLM時的API串接與Token處理技巧。

• 先備知識：建議先修「嵌入式ARM Cortex-M7系統韌體與RTOS開發」模組，須熟悉C & C++ 語言、數位邏輯。

單元二：嵌入式Linux × GenAI系統整合設計

本課程旨在協助工程師掌握GenAI SLM(小語言模型)與量化技術(Quantization)於嵌入式Linux邊緣設備上的實務應用。學員將學會如何在資源受限環境中部署本地端GenAI，利用RAG(檢索增強生成)與Prompt Engineering優化模型輸出，並實現具備多模態(Multimodal)視覺理解與硬體控制能力的智慧型邊緣設備，達成「看得懂、聽得懂、能控制」的系統整合目標。

• 先備知識：建議先修「嵌入式物聯網Linux系統開發工程師」模組，須熟悉嵌入式程式開發。

※ 因不可預測之突發因素，主辦單位得保留課程之變更權利。