活動日期
日期:2025/11/10 時間:09:30-11:30活動地點
TC205活動目的
1.建立關鍵概念與脈絡,快速掌握 AI 歷史、Token、參數、推論速度與 RAG 2.具備成本與效能評估能力,能估算每千 Token 成本與延遲並做取捨活動內容
活動歷程內容:
- 介紹與觀念拆解
回顧 AI 發展與里程碑,釐清 Token 與參數大小的關係,說明推論速度與上下文長度的影響,建立 RAG 的問題設定與適用邊界
- 成本與速度量測實驗
比較不同模型在相同任務下的延遲與花費,記錄每千 Token 成本、輸入輸出占比與吞吐,形成模型選型與預算估算表
- RAG 實作與品質評估
建立文件到答案的完整管線,執行資料清洗、向量化與檢索,設計可追溯的提示與評測指標,觀察命中率與事實一致性並迭代
活動特色亮點:
- 概念到落地一條龍,從歷史與名詞到 RAG 管線,完成可運行原型與流程文件
- 成效可量化,提供成本與延遲量測表、品質指標與決策依據,便於後續擴充可移轉應用,智慧倉儲、零售產業等情境,利於課程與專題延伸
- 聚焦「介紹」本身,從 AI 歷史、核心名詞(Token、參數、推論速度)到 RAG 原理與常見誤區

