LLM 文字摘要流程的設計與取捨:OpenAI API、Ollama 與 Local Model
整理我設計與維運 LLM 文字摘要流程時的原則與取捨,包含前處理與切段、cloud API 與 local model 的選擇、batch processing、retry、成本控制與輸出驗證。
整理我設計與維運 LLM 文字摘要流程時的原則與取捨,包含前處理與切段、cloud API 與 local model 的選擇、batch processing、retry、成本控制與輸出驗證。
介紹我如何把 Backend、LLM / Speech AI、DevOps、Cloud、On-prem Infrastructure 與 Network Operations 放在同一條交付鏈上思考與落地。