LLM 文字摘要流程的設計與取捨:OpenAI API、Ollama 與 Local Model
整理我設計與維運 LLM 文字摘要流程時的原則與取捨,包含前處理與切段、cloud API 與 local model 的選擇、batch processing、retry、成本控制與輸出驗證。
從 Backend、AI 到 CI/CD 與基礎設施,整理我如何設計、交付與維運能長期運作的系統。
整理我設計與維運 LLM 文字摘要流程時的原則與取捨,包含前處理與切段、cloud API 與 local model 的選擇、batch processing、retry、成本控制與輸出驗證。
整理我規劃與維運 Proxmox VE、Proxmox Backup Server 與 GPU server 的思路,包含叢集、儲存、網路原則、備份策略,以及維運時踩過的坑。
整理我看待 Speech AI 與 GPU runtime 的方式,包含 Kaldi 與 Whisper 的特性與取捨、NVIDIA driver / CUDA / container 的分層,以及部署與效能維運時會檢查的項目。
以維運者的角度整理 Self-hosted GitLab、GitLab Runner 與 Harbor registry:為什麼自架、各元件怎麼串起來,以及長期維運中的升級、備份、金鑰與 log 限制問題。
介紹我如何把 Backend、LLM / Speech AI、DevOps、Cloud、On-prem Infrastructure 與 Network Operations 放在同一條交付鏈上思考與落地。
GitLab CI/CD 實務配置:Runner 部署與 config.toml、.gitlab-ci.yml 範例、Harbor 私有映像倉庫、多環境部署、快取與常見問題排除。
長期營運高流量網站與大量站台的 hosting 經驗,包含監控、更新、容量規劃與安全維護。