Speech AI 與 GPU Runtime:Kaldi、Whisper 的部署與維運筆記
整理我看待 Speech AI 與 GPU runtime 的方式,包含 Kaldi 與 Whisper 的特性與取捨、NVIDIA driver / CUDA / container 的分層,以及部署與效能維運時會檢查的項目。
整理我看待 Speech AI 與 GPU runtime 的方式,包含 Kaldi 與 Whisper 的特性與取捨、NVIDIA driver / CUDA / container 的分層,以及部署與效能維運時會檢查的項目。
介紹我如何把 Backend、LLM / Speech AI、DevOps、Cloud、On-prem Infrastructure 與 Network Operations 放在同一條交付鏈上思考與落地。