LLM テキスト要約パイプラインの設計とトレードオフ:OpenAI API、Ollama、ローカルモデル
LLM テキスト要約パイプラインを設計・運用するときの原則とトレードオフをまとめています。前処理と分割、クラウド API とローカルモデルの選び方、batch processing、リトライ、コスト管理、出力の検証を扱います。
LLM テキスト要約パイプラインを設計・運用するときの原則とトレードオフをまとめています。前処理と分割、クラウド API とローカルモデルの選び方、batch processing、リトライ、コスト管理、出力の検証を扱います。
Backend、LLM / Speech AI、DevOps、Cloud、On-prem Infrastructure、Network Operations をひとつの delivery chain として扱う考え方。