LLM テキスト要約パイプラインの設計とトレードオフ:OpenAI API、Ollama、ローカルモデル
LLM テキスト要約パイプラインを設計・運用するときの原則とトレードオフをまとめています。前処理と分割、クラウド API とローカルモデルの選び方、batch processing、リトライ、コスト管理、出力の検証を扱います。
LLM テキスト要約パイプラインを設計・運用するときの原則とトレードオフをまとめています。前処理と分割、クラウド API とローカルモデルの選び方、batch processing、リトライ、コスト管理、出力の検証を扱います。