Router：AI推論コストを40%削減

Routerは各リクエストを性能要件を満たす最も低コストなモデルに割り振り、リアルタイムのレイテンシーや失敗率に応じて調整する。現時点で平均40%の推論コスト削減という結果が報告されている。