ビルダーのためのコスト管理

1 レッスン · 3 分

読了時間の目安です。

このモジュールが存在する理由

動作はするが必要以上に5倍のコストがかかるスキルは、成功ではなく設計上の欠陥です。このモジュールでは、ビルダーが実際にコントロールできるトークンコストのトレードオフ——プロンプトの長さ、モデル選択、few-shot例の数——組織レベルの予算ポリシーだけでは解決できないものを扱います。