
Leitfaden zu den Kosten für Prompt Caching: Cache Hits, Präfixe und tatsächliche API-Ausgaben
Eine praktische Methode, um Einsparungen durch Prompt Caching zu schätzen, ohne dabei Cache-Reads, -Writes, -Speicherung und Provider-Routing durcheinanderzubringen.




