トークン– tag –

プロンプトを短く書いているのに、AIの利用料だけが増えていく。その原因は文章の長さではなく、同じ前置きを毎回まっさらな状態で送り直していることにあります。読み取り料金が10分の1以下になるプロンプトキャッシュの仕組みと、それを一瞬で無効にしてしまう操作を整理しました。