Codex「28日間の改善」15〜16日目はフルリセットのあと“キャッシュ切れ”を解消——古い会話に戻っても割高にならず、APIには12時間キャッシュ

コラム

OpenAIでCodexとChatGPTを率いるティボー・ソティオ(Thibault Sottiaux)氏は、「28日間、毎日ひとつ明確な改善を出す。出せない日はフルリセット」という約束を公開で続けています。前回の記事では、15日目を公式番組「COOKED」の紹介としてお伝えしました。ところがその日の午後、ソティオ氏は「やっぱりまだ仕込み中……ということでリセット」と投稿し、15日目は一転してフルリセットになりました。翌日未明には、週末に一部の利用者で利用枠の減りが速すぎた問題について、原因と補償が発表されています。そして16日目は、AIが会話の内容を“覚えておく”仕組み(キャッシュ)の改善でした。3つの話題をまとめて、ビジネスで使う人向けに整理します。

宣言そのものは「毎日改善、できない日はフルリセット」宣言の解説記事、直前の14〜15日目は過去のメッセージの編集と番組「COOKED」を紹介した記事で取り上げています。

15日目は「やっぱりまだ仕込み中」——一転してフルリセットに

15日目は日本時間10月20日午前4時45分ごろ、「We’re cooked」のひと言で公式番組「COOKED」初回を紹介する形で始まりました。その約11時間後の午後3時33分ごろ、ソティオ氏は自分のその投稿を引用し、次のように書き込みました。

日本語にすると「やっぱりナシ。まだ仕込み中です……ということでリセット。どうぞ」。前の投稿の「cooked(もうお手上げ)」を受けて、「まだcooking(準備中)だった」と言い直した言葉遊びです。番組の紹介だけで15日目の約束を果たしたことにするのではなく、全員向けのフルリセットに切り替えた形です。

前回の記事では、番組の紹介を15日目の改善に数えるのかについて、利用者から「リセットのほうがよかった」という声も出ていると紹介しました。結果的には、その声に応える展開になりました。OpenAI開発者コミュニティで宣言の進み具合をまとめているスレッドでも、15日目は「15.1:番組Cooking with Codex」「15.2:フルリセット」の2本立てとして記録されています。

週末の“利用枠の減りすぎ”は約4万アカウントの不具合——個別連絡とクレジットで補償

日本時間10月21日午前2時10分ごろには、ソティオ氏が利用枠に関するお詫びを投稿しました。

内容を日本語にすると、おおよそ次のとおりです。「週末、一部の利用者から、利用枠が想定より速く減っているという報告がありました。調べたところ、約4万のアカウントで、実際に適用されていた利用枠が、その人が選んでいるプランと食い違っていました。該当する利用者には一人ひとり連絡しており、問題はすでに修正しました。影響を受けた方のアカウントにはクレジットを追加します。対応を誤ってしまい、申し訳ありません」。

たとえるなら、携帯電話の料金プランを大容量にしているのに、通信会社の設定では小さいプランの上限で計算されていたような状態です。OpenAI開発者コミュニティでも、「ChatGPT PlusでCodexの利用枠が急に、異常な速さで尽きる」という相談のスレッドが立っていました。同じ作業なのに使用量が先週の何倍にもなった、という書き込みもあります。

投稿によれば、対象の利用者には個別に連絡があるとのことです。ここ数日で「いつもより早く上限に達した」と感じた人は、OpenAIからの連絡と、アカウントのクレジットが追加されているかを確認しておくとよいでしょう。どのプランの利用者が対象だったのか、補償としてどれだけのクレジットが入るのかといった細かい条件は、投稿には書かれていません。

16日目は「キャッシュ」の改善——古い会話に戻っても割高にならない

「Day 16/」の投稿は、日本時間10月21日午前10時10分ごろでした。OpenAIの開発者向け公式アカウント(@OpenAIDevs)の発表を引用しています。

日本語にすると、おおよそ次のとおりです。「APIでは12時間のキャッシュが使えるようになりました。さらに、CodexとWork(ChatGPT Work)にログインして使っている人については、キャッシュをずっと保持します。古い会話に戻ってきたときや、数時間あけて作業を再開したときにも不利になることはなく、必ずキャッシュが使われるようになりました」。

改善は2つに分かれています。ひとつは、アプリを組み込む開発者向けの「APIで12時間のキャッシュを選べるようになった」こと。もうひとつは、CodexやChatGPT Workを普段使っている人向けの「会話を再開したときに必ずキャッシュが効く」ことです。コミュニティのまとめスレッドでも、16日目は「16.1:APIで12時間のプロンプトキャッシュ」「16.2:CodexとChatGPT Workで12時間キャッシュが有効に」の2本立てで記録されています。

そもそもキャッシュとは?——“下ごしらえ済みの食材”を取っておく仕組み

AIは返事をするたびに、それまでの会話や指示、資料をあらためて読み込んでいます。会話が長くなるほど、この“読み直し”の量も増えます。キャッシュは、一度読み込んだ部分の下ごしらえを取っておき、次回はそこを使い回す仕組みです。料理でいえば、毎回野菜を切るところから始めずに、切った野菜を冷蔵庫に入れておくようなものです。

ただし、これまでのキャッシュには“賞味期限”がありました。API向けの公式ドキュメントによると、標準の保持時間は30分です。昼休みや会議で数時間あけてから同じ会話に戻ると、下ごしらえが捨てられていて、また最初から読み直しになることがありました。読み直しが増えれば、その分だけ利用枠を多く消費します。OpenAIは以前の更新履歴でも、キャッシュが外れることが続くと使える量がかなり減ってしまう場合があったと説明しています。

12日目には、サブエージェント(作業を分担する補助のAI)どうしで文脈を使い回したり、キャッシュを長く保ったりして、同じプランで使える量を実質的に増やす改善が出ていました(12日目の記事)。16日目は、その流れをさらに進めた内容といえます。

CodexとChatGPT Workの利用者にとっての変化

ChatGPTのアカウントでログインしてCodexやChatGPT Workを使っている人にとっては、次のような場面で違いが出そうです。

  • 朝に途中まで進めた資料づくりの会話を、夕方に再開する
  • 前日の会話の続きから、修正や追加の作業を頼む
  • 会議や外出で作業を数時間止めてから、同じ流れで続きを指示する

ソティオ氏の説明どおりなら、こうした“間をあけた再開”のたびに会話を丸ごと読み直して利用枠を余計に消費する、ということがなくなります。利用者の側で設定を変える必要があるとは書かれていません。なお、確認した時点(日本時間10月21日午後4時ごろ)では、Codexの公式更新履歴(changelog)にこの変更はまだ載っていませんでした。利用者向けの「ずっと保持」が具体的にどの範囲の会話に当てはまるのかといった細かい条件も、まだ公式の文書では見当たりません。

API利用者向け:12時間キャッシュの料金と注意点

@OpenAIDevsは日本時間10月21日午前2時56分ごろ、APIで12時間のプロンプトキャッシュを選べるようになったと発表しました。常時稼働のAIエージェント「dots」のように、1日を通して同じ文脈を何度も使う使い方を想定しています。共通の指示やツールの説明、参考資料を長くキャッシュしておけば、数時間あいたリクエストでも安い「キャッシュ済み入力」の料金で済む、という説明です。

公式ドキュメントによると、12時間キャッシュはGPT-5.6以降のモデルで、Responses APIから指定できます。1回のリクエストの中で、「1日中使う共通の指示は12時間」「新しい会話の部分は30分」と使い分けることもできます。料金の倍率は次のとおりです。

項目30分(標準)12時間
最低限の保持時間30分12時間
キャッシュに書き込むとき通常の入力料金の1.25倍通常の入力料金の2.5倍
キャッシュを読み出すとき通常の0.1倍(GPT-6.1 Solは0.05倍)通常の0.1倍(GPT-6.1 Solは0.05倍)
向いている使い方頻繁にやりとりする会話やエージェントの作業長い間隔をあけて使い回す、変わらない指示や資料

注意したいのは、12時間キャッシュは最初の書き込みが通常の2.5倍と割高なことです。公式ドキュメントの倍率をもとに、同じ共通の指示を数時間おきに使う場合を試算してみました。1日2回の利用なら、キャッシュなしは2倍分、12時間キャッシュは2.6倍分で、かえって高くつきます。1日3回になると、キャッシュなしの3倍分に対し、12時間キャッシュは2.7倍分で安くなります(読み出しが0.1倍のモデルの場合)。つまり、少なくとも3回以上使い回す見込みがあるときに得になる計算です。

OpenAI開発者コミュニティでも、「先払いの上乗せ分を取り返せるほど使い回せるかを見極める必要がある」「普通のチャットボットでは使いどころが難しい」といった慎重な声が出ています。また公式ドキュメントは、12時間はあくまで“最低限の保持時間”で、毎回必ずキャッシュが使われることを保証するものではないとしています。導入するなら、実際のキャッシュの当たり具合と費用を測りながら判断するのが安全です。

同じ日のOpenAI発表——ChatGPTの「Team Tasks」で定例作業をチームで自動化

@OpenAIDevsは日本時間10月21日午前0時24分ごろ、ChatGPTの「Team Tasks(チームタスク)」も紹介しました。「毎週金曜日に、何が完成して何が止まっているかをまとめる」といった繰り返しの仕事を自動化でき、チームのメンバーが結果を確認したり、次回の内容を変えたりできる、という機能です。一人で管理し続けなくてよいのがポイントとされています。

投稿と公式の解説ページによると、対象は条件を満たしたEnterpriseプランのワークスペースです。「設定」の「Teams」でチームを作ってメンバーを招待し、使う外部サービスとの接続を選びます。そのうえで「スケジュール」から新しいタスクを作り、チームを選んで、作業の内容と実行のタイミングを書きます。タスクはクラウド上で、チーム用のアカウントと接続を使って動きます。「月曜の朝に先週の顧客対応をまとめる」といった、部署の定例業務を“チームの共有の部下”に任せるイメージです。

公式の紹介動画

OpenAIの公式YouTubeチャンネルには、Team Tasksの紹介動画「How teams can automate recurring tasks with ChatGPT」が掲載されています。動画の説明文によると、法務チームが毎日の依頼受付を進める流れを例に、届いた依頼の確認や期限のチェックから、次回に向けた共有の指示の手直しまでを紹介しています。

16日間の流れ——改善11回、全員向けリセット6回

16日目までを振り返ると、明確な改善の日は11回あります。1日目の高速化、2日目の4連発、3日目のGPT-6とIntelligent UI、4日目の即時の指示反映、5日目の次の一言の先読み、7日目の作業机の拡大、9日目の保存容量の削減、11日目の満席エラーの削減、12日目の実質的な利用量の増加、14日目の過去メッセージの編集、そして16日目のキャッシュの改善です。15日目は番組の紹介とフルリセットの両方でした。

全員向けリセットは、15日目で6回目(2日目、6日目、8日目、10日目、13日目、15日目)になりました。宣言は残り12日です。利用枠の不具合への補償と、キャッシュの改善が続いたことで、ここ数日は「使える量」に関わる話題が中心になっています。

ビジネス利用者にとっての意味

15〜16日目の内容を仕事に生かすなら、次の点を押さえておくとよさそうです。

  • 週末から利用枠の減りが早いと感じていた人は、OpenAIからの個別連絡と、クレジットが追加されているかを確認する
  • CodexやChatGPT Workでは、時間をあけて同じ会話に戻っても余計に利用枠を消費しにくくなった。関連する作業は、新しい会話を始め直すより、元の会話の続きで頼むほうが無駄が少ないと考えられる
  • 自社のサービスにAPIを組み込んでいる場合、12時間キャッシュは“1日に3回以上、同じ前置きを使い回す”ときに得になる。2回程度だと、12時間を選ぶとかえって割高になる
  • Enterpriseプランなら、週次報告や毎朝のまとめといった定例作業を、Team Tasksでチームの共有タスクにできる

まとめ

Codexの「28日間、毎日改善かフルリセット」宣言の15日目は、日本時間10月20日午後3時33分ごろ、「まだ仕込み中」としてフルリセットに切り替わりました。10月21日午前2時10分ごろには、週末に約4万アカウントで利用枠がプランどおりに適用されていなかった問題が修正され、影響を受けた人にはクレジットで補償すると発表されています。16日目は10月21日午前10時10分ごろの発表で、APIで12時間のキャッシュが選べるようになりました。さらに、CodexとChatGPT Workでは古い会話に戻っても必ずキャッシュが効くようになっています。API向けの12時間キャッシュは書き込みが割高なので、使い回す回数を見積もってから選ぶのが安心です。残り12日も引き続き追いかけます。

参考リンク

この記事を書いた人
この記事を書いた人

毎日20時間以上AIの実践・研究に没頭するITエンジニア。20年以上にわたり、オンラインゲームや生活関連など幅広いジャンルのオウンドメディアで執筆・編集長を歴任。現在は上場企業グループの代表取締役を務め、複数の事業者団体で理事を兼務する経営者でもある。テクノロジーの最前線に身を置きつつ、地域の商店街や神社の運営にも深く携わるなど、地域活性化にも尽力。圧倒的な現場経験とITの専門知識、経営者の視点から、信頼性の高い有益な情報を発信している。
Olive株式会社 代表取締役

tanakaをフォローする
コラム
シェアする
tanakaをフォローする

コメント

タイトルとURLをコピーしました