CCAR-F 学習ノート(非公式)合格体験記へ

コンテキスト管理と信頼性

音声は3本です。

この章でできるようになること

長い会話で、金額や期日を要約に溶かす前に、毎回渡す事実として残せる。人へ渡す条件と、自分で終える条件を分けられる。失敗を、握りつぶしも全体停止もせず、親が復旧を選べる構造で伝えられる。広いコードの探索で、会話が「典型的なパターン」しか言わなくなる前に、発見を外へ出せる。平均の精度で人の確認をやめず、出典の食い違いを片方の数字に潰さない。

30秒で全体像

会話を続ける依頼には、それまでの履歴を渡します。同時に、要約を重ねるほど数値、日付、利用者が言った期待は丸くなります。それらは要約の外の事実ブロックとして、毎回のプロンプトに入れます。ツール結果は、関連する欄だけに切ってから履歴へ足します。長い入力の中ほどは見落とされやすいので、主要な指摘は先頭と見出しへ置きます。人へ直ちに渡すのは、人を明示されたとき、方針がその要求に何も言っていないとき、進展が止まったときです。不満のトーンや、校正前の確信度では渡しません。失敗は種類、試行、部分結果、代替を親へ返し、最終出力に穴を注記します。長い探索は、サブエージェント、スクラッチパッド、フェーズの要約、/compact、落ちたあとに読むマニフェストです。全体で高く見える精度は、文書の種類や欄の失敗を隠します。矛盾する出典は両方残し、公開日か収集日を持たせます。

用語

用語 意味
ケースの事実 金額、日付、番号、状態。要約の外に置き、毎回プロンプトへ入れる
lost in the middle 長い入力の中央を、端より見落としやすい現象
スクラッチパッド 主要な発見をファイルに残し、会話が劣化しても参照するもの
/compact 冗長な探索で埋まった会話を短くする操作。残す事実は先に外へ出す
マニフェスト 各エージェントが既知の場所へ書いた状態を、再開時に親が読む索引
方針の空白 規程がその要求について何も書いていない状態。複雑さとは別
層化抽出 確信度が高いものを含め、種類が偏らないように誤りを測る抜き取り
主張と情報源の対応 主張、抜粋、URL、文書名を、統合のあとまで保持する組

本編

履歴は全部渡し、事実は要約の外に置く

次のAPI依頼で履歴の一部を落とすと、前のターンで確定した制約が消えます。「写真が無い返金はしない」と決めたあとにそのターンを省くと、モデルは写真なしで返金を提案します。続ける会話では、履歴を渡します。

無加工で積み上げると、別の問題が起きます。注文照会が四十欄を返し、返品に要るのは五欄です。十回の照会で、窓の大半が無関係な配送業者コードになります。切る場所は、モデルに読ませたあとではなく、履歴に足す前です。返品に要る欄だけを残し、残りは捨てます。捨てた欄が後で必要になると分かっているもの(金額、状態)は、事実ブロック側へコピーしてから捨てます。

要約を重ねるほど、「八千円、金曜まで」は「迅速に対応」になります。取引の事実は、要約された物語の外にあるブロックです。顧客ID、注文番号、金額、状態、利用者が言った期日。各プロンプトの先頭に、このブロックを毎回入れます。要約してよいのは、経緯の叙述です。

flowchart TD
  T[ツールの生結果] --> C[関連欄だけ残す]
  C --> H[会話履歴]
  F[金額・日付・番号・状態] --> K[ケースの事実]
  K --> P[毎回のプロンプト]
  H --> P
  S[要約してよい経緯] --> P

複数の用件が同時にあるセッションでは、用件ごとの番号、金額、状態を別の層に残します。一つの要約に折り畳むと、どの金額がどの注文かが溶けます。

長い集約入力では、主要な指摘の要約を先頭に置き、詳細は見出しのある節に分けます。中央の段落にだけ「ただし返金不可」と書くと、lost in the middle で落ち、モデルは返金可能として話します。但し書きは先頭の事実ブロックにも一行で入れます。

下流の予算が小さいなら、上流は推論の鎖や全文ではなく、事実、引用、関連の度合いを返します。子には、日付、情報源の場所、方法(検索クエリか、PDFの何ページか)を構造へ含めさせます。親が子の文章を自分の言葉で書き直してから次へ渡すと、この構造が消えます。

人へ渡す条件は、トーンではない

渡す典型は三つです。利用者が人の担当を明示した。方針が例外を認めているか、その要求について何も書いていない。意味のある進展が得られない(同じ確認を繰り返している)。複雑に見える、だけでは渡しません。単純な交換を渡し、方針の穴を自分で承認する、という逆転が起きます。

利用者の文が「人に代わって」なら、調査より先に渡します。先に注文を調べてから渡すと、人が欲しいと言ったのに待たされます。一方、問題がエージェントの範囲内で、文が不満を含んでいるだけなら、不満を受け止めて解決を申し出ます。同じ希望を重ねて伝えたときに渡します。この二つを「不満なら即渡し」に潰すと、解決できる交換まで人が受けます。

方針が自社サイトの価格調整しか書いておらず、利用者は競合の価格に合わせてほしいと言っています。これは難易度ではなく、方針の空白です。エージェントが競合価格を承認すると、書いていない規則を作ったことになります。渡します。

ツールが複数の顧客に一致したら、名前の近さで一人を選びません。追加の識別子を尋ねます。それらしい選択が、別人への返金です。

自己申告の確信度を、渡しのきっかけにしません。難しい案件ほど、誤って高い数字が出ます。感情の点数も、案件の複雑さや方針の空白と相関しません。確信度が使えるのは、ラベルで校正したあとの、人の確認の配分です。渡しの境界そのものは、基準と、境界の両側の具体例をシステムプロンプトに置いて定義します。

失敗は、親が三つの続きを選べる情報を持つ

続きは、クエリを変えて再試行する、代替の情報源へ行く、部分結果で終えて穴を注記する、です。この選択には、失敗の種類、試したクエリ、取れた部分、考えた代替が要ります。

アクセスの失敗(タイムアウト)と、成功したゼロ件は、親への報告でも分けます。ゼロ件を失敗にすると再試行が無駄になり、タイムアウトをゼロ件にすると、穴が「無かった」という結論になります。

「検索を利用できません」は、クエリを変える材料がありません。空を成功として返すのは、失敗を消します。例外をそのまま上げて調査全体を殺すのは、取れていた抜粋まで捨てます。部分で続け、最終の出力に「音楽分野はタイムアウトで未調査」と書けるのが、構造で返した場合です。

子は一時的な障害を短い再試行で自分で直し、直せないものだけを上げます。統合の出力は、どの主張が出典で支えられ、どの領域が情報源の不足で欠けているかを、注記つきの構造にします。成功した子の文章で、欠けた領域を埋まったように見せません。

広いコードベースでは、会話が具体を忘れる

長い探索のあと、モデルは見つけたクラス名ではなく「典型的なサービス層」で話し始めます。これが劣化です。会話の中央に埋もれた発見が、新しいターンの注意から落ちています。

対策は四つです。

具体的な問い(テストファイルの一覧、返金処理の依存)はサブエージェントへ出し、メインは高レベルの地図だけを持ちます。サブエージェントの生ログはメインに戻しません。ファイル名と結論の一覧を戻します。

主要な発見はスクラッチパッドのファイルへ書き、後の質問ではそのファイルを読ませます。会話の中だけに発見を置くと、圧縮や長いツール結果で落ちます。

次のフェーズの子を起動する前に、前フェーズの発見を短い構造にして、子の初期プロンプトへ入れます。生ログを丸ごと渡すと、子の予算が前フェーズのログで終わります。

探索の出力で会話が埋まったら /compact で短くします。圧縮は要約なので、金額やファイル名を落とします。圧縮の前に、残す行がスクラッチパッドにある状態にします。圧縮してから「重要なものは残ったはず」は、検証できません。

プロセスが落ちたとき、メモリの中の進捗は消えます。各エージェントが既知のパスへ状態を書き、親が再開時にマニフェストを読んでプロンプトへ注入します。マニフェストに無い進捗は、最初からやり直す前提で設計します。

人の確認は、平均の精度では減らせない

十万件の抽出が全体で九十七パーセントに見えても、手書きの領収書の税額欄だけが六割かもしれません。平均は、件数の多い簡単な種類に引っ張られます。人の確認を減らす前に、文書の種類ごと、欄ごとに精度を見ます。すべての区分で安定していることを確認してから、その区分を自動化の候補にします。

確信度が高い抽出も、層を分けた無作為の抜き取りで誤り率を測ります。高いものを監査から外すと、系統的な偏り(特定の帳票で合計を税額へ入れる)が人の目を通らずに流れます。新しい誤りの形は、この抜き取りで見つかります。

モデルには欄ごとの確信度を出させます。その数値の閾値は、ラベルの付いた検証集合で決めます。申告が 0.9 の欄の実際の正解率が 0.6 なら、0.9 は自動採用の線ではありません。人が見る優先は、校正後に低い欄と、ソースが曖昧または矛盾している抽出です。担当の時間は有限なので、安定した欄から自動化し、矛盾は残します。

出典、時点、矛盾

発見を文章に圧縮するとき、主張と情報源の対応を落とすと、統合の段で「どの文書がそう言ったか」が消えます。子には、URLまたは文書名、抜粋、公開日または収集日を構造で出させ、下流はその組を保持します。親が「だいたいこう書いてあった」と書き直した時点で、組は壊れます。

信頼できる二つの情報源で同じ指標の数が違うとき、新しいほうを静かに採用するのは、読み手から検証を奪います。両方を出典つきで残し、統合の前に、親がどう扱うかを決めます。報告は、十分に裏付けられた主張と、異論のある主張を節で分けます。元の文書が「速報」と呼んでいるものを「確定値」と書き換えてはいけません。特徴づけと、方法(調査の母数、期間)を残します。

時点の違う数字を矛盾と誤認しないために、日付を構造の必須に近い扱いにします。日付が無い「利用率」は、別年の数字でも同じ主張に見えます。日付が片方にしか無いときは、時点不明として注記し、同じ年の数字と並べません。

統合の表現は、中身に合わせます。財務の比較は表、ニュースの経緯は文章、技術的な発見は一覧です。すべてを一つの段落へ潰すと、表が得意な差が読めなくなります。一律のテンプレは、欠落を隠すほうに働きます。

事実ブロックの形

毎回の先頭に置くブロックは、文章ではなく行です。顧客 C-42。注文 A-19。金額 8000。状態は配送済み。利用者の期日は金曜。写真は未着。この六行は要約の関数に渡しません。経緯の要約は、その下に「破損の申告が二回あり、写真を依頼した」とだけ置きます。要約関数をブロックごと通すと、8000 が「数千円」になります。実装では、要約の入力からこのブロックを除外し、要約の出力の前に結合します。

ツール結果を切るとき、金額と状態はブロックへコピーしてから、生の四十欄を捨てます。コピーを忘れて捨てると、履歴からもブロックからも金額が消えます。切る処理のテストは、ブロックに金額が残っていることです。

渡しの基準を、両側の例で書く

システムプロンプトに置く基準は、短い規約と両側の例です。直ちに渡すのは、人を明示されたとき、方針にその要求が無いとき、同じ質問を二往復しても新しい事実が無いとき。自分で終えるのは、写真つきの標準的な破損交換で、方針の期限内のとき。例の一つは、怒った文面でも写真と注文番号が揃っていれば交換を申し出る、です。もう一つは、穏やかな文面でも競合価格への合わせは渡す、です。この対が無いと、モデルはトーンを難易度だと思い、怒った簡単な交換を渡し、穏やかな方針の穴を自分で承認します。

複数一致の例も置きます。同姓が二人なら、どちらにも返金せず、電話番号の下四桁を尋ねる、です。例が「それらしいほうを選べ」になっていると、基準の文章と矛盾します。例が基準に勝ちます。例を直します。

親が受け取る失敗の形

検索の子が返す失敗は、種類は一時的、クエリは三本、部分結果は音楽の記事が二件、代替は文書庫の検索、です。親はこの部分を最終報告に使い、文書庫へは音楽だけを再委任します。種類が無く「失敗」だけだと、親は三本全部を最初からやり直します。部分結果が空の成功に変換されていると、親は音楽を「無かった」と書きます。

統合の最後の節は、支えられた主張と、未調査の領域です。未調査を書かない統合は、読者に完全な調査だと誤認させます。親は、子が穴を返したのに最終報告からその行を落とさないことを、出力の検査にします。

スクラッチパッドに書く行

ファイルはリポジトリの外か、作業用ディレクトリの notes/explore.md です。書く行は、ファイルパス、シンボル名、そのシンボルが呼ぶ先、未解決の問い、です。散文の「認証はだいたいミドルウェア」は書きません。劣化が起きたあと、その散文を読んでも具体へ戻れないからです。後の質問は「スクラッチパッドを読んでから答えよ」と始めます。読まずに答えると、会話の中のぼやけた記憶が勝ちます。

/compact の前に、このファイルが最新かを見ます。コンパクトの結果にファイルパスが残っていても、中身はファイル側にしかありません。ファイルを書き忘れたコンパクトは、発見の削除です。

マニフェストは、エージェント名、状態ファイルのパス、最後に成功したフェーズ、です。再開した親は、成功したフェーズの次から子を起動し、状態ファイルの中身を子のプロンプトに入れます。フェーズを書かないマニフェストは、どこから再開するかが人の記憶に残ります。

校正の最小手順

百件のラベル付き請求書で、モデルの欄ごとの確信度と、実際の一致を集計します。確信度 0.9 以上の税額のうち、実際に合っている割合が 0.95 を超える区分だけ、人の確認を外す候補にします。手書きの区分だけ 0.6 なら、その区分は確信度が高くても人が見ます。全体の九十七パーセントは、この表を作る前には使いません。

層化は、文書種と欄の組み合わせごとに、確信度が高いものから無作為に抜き、誤り率を週次で見ます。新しい帳票の版が加わった週は、その種の抜き取りを増やします。平均だけを見ていると、新しい版の失敗が古い版の成功に隠れます。

矛盾を表に残す

二つの統計局が、同じ年の就業率を 62 と 64 と言っているなら、表は指標、値、出典、公開日、母数の定義、です。文章側は「二点の差があり、定義は出典を見よ」と書きます。平均の 63 を一つのセルにすると、どちらの定義でもない数が残ります。年が片方だけ違うなら、矛盾ではなく時点の差として別の行にします。日付が無い出典は、その行に時点不明と書き、年付きの行と足し算しません。

十五ターンで、金額が溶ける過程

一ターン目、注文照会が四十欄を返します。返品に要るのは番号、金額、状態、配送日、写真の有無、の五欄です。四十欄を履歴に足すと、十ターンで窓の大半が配送業者コードになります。切る場所は、モデルに読ませたあとではなく、履歴に足す前です。金額と状態は、切る前に事実ブロックへコピーします。コピーを忘れて捨てると、履歴からもブロックからも金額が消えます。切る処理のテストは、ブロックに 8000 が残っていることです。

要約は経緯だけに掛けます。「破損の申告が二回あり、写真を依頼した」は要約してよいです。ブロックの六行(顧客、注文、金額、状態、期日、写真)を要約関数に渡すと、8000 が「数千円」になり、金曜が「早めに」になります。実装では、要約の入力からブロックを除外し、要約の出力の前に毎回結合します。

ターンを省いて履歴を短くすると、別の溶け方が起きます。「写真が無い返金はしない」と決めたターンを落とすと、モデルは写真なしで返金を提案します。続ける依頼には履歴を渡します。短くするのは、無関係な欄と、すでにブロックへ移した経緯です。

複数の注文が同じ会話にあるとき、ブロックは注文ごとに層を分けます。一つの段落に折り畳むと、8000 がどの注文の金額か溶けます。但し書き「金曜を過ぎたら返金しない」は、長い入力の中央だけに置きません。中央は端より見落とされます。同じ一行を、先頭のブロックにも入れます。

下流の予算が小さいなら、上流が返すのは推論の鎖ではなく、事実、引用、関連の度合いです。日付、情報源の場所、検索クエリかPDFのページか、を構造に含めます。親が子の文章を自分の言葉で書き直してから次へ渡すと、この構造が消えます。

渡しと、自分で終えるを、対で置く

直ちに渡す例は三つです。文が「人に代わって」なら、調査より先に渡します。先に注文を調べると、人が欲しいと言ったのに待たされます。方針が自社サイトの価格しか書いておらず、競合の価格に合わせてほしいなら、難易度ではなく方針の空白です。エージェントが承認すると、書いていない規則を作ります。同じ確認を二往復しても新しい事実が無いなら、進展が止まっています。

自分で終える例は、写真つきの標準的な破損交換で、方針の期限内のときです。怒った文面でも、写真と注文番号が揃っていれば、不満を受け止めて交換を申し出ます。同じ希望を重ねて人を求めたときに渡します。穏やかな文面でも、競合価格への合わせは渡します。

この対が無いと、モデルはトーンを難易度だと思い、怒った簡単な交換を渡し、穏やかな方針の穴を自分で承認します。感情の点数も、校正前の確信度も、この境界の代わりになりません。難しい案件ほど、確信度は誤って高く出ます。

同姓が二人に一致したら、どちらにも返金しません。電話番号の下四桁を尋ねます。例が「それらしいほうを選べ」になっていると、例が基準の文章に勝ちます。例を直します。

失敗の構造が、親の三つの続きを分ける

続きは、クエリを変えて再試行する、代替の情報源へ行く、部分結果で終えて穴を注記する、です。

検索の子が返す中身は、種類は一時的、クエリは三本、部分結果は音楽の記事が二件、代替は文書庫、です。親は二件を最終報告に使い、文書庫へは音楽だけを再委任します。種類が無く「失敗」だけだと、親は三本全部を最初からやり直します。部分を空の成功に変換すると、親は音楽を「無かった」と書きます。「検索を利用できません」の一文は、クエリを変える材料がありません。例外のまま上げて調査全体を殺すと、取れていた抜粋まで捨てます。

成功したゼロ件は、失敗の構造に入れません。問い合わせは成功し、該当が無かった、です。タイムアウトの空と混ぜると、穴が結論になります。

子は一時的なものだけを短い回数で自分で直し、直せないものだけを上げます。統合の最後の節は、支えられた主張と、未調査の領域です。未調査を落とすと、読者は完全な調査だと誤認します。親の出力検査は、子が返した穴の行が最終報告に残っていることです。

劣化の症状ごとに、効く対策が違う

長い探索のあと、モデルがクラス名ではなく「典型的なサービス層」と言う。これが劣化です。会話の中央の発見が、新しいターンの注意から落ちています。

具体的な問い(テストの一覧、返金の依存)がメインの会話を埋めているなら、その問いをサブエージェントへ出します。戻すのはファイル名と結論の一覧です。生ログを戻すと、メインはまた埋まります。

発見が会話の中にしか無いなら、スクラッチパッドへ行で書きます。パス、シンボル名、そのシンボルが呼ぶ先、未解決の問い。散文の「認証はだいたいミドルウェア」は、劣化のあと読んでも具体へ戻れません。後の質問は「スクラッチパッドを読んでから答えよ」と始めます。読まずに答えると、会話のぼやけた記憶が勝ちます。

次のフェーズの子を起動する前に、前フェーズを短い構造にして子のプロンプトへ入れます。生ログを丸ごと渡すと、子の予算が前フェーズで終わります。

/compact は、探索の出力で会話が埋まったあとです。圧縮は要約なので、ファイル名を落とします。圧縮の前に、残す行がファイルにある状態にします。ファイルを書き忘れたコンパクトは、発見の削除です。コンパクトの結果にパスが残っていても、中身はファイル側にしかありません。

プロセスが落ちたとき、メモリの進捗は消えません、ではなく消えます。各エージェントが既知のパスへ、名前、状態ファイル、最後に成功したフェーズを書きます。再開した親は、成功したフェーズの次から子を起動し、状態ファイルを子のプロンプトへ入れます。マニフェストにフェーズが無いと、どこから再開するかが人の記憶に残ります。マニフェストに無い進捗は、最初からやり直す前提で設計します。

四つの対策は代替ではありません。問いの隔離、発見の外部化、次の子への構造、そのあと圧縮、落ちたあとの索引、です。圧縮を先にすると、外部化する前の発見が落ちます。

平均九十七パーセントの表を、一枚作ってから自動化する

十万件の全体が九十七パーセントでも、手書きの領収書の税額だけが六割かもしれません。平均は、件数の多い簡単な種類に引っ張られます。人の確認を減らす前に、文書種と欄の表を作ります。すべての区分で安定している区分だけが、自動化の候補です。

確信度が高い抽出も、層を分けた無作為で誤り率を測ります。高いものを監査から外すと、特定の帳票で合計を税額へ入れる偏りが、人の目を通らずに流れます。新しい帳票の版が加わった週は、その種の抜き取りを増やします。平均だけを見ていると、新しい版の失敗が古い版の成功に隠れます。

百件のラベルで、申告が 0.9 以上の税額のうち、実際に合っている割合が 0.95 を超える区分だけ、人の確認を外す候補にします。手書きの区分だけ実際が 0.6 なら、申告が高くても人が見ます。0.9 を、校正の前に自動採用の線にしてはいけません。人が見る優先は、校正後に低い欄と、ソースが矛盾している抽出です。担当の時間は有限なので、安定した欄から外し、矛盾は残します。

二つの数字を、一つのセルに潰さない

同じ年の就業率が、出典Aで 62、出典Bで 64 なら、表の行は指標、値、出典、公開日、母数の定義、です。文章は「二点の差があり、定義は出典を見よ」と書きます。平均の 63 は、どちらの定義でもない数です。新しいほうを静かに採用すると、読み手は検証できません。

年が片方だけ違うなら、矛盾ではなく時点の差として別の行にします。日付が無い出典は、時点不明と書き、年付きの行と足し算しません。日付が無い「利用率」は、別年の数字でも同じ主張に見えます。

子が返した組は、URLまたは文書名、抜粋、公開日または収集日、です。親が「だいたいこう書いてあった」と書き直した時点で、組は壊れます。統合の前に、両方を残すか、どちらを本文の主にするかを親が決めます。報告は、裏付けられた主張と、異論のある主張を節で分けます。元の文書が「速報」と呼んでいるものを「確定値」と書き換えません。

表現は中身に合わせます。財務の比較は表、ニュースの経緯は文章、技術的な発見は一覧です。すべてを一つの段落へ潰すと、表が得意な差が読めなくなります。一律のテンプレは、欠落を隠すほうに働きます。

どう判断するか

確認

問1

長い返品の会話を要約し続けた結果、返金額と期日が文章から落ちました。どう残しますか。

A. 金額、日付、注文番号、状態を、要約の外のブロックとして毎回プロンプトに入れる
B. 要約の回数を増やしてさらに短くする
C. ツールの全欄を毎回履歴に積む
D. 重要な数字を、長い入力の中央の段落だけに書く

解答

A。要約を重ねるほど数字は落ちます。全欄は窓を浪費し、中央への配置は見落としを招きます。

問2

利用者は「人に代わって」と書き、中身は単純な交換に見えます。次の行動はどれですか。

A. 先に調査を終えてから、必要なら人へ渡す
B. 明示の要求なので、調査より先に人へ渡す
C. 否定的な語の点数が高いときだけ渡す
D. 確信度の自己申告が低いときだけ渡す

解答

B。明示の要求は直ちに応じます。不満だけで、まだ人を求めていない範囲内の問題とは別の規則です。

問3

検索の子がタイムアウトしました。親が復旧を選ぶために、どの返し方が要りますか。

A. 失敗の種類、試したクエリ、部分結果、代替を構造で返す
B. 再試行を使い切ったあと、「利用できません」だけを返す
C. 空の結果を成功として返す
D. 例外のまま上げ、調査全体を終了する

解答

A。Bは材料を隠し、Cは失敗を消し、Dは部分で続ける選択を捨てます。

問4

抽出全体の精度は高く見えます。人の確認を減らす前に見るものはどれですか。

A. 文書の種類ごと、欄ごとに精度が安定しているか
B. 平均が十分なら、区分は見なくてよいか
C. 確信度が高い抽出は監査から外すか
D. 自己申告を、校正なしで確率として使うか

解答

A。平均は件数の多い種類に引っ張られます。高い確信度も層化して測り、閾値はラベルで校正します。

問5

信頼できる二つの情報源で、同じ指標の数値が違います。統合はどう書きますか。

A. 新しいほうを静かに採用する
B. 両方を出典つきで残し、矛盾として注記する
C. 平均を一つの値にし、出典は落とす
D. 日付を捨て、矛盾ではないとみなす

解答

B。勝手な選択や、出典の無い平均は検証できません。時点が原因のこともあるので、日付は残します。

自分で確かめる

四十欄の注文JSONから、返品に要る五欄だけを履歴へ足す関数と、全欄を足す関数で、十ターン後のプロンプト長を比べてください。金額と期日を事実ブロックにコピーした場合と、要約文だけにした場合で、十五ターン後にモデルが金額を正確に言えるかを見ます。最後に、タイムアウトを空の成功で返した調査と、部分結果と穴の注記を返した調査で、最終報告が「その分野は無かった」と書いてしまうかを比べます。