【生成AIパスポート 無料問題】第3章 現在の生成AIの動向 6問｜解説つき

前提知識

検索拡張生成（RAG）について

• 回答を作る前に、外部の文書から関係する箇所を検索して渡す手法です。Retrievalは検索、Augmentedは補強、Generationは生成を指します。モデルの重みは変えません。
• 渡す文書を差し替えれば、回答の根拠が新しくなります。差し替えなければ、古い文書をもとに答え続けます。

チャンクとベクトルデータベースについて

• チャンクは、長い文書を検索しやすい大きさに区切った一片です。ベクトルデータベースは、チャンクの意味を表す数値の並びと元の文章を組にして保存し、意味の近いものを探せるようにした仕組みです。
• 文書を改定したときは、改定後の文書をチャンクに分け直し、意味を表す数値の並びも作り直して入れ替えます。

ファインチューニングについて

• 追加のデータでモデルの重みをさらに学習させる作業です。特定の文体で答える文例を追加で学ばせる、といった使い方です。

Temperatureについて

• 次の語を選ぶときのばらつきを調整する値です。高くすると言い回しの揺れが大きくなり、低くすると確率の高い語に寄りやすくなります。

図解

判断のポイント

見分ける軸は、RAGの回答の根拠がどこから来ているかです。根拠はベクトルデータベースに保存したチャンクで、モデルの重みでも生成の設定値でもありません。図の①②の準備を改定後の規則でやり直さない限り、③の検索で見つかるのは古い版の条文のままです。

前提知識

リマスタリングについて

• 画質が粗くなった昔の映像や画像を、現在の画質で見られる状態に作り直すことです。生成AIを使う場合は、粗い部分の細部をモデルが補って高精細にします。
• 補われた細部は、モデルが学習した傾向から推定して作ったものです。元の映像に記録されていた情報ではありません。

生成AIによる高画質化（超解像）について

• 解像度の低い画像を入力にして、それに合う解像度の高い画像を作り出す技術です。Googleが2021年に発表したSR3は、低解像度の画像を手がかりに、ノイズから高解像度の画像を組み立てます。古い家族写真の修復などが用途として挙げられています。
• 2024年に米国ワシントン州の裁判所は、AIで高画質化した映像を刑事裁判の証拠として認めませんでした。AIモデルが「写っているべきだ」と判断した内容を、検証できない方法で表示するものだという理由です。

データの水増し・リサイズ・正規化について

• いずれも、画像を扱うAIを学習させる前の準備です。データの水増しは回転や反転で学習用の例を増やす処理、リサイズは縦横の寸法をそろえる処理、正規化は画素の値を0から1のような範囲にそろえる処理です。

判断のポイント

見分ける軸は、生成AIが補った細部が「記録されていたもの」か「推定して作ったもの」かです。生成AIによるリマスタリングは、粗い部分を推定で描き足すので、見た目が鮮明でも撮影時の実物と一致するとは限りません。学習の準備である水増し・リサイズ・正規化とは、目的も扱う対象も違います。

前提知識

ディープフェイク（深層偽造）について

• 「ディープラーニング（深層学習）」と「フェイク（偽物）」を組み合わせた造語です。AIで合成した音声・画像・動画で、実在の人物が実際にはしていない言動をしているように見せるものを指します。
• 偽物を本物と思わせて、詐欺・なりすまし・世論の操作などに使われます。意図的に人をだます目的で広められる偽情報（ディスインフォメーション）の手段にもなります。

嘘つきの配当（liar’s dividend）について

• ディープフェイクの存在が知られるほど、本物の証拠を「偽物だ」と否定する主張が信じられやすくなる効果です。法学者のチェズニーとシトロンが2019年の論文で示しました。
• 米国の裁判では、被告側が本物の映像や発言の記録を「ディープフェイクかもしれない」と主張した例があります。

電子透かしについて

• 生成AIの出力に目に見えない印を埋め込み、AIで作ったものだと後から確かめられるようにする技術です。印があればAIで作った手がかりになりますが、印がないことは本物の証明になりません。

判断のポイント

見分ける軸は、ディープフェイクの害が「偽物を本物と思わせること」だけではない点です。偽物が作れると知られるほど、本物の記録まで疑われ、「偽物だ」という言い逃れが通りやすくなります。印や自動の検出で真偽を確定できる、標的が著名人に限られる、という見方は、どれも現状と合いません。

前提知識

AIエージェントについて

• 目標を受け取ると、必要な手順を自分で組み立て、外部のツールを呼び出しながら作業を進める仕組みです。ツールの実行結果を確かめ、次に何をするかを繰り返し選びます。
• 必要な手順の数を前もって決められない作業で強みが出ます。一方で、途中の誤りがその後の手順に引き継がれることがあるので、影響の大きい操作の前には人が確認します。

AIエージェントのツール事例について

• Manusは、調査や資料作成などの作業を自ら計画して実行する汎用のAIエージェントです。
• GenSparkは、調べたい内容を伝えると、情報収集から資料の作成までをエージェントとして進めるサービスです。Skywork AIは、指示を受けて文書やスライドなどの資料を作り上げるサービスです。

検索拡張生成（RAG）について

• 質問に近い文書の箇所を検索し、その内容を渡してから回答させる手法です。検索してから答えるという流れが決まっていて、手順をその場で組み立てることはしません。

判断のポイント

見分ける軸は、1回の応答で終わる依頼か、途中の結果を見ながら複数の手順を進める必要がある依頼かです。複数のサイトを調べ、比べ、まとめ、予約の手前まで進める依頼は、手順の組み立てとツールの呼び出しが必要なので、AIエージェントの強みが生きます。要約や画像の作成は1回の生成で済み、規程の検索は流れの決まったRAGで足ります。

前提知識

MCP（Model Context Protocol）について

• AIアプリケーションと外部のデータやツールをつなぐ方法をそろえるための、公開された規格です。2024年にAnthropicが公開し、2025年12月にLinux Foundation傘下のAgentic AI Foundationへ寄贈されました。
• 外部のサービスの側が用意する窓口をMCPサーバー、それにつなぐAIアプリケーションの側の接続部分をMCPクライアントと呼びます。
• AIアプリケーションは、接続したMCPサーバーが提供するツールの一覧を受け取り、必要なときに呼び出します。モデルの重みは変わりません。

MCPと安全性について

• MCPの仕様は、利用者の同意と管理、ツールを呼び出す前の明示的な同意、データの保護を原則として掲げています。
• ただし、これらの原則を規格そのものが強制することはできません。同意の確認や権限の管理は、MCPを使うアプリケーションに組み込み、利用者が運用で守ります。

MCPサーバーの動かし方について

• 利用者のパソコンの上で動かして手元のファイルやアプリにつなぐ方法と、ネットワーク越しの別のサービスとして動かす方法があります。仕様は、標準入出力（stdio）とHTTP（Streamable HTTP）の2つの通信方法を定めています。

判断のポイント

見分ける軸は、MCPが「つなぎ方」をそろえる規格だという点です。AIアプリケーションはサーバーが提供する機能の一覧を受け取り、必要なときに呼び出します。つなぐ先は手元のパソコンでもネットワーク越しのサービスでもよく、特定の企業の製品専用でもありません。一方で、つないだ先での操作の安全性を規格が保証するわけではなく、権限の設定や利用者の確認で守ります。

前提知識

自己回帰モデルについて

• それまでに出力した語の並びを入力に含めて、次に来る語の確率を予測し、1語ずつ文章をつなげていく方式です。GPTなどのテキスト生成AIの多くが、この方式で文章を作ります。
• 2017年に提案されたTransformerでも、文章を出力する側（デコーダ）は、それまでに生成した語を入力に加えて次の語を作ります。

誤りの積み重なりについて

• 前半で出した誤りを前提に、続きの説明まで誤ってしまう現象は、研究でも確かめられています。2023年の研究は、言語モデルが最初に出した誤った答えに合わせて、本来なら避けられた誤りまで重ねることを示しました。
• 長い回答や計算を含む回答では、途中の前提が正しいかを人が確かめることが大切です。

判断のポイント

見分ける軸は、「前から1語ずつ、出した語を手がかりに次を決める」という自己回帰モデルの性質です。出した語はその後の予測の材料になるので、前半の誤りが後半に引き継がれることがあります。すべての語を同時に決める、直前の1語だけを見る、入力の語を並べ替える、という説明は、どれもこの方式に合いません。