最終更新：2026年10月
生成AIパスポート試験のシラバス（2027年2月試験より適用）第2章「生成AI」から、練習問題6問を無料で公開します。
第2章で問われるのは、現在の生成AIを「技術・学習・生成」の流れで捉える力です。Transformerと拡散モデル、基盤モデルとマルチモーダル化、事前学習・ファインチューニング・RLHFの学習プロセス、次トークン予測とハルシネーション、TemperatureやTop-p、コンテキストウィンドウ、LMとLLM、ChatGPTと主要な生成AIモデル、画像・音声・動画の生成AIが範囲です。
この章は、モデルの名前を覚えるよりも、生成AIがどう学び、どう文章を作るのかを理解しているかが問われます。なぜ誤った出力が起こるのか、パラメータを変えると出力がどう変わるのかを、今回の6問で確かめてください。
まず問題文と選択肢だけを読んで答えを決め、それから「解答と解説を見る」を開いてください。6問中1問は複数選択（2つ選択）です。
問題1単一選択
2017年に発表されたTransformerモデルが、それまで文章の翻訳などで主流だったモデルから、構造の面で大きく変えた点として、最も適切なものを1つ選びなさい。
- ゲートで情報を残すか忘れるかを調整し、長い文でも前の情報を保てるようにした
- リカレント層をなくし、Attentionだけで単語どうしの関係を計算するようにした
- 単語の並び順の情報を入力から取り除き、語順に左右されずに文の意味を扱うようにした
- 前の時点の計算結果を次の時点に引き継ぎ、単語を1つずつ順番に処理するようにした
解答と解説を見る
正解：回答 2
回答 1 不正解 ゲートで情報を残すか忘れるかを調整するのは、LSTM（長・短期記憶）の仕組みです。LSTMは1997年に提案されたRNNの改良型で、Transformerの登場前から文章の処理に広く使われていました。Transformerが新しく持ち込んだ構造ではありません。
回答 2 正解 Transformerは、RNNのリカレント層も、CNNの畳み込みも使わず、Attentionの仕組みだけで組み立てたモデルです。自己注意力（Self-Attention）で、文中のすべての単語どうしの関係の強さを計算します。単語を1つずつ順に処理する必要がなくなり、並行して計算できるようになりました。
回答 3 不正解 Transformerは、語順の情報を取り除いたのではなく、位置エンコーディングで並び順の情報を入力に加えています。単語を並行して処理すると、そのままでは語順を区別できないためです。語順を捨てる設計ではありません。
回答 4 不正解 前の時点の計算結果を次の時点に引き継いで順に処理するのは、RNNのリカレント層の仕組みです。これはTransformerの登場前に主流だった処理のしかたで、Transformerはこの逐次処理をやめています。
前提知識
Transformerモデルについて
- 2017年の論文「Attention Is All You Need」で発表されたモデルです。リカレント層も畳み込みも使わず、Attentionの仕組みだけで組み立てられています。
- それ以前の翻訳モデルにも、RNNと組み合わせる形でAttention Mechanismが使われていました。Transformerの新しさは、RNNを外してAttentionだけにした点です。
- 自己注意力で単語どうしの関係を計算し、単語を並行して処理します。語順は位置エンコーディングで補います。
RNN（回帰型ニューラルネットワーク）について
- リカレント層で、前の時点の計算結果を次の時点に引き継ぎながら、シーケンスデータを1つずつ順に処理するモデルです。
LSTM（長・短期記憶）について
- RNNにゲートを加えたモデルです。情報を残すか忘れるかをゲートで調整し、長い系列でも前の情報を保ちやすくしています。
位置エンコーディングについて
- 各単語に、文の中で何番目かという情報を加える仕組みです。並行処理で失われる語順を補うために、Transformerが入力に加えています。
判断のポイント
見分ける軸は、その仕組みがTransformerで新しく採られたものか、それ以前から使われていたものかです。リカレント層による逐次処理とLSTMのゲートは、Transformerより前のモデルの仕組みです。Transformerは語順の情報を捨てておらず、位置エンコーディングで加えています。リカレント層を外し、Attentionだけで単語どうしの関係を計算する点が、Transformerが変えた点です。
参考資料：Attention Is All You Need（Transformerの原論文）、Transformer: A Novel Neural Network Architecture for Language Understanding（Google Research）
問題2複数選択
ChatGPTのような対話型の大規模言語モデル（LLM）が作られるまでの学習プロセスについての説明として、適切なものを2つ選びなさい。
- 事前学習では、大量の文章を使って、続く次のトークンを予測する練習を繰り返し、言葉の使い方や知識を身につける
- ファインチューニングは、事前学習の前に行う準備の段階で、学習に使う文章の誤字を直してデータを整える作業である
- RLHFでは、モデルの回答を人が比べて評価した結果を使い、人が好ましいと感じる回答に近づけるようモデルを調整する
- 学習データの量やモデルの規模を大きくしても、モデルの性能はほとんど変わらないことが分かっている
解答と解説を見る
正解：回答 1・3
回答 1 正解 事前学習は、Webの文章や書籍などの大量のテキストで、次に来るトークンを予測する練習を繰り返す段階です。ここで文法や幅広い知識を身につけますが、この段階ではまだ指示に答えることに慣れていません。
回答 2 不正解 ファインチューニングは、事前学習を終えたモデルを、目的に合ったデータで追加学習させて調整する段階です。学習データを整える前処理とは別のものです。
回答 3 正解 RLHF（人間のフィードバックによる強化学習）は、モデルが出した複数の回答を人が比べて評価し、その評価を学んだ報酬モデルを使って、より好ましい回答を出すようにモデルを調整する段階です。
回答 4 不正解 モデルの規模・データ量・計算量を大きくすると、性能がおおむね予測可能な形で上がっていくという経験則（スケーリング則）が報告されています。これがLLMの大規模化を後押ししました。
前提知識
対話型LLMの学習の3段階
- ①事前学習：大量のテキストで次のトークンを予測し、言語の知識を身につける
- ②ファインチューニング：指示と望ましい回答の組などで追加学習し、指示に答える振る舞いを身につける（指示チューニング）
- ③RLHF：人の評価をもとに、有用で安全な回答に近づける
学習データの課題
- 学習データの量だけでなく、品質や偏り（バイアス）、著作物の扱いなども、モデルの出力や権利の問題に影響します。
判断のポイント
見分ける軸は、各段階が「何を使って」「何を身につける」段階かを正しく捉えているかどうかです。ファインチューニングは事前学習の後に行う調整であり、規模を大きくすると性能が上がる関係（スケーリング則）が知られています。
参考資料：Training language models to follow instructions with human feedback（InstructGPTの論文）、Scaling Laws for Neural Language Models
問題3単一選択
テキスト生成AIが、根拠となる事実がない内容を、正しいことのように答えてしまう現象を1つ選びなさい。
- ファインチューニング
- ハルシネーション
- アライメント
- 過学習
解答と解説を見る
正解：回答 2
回答 1 不正解 ファインチューニングは、すでに学習を終えたモデルに追加のデータを与えて、さらに学習させる作業です。応答の癖を特定の用途へ寄せたいときに使います。事実がない内容を正しいことのように答えてしまう、という現象の名前ではありません。
回答 2 正解 ハルシネーションは、テキスト生成AIが、根拠のない内容をもっともらしい文章で出してしまう現象です。実在しない書名を挙げたり、確認できない数値を断定したりする例がこれにあたります。出力をそのまま事実として扱わず、人が確かめる理由になる現象です。
回答 3 不正解 アライメントは、モデルの応答を人の意図や守るべき方針に沿わせる調整です。人が良いとした応答を手がかりに学習するRLHFは、その代表的な手段です。モデルを望ましい方向へ寄せる作業であり、根拠のない回答が出る現象そのものの名前ではありません。
回答 4 不正解 過学習は、学習用のデータに合わせすぎて、学習に使っていない新しいデータでは正解率が下がる状態です。新しいデータにどれだけ通用するかについての言葉です。出力の内容が事実に基づいているかどうかを指す言葉ではありません。
前提知識
ハルシネーションについて
- 事実に基づかない内容を、正しいことのようにもっともらしい文章で出してしまう現象です。実在しない書名を、自信ありげに答えてしまう例がこれにあたります。
ファインチューニングについて
- 学習を終えたモデルに追加のデータを与え、応答の癖を特定の用途へ寄せる作業です。社内の文体に寄せた文例を追加で学ばせる、といった使い方です。
アライメントについて
- モデルの応答を、人の意図や守るべき方針に沿わせる調整です。危険な頼み方を断るよう応答を整える、というのがその例です。
過学習について
- 学習用データに合わせすぎて、新しいデータではうまくいかなくなる状態です。学習用データでは正解率が高いのに、学習に使っていないデータでは正解率が下がる、という形で現れます。
判断のポイント
見分ける軸は、出力の中身が事実に基づいているかどうかを指す言葉か、それ以外の言葉かです。ファインチューニングとアライメントは、モデルに手を加える作業の名前です。過学習は、新しいデータで正解率が下がる状態の名前で、出力が事実かどうかは指しません。根拠のない内容を正しいことのように出す現象の名前が、ハルシネーションです。
参考資料：AI事業者ガイドライン（第1.2版）別添、言語モデルがハルシネーションを起こす理由（OpenAI）、人のフィードバックで指示に従うよう学習する（InstructGPT）
問題4単一選択
社内規程に関する問い合わせへの回答文を、テキスト生成AIのAPIで作らせています。同じ質問を送っても、呼び出すたびに回答の言い回しが大きく変わるため、ぶれを小さくしたいと考えています。プロンプトは変えずに設定を見直す方法として、最も適切なものを1つ選びなさい。なお、使っているモデルはTemperatureとTop-pを指定できるものとします。
- Temperatureを上げる
- Top-pを1に近づける
- Temperatureを下げる
- 学習率を下げる
解答と解説を見る
正解：回答 3
回答 1 不正解 Temperatureは、次に来る語の確率の差を強めたり弱めたりして、出力のばらつきを調整する値です。上げると確率の差がならされ、確率の低い語も選ばれやすくなります。言い回しのぶれは大きくなるため、目的と逆の変更です。
回答 2 不正解 Top-pは、確率の高い順に候補を足し合わせ、その合計が指定した値に達するまでの候補から選ぶようにする値です。1に近づけると、確率の低い語まで候補に入ります。選ばれる語の幅が広がり、ぶれは大きくなります。
回答 3 正解 Temperatureを下げると、確率の高い語と低い語の差が強まり、確率の高い語がより選ばれやすくなります。呼び出すたびの言い回しのぶれが小さくなり、規程の説明のように内容を安定させたい用途に合います。ただし、下げても毎回まったく同じ文になるとは限りません。
回答 4 不正解 学習率は、学習のときに重みを1回でどれだけ大きく更新するかを決める値です。学習率も人が設定するハイパーパラメータですが、効くのはモデルを学習させる段階です。学習済みのモデルに回答を作らせるときの語の選び方は変わりません。
前提知識
Temperatureについて
- 次に来る語の確率分布の鋭さを変えて、出力のばらつきを調整する値です。
- 下げると確率の高い語に寄りやすくなり、出力が安定します。上げると確率の低い語も選ばれやすくなり、言い回しの幅が広がります。
- 新しいモデルの中には、推論を行うモデルを中心に、Temperatureを既定値以外に変えられないものもあります。
Top-pについて
- 確率の高い順に候補を足し合わせ、合計が指定した値に達するまでの候補だけから選ぶようにする値です。
- 下げると候補が絞られてぶれが小さくなり、1に近づけると候補が広がります。
- Temperatureは確率分布の鋭さを変え、Top-pは累積確率で候補の範囲を区切ります。効かせ方が違います。
ハイパーパラメータについて
- 学習や出力のしかたを決めるために、人が設定する値です。学習率のように学習のときに効く値も、TemperatureやTop-pのように文章を作るときに効く値もあります。
判断のポイント
見分ける軸は、どの値を、どちらに動かすと、文章を作るときの語の選び方が安定するかです。Temperatureを下げると確率の高い語に寄り、ぶれが小さくなります。Temperatureを上げる、Top-pを1に近づける、はどちらもぶれを大きくする変更です。学習率は学習のときに効く値で、回答を作るときの語の選び方には影響しません。
参考資料：Create completion | OpenAI API Reference（temperature、top_pの説明）、Prompt design strategies | Gemini API（Temperature、topPの説明）
問題5単一選択
言語モデル（LM）と大規模言語モデル（LLM）に関する説明として、不適切なものを1つ選びなさい。
- n-gramモデルは、直前の数語の並びが学習用の文章に現れた回数をもとに、次の語の出やすさを求める
- ニューラル言語モデルは、出現回数の数え上げではなく、単語を数値の並びで表して次の語の出やすさを求める
- LLMは、大量の文章を使ったプレトレーニングで次に来る語を予測する学習を重ね、多くの作業に使える土台を作る
- LLMは、次の語の出やすさを求める仕組みではなく、学習した文章の中から質問に合う一文を探して返す
解答と解説を見る
正解：回答 4
回答 1 不正解 この説明は適切です。n-gramモデルは、直前の数語（例えば2語や3語）の並びに続く語を、学習用の文章に現れた回数の統計から求める、言語モデルの初期の手法です。学習用の文章に一度も出てこなかった並びには、確率をうまく割り当てられない弱点がありました。
回答 2 不正解 この説明は適切です。ニューラル言語モデルは、ニューラルネットワークを使って次の語の出やすさを求める言語モデルです。単語を数値の並び（ベクトル）で表し、使われ方の似た単語を近い値として扱うため、学習用の文章になかった並びにも確率を割り当てやすくなりました。
回答 3 不正解 この説明は適切です。プレトレーニング（事前学習）は、大量のテキストで次に来る語を予測する学習を繰り返し、モデルの重みを最初に学習させる段階です。この段階で、要約や翻訳など多くの作業に使える土台ができます。
回答 4 正解 この説明は不適切です。LLMも言語モデルの一種で、次に来る語の確率を求め、その確率をもとに語を1つずつ選んで文章を組み立てます。学習した文章を保存しておき、その中から一文を探して返す仕組みではありません。外部の文書を検索して回答に使う仕組みは、RAG（検索拡張生成）としてLLMと組み合わせて使うものです。
前提知識
言語モデル（LM）について
- ある語の並びに続いて、次にどの語が来やすいかを確率で表すモデルの総称です。
- n-gramモデル、ニューラル言語モデル、LLMは、どれも言語モデルに含まれます。違うのは確率の求め方と規模です。
n-gramモデルとニューラル言語モデルについて
- n-gramモデルは、直前の数語の並びに続く語を、文章中に現れた回数から求めます。
- ニューラル言語モデルは、ニューラルネットワークで次の語の出やすさを求めます。単語をベクトルで表すことで、学習用の文章になかった並びにも対応しやすくなりました。
LLMについて
- 大量の文章で学習し、非常に多くのパラメータを持つ言語モデルです。
- プレトレーニングで次に来る語を予測する学習を重ねており、文章を作るときも、次に来る語の確率をもとに語を選んでいきます。
判断のポイント
見分ける軸は、LLMも「次に来る語の確率を求める」言語モデルの一種かどうかです。n-gramモデルからニューラル言語モデル、LLMへと、確率の求め方と規模は変わりましたが、次の語の確率を求めるという本質は変わっていません。学習した文章から一文を探して返す、という説明は検索の仕組みの説明で、LLMの説明として不適切です。
参考資料：N-gram Language Models（Jurafsky & Martin『Speech and Language Processing』第3章）、A Neural Probabilistic Language Model（Bengio ほか、JMLR 2003）、Language Models are Few-Shot Learners（GPT-3の論文）
問題6単一選択
OpenAIが2025年8月に公開したモデルで、多くの質問にすばやく答えるモデルと、難しい問題を時間をかけて考えるモデルを1つの仕組みにまとめ、質問に応じてどちらが応答するかを自動で振り分けたものに該当するものを1つ選びなさい。
- GPT-5
- GPT-o1
- GPT-4.1
- GPT-4o
解答と解説を見る
正解：回答 1
回答 1 正解 GPT-5は、2025年8月にOpenAIが公開したモデルです。すばやく答えるモデル、時間をかけて考えるモデル（GPT-5 thinking）、どちらを使うかをその場で決める振り分けの仕組み（ルーター）を、1つのシステムにまとめています。ChatGPTでは2026年2月にGPT-5の提供を終え、後継のGPT-5系の新しい版に置き換わっています。
回答 2 不正解 GPT-o1は、OpenAIが2024年9月にプレビュー版を公開したモデルで、回答を出す前に内部で段階的に考えることで、数学やプログラミングの正答率を高めました。時間をかけて考えるモデルそのもので、すばやく答えるモデルとの間で自動で振り分ける仕組みは持っていません。
回答 3 不正解 GPT-4.1は、2025年4月にOpenAIがAPI向けに公開したモデルで、プログラミング、指示への従い方、長い文章の読み取りを改善しました。答える前に時間をかけて考える推論のモデルではなく、2つのモデルを振り分ける仕組みも持っていません。
回答 4 不正解 GPT-4oは、2024年5月にOpenAIが公開したモデルで、文章・音声・画像を1つのモデルでまとめて扱い、応答の速さを高めました。ChatGPTでの提供は2026年2月に終わり、APIでは引き続き使えます。2つのモデルを自動で振り分ける仕組みは持っていません。
前提知識
GPT-5について
- 2025年8月に公開されたモデルです。すばやく答えるモデルと、時間をかけて考えるモデルを1つのシステムにまとめています。
- 会話の種類、問題の難しさ、ツールが必要か、利用者の「よく考えて」といった指示をもとに、ルーターがどちらのモデルで答えるかを決めます。
GPT-o1について
- 2024年9月にプレビュー版が公開された、回答の前に内部で段階的に考える推論のモデルです。数学やプログラミングのような複雑な問題で正答率を高めました。
GPT-4.1について
- 2025年4月にAPI向けに公開されたモデルです。プログラミング、指示への従い方、長い文章の扱いを、GPT-4oより改善しました。
GPT-4oについて
- 2024年5月に公開された、文章・音声・画像を1つのモデルで扱うマルチモーダルのモデルです。ChatGPTでは2026年2月に提供を終え、APIでは提供が続いています。
判断のポイント
見分ける軸は、すばやく答えるモデルと考えるモデルを、1つの仕組みの中で自動で切り替えるかどうかです。GPT-o1は考えるモデルそのもの、GPT-4.1とGPT-4oは考える過程を挟まないモデルで、どれも単独のモデルです。2つのモデルとルーターをまとめたシステムとして公開されたのが、GPT-5です。
参考資料：Introducing GPT-5（OpenAI）、Learning to reason with LLMs（GPT-o1の発表、OpenAI）、Retiring GPT-4o, GPT-4.1, GPT-4.1 mini, and OpenAI o4-mini in ChatGPT（OpenAI）
この問題を無料アプリで解く
同じ30問を、順番と選択肢をシャッフルして解けます。採点と正誤の記録、ブックマーク、途中で中断しての再開ができます。登録は不要で、記録はお使いの端末の中だけに保存されます。
この章の要点を記事で確認する
解説を読んでも腑に落ちなかった用語は、章の要点をまとめた記事で全体の中の位置を確かめると整理しやすくなります。
▶ 生成AIパスポート 第2章「生成AI」の要点｜Transformer・学習と生成の仕組み・LLM・主要モデル
他の章の問題も解く
この無料30問は、当サイトの有料講座（本番形式 60問×6セット）とは別に書き下ろした問題です。同じ問題は含まれていません。解説は生成AIパスポート試験のシラバス（2027年2月試験より適用）の範囲に沿って、法令・公的機関の資料・論文・各社の公式ドキュメントを確認して作成しており、各問題の末尾に参考資料のリンクを載せています。法令やサービスの内容は更新されることがあるため、受験前には公式の情報もあわせてご確認ください。
本番形式の360問で仕上げる
生成AIパスポート 模擬試験360問（本番形式60問×6回）【2026年シラバス対応】
本番と同じ60問・60分の模擬試験を6回分、全360問。全問を2026年シラバスから書き下ろし、RAG・AIエージェント・MCP・AI新法といった追加範囲も含めています。正解・不正解を問わず全選択肢に解説をつけているので、間違えた理由がその場で分かります。
当ブログ限定クーポン：通常 2,600円 → 1,500円
以上です。最後までお読みいただきありがとうございました。
この記事がお役に立ちましたら、コーヒー1杯分（300円）の応援をいただけると嬉しいです。いただいた支援は、より良い記事作成のための時間確保や情報収集に活用させていただきます。