生成AIパスポート 第4章「リスク予防・AI倫理・ガバナンス」の要点｜シャドーAI・個人情報・著作権・AI法

当ブログにはPRを含みます。

第4章「生成AIのリスク予防・AI倫理・ガバナンス」は、2027年2月試験から適用される新しいシラバスで、いちばん大きく作り直された章です。

旧シラバスの第4章は「情報リテラシー・基本理念とAI社会原則」という名前で、フィッシングの手口の名前や、法律・原則の用語を覚える章でした。新しい第4章は、用語に加えて判断を問います。社内で認められていないAIツールを使うと何が起きるか。AIの出力をどこまで確かめてから使うか。この情報は生成AIに入れてよいか。会社としてどんなルールを作るか。新しく入った「シャドーAI」「AI出力の評価と検証」「AIガバナンスと社内ガイドライン」は、どれもこの判断の話です。

クラウド各社のAI資格を持っている人は、特に気をつけてください。私はAWSのAI Practitioner（AIF-C01）とAzureのAI-900を取ったあとでこの試験を受けましたが、まるごと足すことになったのは第4章でした。どちらの資格にも「責任あるAI」があり、公平性や透明性という原則の名前は重なります。重なるのはそこまでで、個人情報保護法、著作権、AI事業者ガイドライン、AI法の中身は入っていません。新シラバスではそこに社内ルールやツール選定の話まで加わったので、名前を見たことがあるから大丈夫、と思って飛ばすと、ここで落とします。

第4章は、「使う人の姿勢」「リスクと検証」「情報と権利」「倫理・ガバナンス・法律」の4つに分けて、それぞれ図にまとめています。

シリーズの第4章です。

▶ 生成AIパスポート 第3章「AIエージェント」の要点｜RAG・MCP・Agent Skills・安全に使う原則

第4章で問われるのは「どこまで確かめ、誰が責任を持つか」

新しい第4章は9つの中項目に分かれます。5つの章のなかで、いちばん範囲が広い章です。

中項目ごとの出題のされ方

中項目	主な用語	問われ方
生成AI利用者の基本マインドセット	一次情報、出力の検証、AIを使わない判断、最終責任は人間	場面ごとの適切な姿勢を選ぶ
生成AIの代表的リスク	ハルシネーション、情報漏えい、名誉毀損、炎上、バイアス、ディープフェイク、フィッシング	場面からリスクの種類を選ぶ
シャドーAIと企業コンプライアンス	シャドーAI、シャドーIT、承認済みツール、個人アカウント、トレーサビリティ	危険性と、会社・従業員の対応を選ぶ
AI出力の評価と検証	検証レベル、ファクトチェック、妥当性レビュー、採用・修正・破棄・専門家確認	用途に合った確認の深さを選ぶ
個人情報・プライバシー・秘密保持	個人情報、個人識別符号、要配慮個人情報、匿名加工情報、仮名加工情報、営業秘密、NDA	定義を選ぶ／入力してよいかを判断する
著作権・知的財産・生成物の権利	著作物、著作者人格権、類似性・依拠性、引用、肖像権、パブリシティ権、利用規約、職務著作	権利の名前／AI生成物の扱いを選ぶ
AI倫理とAI事業者ガイドライン	ELSI、共通の指針10項目、高度なAIシステム、エコーチェンバー、フィルターバブル	指針の名前と内容の対応
AIガバナンスと社内ガイドライン	アジャイル・ガバナンス、承認済みツール、利用ログ、SSO、多要素認証、ISMS、SOC 2	ルールや選定の確認項目を選ぶ
AI法・国際ルール・AI安全保障	AI法、AI基本計画、AI戦略本部、G7広島AIプロセス、EU AI法、リスクベース・アプローチ	法律の性格・組織・国際ルールの対応

第4章を解く軸は「どこまで確かめ、誰が責任を持つか」

第4章の問題は、ほとんどが次の2つの問いに還元できます。

• どこまで確かめるか：出力の正しさ、入力してよい情報か、権利に問題がないか、承認されたツールか
• 誰が責任を持つか：AIではなく使った人。個人ではなく会社として仕組みを作る。法律が枠を作り、ガイドラインが中身を示す

選択肢の傾向も決まっています。「確認する」「範囲を絞る」「あらかじめルールを決めておく」側が正解になりやすく、「AIの出力をそのまま使う」「個人の判断で済ませる」「一律にすべて禁止する」という極端な側は、ほぼ誤りです。

生成AI利用者の基本マインドセット

新シラバスは、第4章の最初に「使う人の姿勢」を置きました。ここが後の中項目すべての前提になります。

生成AIを使ってよい場面、慎重に使う場面、避けるべき場面の目安です。影響が小さく人がすぐ確かめられる用途は積極的に使い、影響が大きい用途ほど確認を厚くし、責任を伴う最終判断や、入力してはいけない情報を扱う作業ではAIに任せません。

検索エンジンと生成AIは何が違うか

検索エンジンは、すでにWeb上にあるページを探して並べます。出典は最初から見えています。生成AIは、学習したデータをもとに、もっともらしい文章をその場で作ります。だから、出典がない、または出典らしく見えるものが実在しないことがあり、内容が事実と違うこと（ハルシネーション）もあります。

このため、生成AIの出力は「答え」ではなく「下書き」として扱い、事実や数値は一次情報（公的機関の発表、原典、公式の資料）で確かめる、というのが基本の姿勢です。

AIは補助者であり、最終責任は人間にある

生成AIの出力をもとに判断し、その結果で誰かに不利益が出たとき、責任を負うのはAIではなく、その出力を採用した人と組織です。「AIがそう言ったから」は言い訳になりません。AIは作業を速くする補助者で、判断の主体は人です。

AIを使うリスクと、AIを使わないリスク

新シラバスの特徴的な学習項目が「AIを使うリスクと、AIを使わないリスク」です。

• 使うリスク：誤った出力をそのまま使う、情報漏えい、権利侵害、AIへの過度な依存
• 使わないリスク：作業効率で他社に後れを取る、従業員が隠れて使う（シャドーAI）、AIを適切に使う力が組織に育たない

「リスクがあるから一律に使わない」は正解になりません。用途と影響度に応じて、使い方と確認の深さを決める、というのがこの章の答え方です。

AI時代に求められる人間の役割

AIに作業を任せるほど、人に残るのは次の役割です。

• 目的を決める：何のために、何を作るのかを決める
• 文脈を理解する：社内の事情や相手との関係など、AIが知らない前提を補う
• 判断する：出力を採用するか、直すか、捨てるかを決める
• 批判的に考える：もっともらしい出力ほど疑ってみる

生成AIの代表的リスク

リスクの全体像

生成AIのリスクは、出力内容（ハルシネーション・バイアス）、情報管理（情報漏えい・個人情報）、権利侵害（著作権・肖像権・名誉毀損）、セキュリティ（ディープフェイク・フィッシング・AIエージェントの想定外の挙動）の4つに分けられます。1つの場面に複数のリスクが重なることもあります。

リスク	どんな場面で起きるか
ハルシネーション	存在しない法律の条文や論文、誤った数値を、もっともらしく出力する
情報漏えい	顧客情報や社外秘の資料を、データの扱いを確認していないサービスに入力する
個人情報・プライバシー侵害	本人の同意なく、個人の情報を入力・生成・公開する
著作権・知的財産権侵害	既存の作品によく似た文章や画像を生成して、そのまま公開する
肖像権・パブリシティ権侵害	実在の人物の顔や名前を、本人の許可なく生成物に使う
名誉毀損・信用毀損・炎上	実在の人物や企業について、事実と異なる否定的な内容を生成して発信する
差別・偏見・バイアス	学習データの偏りが出力に表れ、特定の属性の人に不利な判断や表現になる
ディープフェイクによるなりすまし	経営者の声や顔に似せた映像・音声で、送金などを指示される
フィッシング・詐欺・サイバー攻撃への悪用	自然な文面の詐欺メールや、マルウェアの作成、システムの脆弱性探索に使われる
AIエージェントの想定外の挙動	権限を持ったエージェントが誤った操作をする、プロンプトインジェクションで操られる

名誉毀損は「社会的な評価を下げること」、信用毀損は「経済的な信用（支払い能力や商品の品質への信頼）を下げること」です。どちらも、内容が事実と異なる生成物をそのまま発信すると起きます。

ディープフェイクとなりすまし

実在する人物の顔や声の特徴をAIが学習し、別の映像や音声に重ね合わせます。疑ったときは、映像の不自然さを探すより、公式の発信や登録済みの連絡先といった別の経路で確かめます。

ディープフェイクは、実在する人物の顔や声に似せて作られた偽の映像や音声です。精巧なものは見た目では見分けられないので、対処として問われるのは「映像の不自然さを探す」ではなく「別の経路で確かめる」ほうです。上司の声で送金を指示する電話が来たら、その電話で折り返すのではなく、社内の登録済みの連絡先にかけ直します。

フィッシングとソーシャルエンジニアリング

ソーシャルエンジニアリングは、プログラムの欠陥ではなく、人の心理や行動の隙を突いて情報や操作を引き出す攻撃の総称です。メールやWebで偽サイトに誘導するフィッシングが代表例で、生成AIによって不自然な日本語のような「見分ける手がかり」が減りました。

対策として問われるのは、パスワードが漏れても不正にログインされにくくする多要素認証と、重要な操作の前の人間による確認・承認です。

シャドーAIと企業コンプライアンス

新シラバスで新しく独立した中項目です。

シャドーAIが起きる流れと、会社・従業員それぞれの役割です。業務を早く進めたいという正当な動機に、承認済みのツールやルールが追いついていないと、従業員は個人の判断で外部のAIを使います。会社は承認済みツールとルールを用意し、従業員はそれに従い、迷ったら確認します。

シャドーAIとは

シャドーAIは、会社が承認・把握していない生成AIツールを、従業員が自分の判断で業務に使うことです。会社が許可していない機器やクラウドサービスを業務に使うシャドーITの、生成AI版です。

具体例として問われるのは次のような場面です。

• 会社が認めていない無料の翻訳AIに、取引先とのメール本文を貼り付ける
• 会社のアカウントではなく、個人アカウントの生成AIサービスで社内資料を要約する
• 会社が確認していないブラウザ拡張機能のAIアシスタントを入れて、閲覧中の社内システムの画面を読み取らせる

なぜ起きるのか

シャドーAIは、従業員の悪意からではなく、業務を早く進めたいという正当な動機から起きることがほとんどです。会社が承認したツールがない、使い勝手が悪い、申請の手順が分からない、という状況が重なると、従業員は手元の便利なツールを使います。

組織と従業員にもたらす影響

• 情報漏えい：機密情報や個人情報が、データの扱いを確認していないサービスに入力される
• トレーサビリティの欠如：誰が、いつ、何を入力したかが会社に記録として残らず、問題が起きても追跡できない
• 契約違反：取引先との秘密保持契約（NDA）に反するおそれがある
• 出力の品質が管理されない：誤った出力が、確認されないまま社外に出る

会社と従業員の役割

立場	やること
会社	承認済みツールを用意する、入力してよい情報のルールを決める、新しいツールの申請手順を示す、アクセス管理と利用履歴の記録、教育
従業員	承認済みツールだけを使う、入力可能な情報のルールを守る、出力を確認する、迷ったら申請・相談する

「全面禁止」は正解になりません。禁止するだけでは隠れた利用が増えるだけで、かえってシャドーAIを招きます。承認済みのツールという「正しい使い道」を用意することが、シャドーAIへの基本的な対策です。

AI出力の評価と検証

承認されたAIでも出力確認が必要な理由

承認済みのツールで情報漏えいのリスクを抑えても、出力が正しいかどうかは別の問題です。ハルシネーションやバイアス、権利の問題は、どのツールでも起こり得ます。ツールの承認と出力の確認は、別々に必要です。

用途と影響度に応じた検証レベル

出力の使い道と、間違えたときの影響の大きさで、確認の深さを変えます。社内のアイデア出しは軽い確認、社外に出す文書はファクトチェックと権利の確認、契約・医療・法律など影響の大きい判断には専門家の確認を加えます。確認の結果、採用・修正・破棄・専門家確認のいずれかを選びます。

すべての出力を同じ深さで確かめるのは現実的ではありません。新シラバスは、用途と影響度で確認の深さ（検証レベル）を変える考え方を示しています。

用途の例	影響度	確認の深さ
社内のアイデア出し、自分用のメモの要約	小さい	目を通して明らかな誤りがないか見る
社内向けの報告書、議事録	中くらい	事実・数値の確認、抜け漏れの確認
社外に公開する記事、顧客への回答	大きい	ファクトチェック、表現と権利の確認、複数人のレビュー
契約、医療、法律、財務の判断	非常に大きい	上記に加えて専門家の確認

確認する観点

• ファクトチェック：事実・数値・固有名詞・出典が正しいか、情報が最新か。一次情報で確かめる
• 妥当性レビュー：前提条件は合っているか、論理は通っているか、抜け漏れはないか
• 表現・権利・情報の確認：表現は適切か、第三者の権利を侵害していないか、個人情報や機密情報が含まれていないか、差別や偏見を含んでいないか、公開範囲に合っているか

ファクトチェックは「書かれていることが正しいか」、妥当性レビューは「書かれていないことも含めて、結論が妥当か」です。数値がすべて正しくても、前提が間違っていれば結論は使えません。

採用・修正・破棄・専門家確認の判断

確認の結果、出力の扱いは4つに分かれます。

• 採用：問題がなく、そのまま使う
• 修正：誤りや不足を直してから使う
• 破棄：前提から誤っているなど、直すより作り直したほうがよい
• 専門家確認：自分では正しさを判断できない領域なので、専門家に確かめてもらう

個人情報・プライバシー・秘密保持

個人情報・プライバシー・秘密保持の違い

似た言葉ですが、守るものが違います。

• 個人情報：個人情報保護法が定める、生存する個人を識別できる情報
• プライバシー：私生活をみだりに公開されない権利。法律の定義より広い考え方です
• 秘密保持：会社の機密や、取引先と秘密保持契約（NDA）を結んだ情報を外に出さないこと。個人の情報でなくても対象になります

生成AIへの入力で問われるのは、この3つすべてです。個人情報が含まれていなくても、取引先の情報や社外秘の資料は入力してよいとは限りません。

個人情報保護法の用語

個人識別符号は、それ単体で個人を識別できるものとして、個人情報に含まれます。要配慮個人情報は、その中でも取扱いに特別な配慮が必要なものです。機微（センシティブ）情報は、金融分野のガイドラインで範囲をさらに広げたものです。匿名加工情報は、法定の基準で加工して、個人情報の枠から出たものを指します。

個人情報保護法は、生存する個人に関する情報の適正な取扱いについて、事業者が守るべき義務を定めた法律です。「生存する」が定義に入っているため、すでに亡くなった人の情報は個人情報にあたりません。

• 個人識別符号：パスポート番号や健康保険の被保険者番号のように、それだけで特定の個人を識別できるものとして政令で定められたもの
• 要配慮個人情報：人種、信条、社会的身分、病歴、犯罪の経歴など、不当な差別や偏見が生じないよう取扱いに特に配慮を要する情報。取得には原則として本人の同意が必要です
• 機微（センシティブ）情報：金融分野のガイドラインで定められた呼び方で、要配慮個人情報に加えて労働組合への加盟や本籍地なども含みます
• 利用目的・本人同意・第三者提供：個人情報は、特定した利用目的の範囲で使います。目的外の利用や、個人データを第三者に渡すときは、原則として本人の同意が必要です。業務の一部を外部に任せる委託は、第三者提供とは別の扱いになります

匿名加工情報・仮名加工情報・マスキング

「個人情報は加工すれば生成AIに入力できるのか」は、新シラバスに入った学習項目です。加工の種類によって扱いが変わります。

用語	加工の程度	扱い
匿名加工情報	特定の個人を識別できず、元に復元もできないよう、法定の基準で加工	一定の条件のもとで本人の同意なく第三者に提供できる
仮名加工情報	他の情報と照らし合わせない限り特定の個人を識別できないよう、法定の基準で加工	主に社内での分析に使う。第三者への提供は原則としてできない
マスキング	氏名などの一部を伏せ字に置き換える処理そのもの	法定の基準を満たさなければ、引き続き個人データとして扱う

引っかけはここです。氏名を伏せ字にしただけでは、匿名加工情報にも仮名加工情報にもなりません。マスキングは入力する情報を減らす有効な手段ですが、「マスキングしたから自由に使える」という選択肢は誤りです。

生成AIに入力してよいかの判断

個人情報保護委員会は、生成AIサービスの利用について注意喚起を出しています。試験で問われる考え方は次のとおりです。

• 個人情報を含むプロンプトを入力するときは、特定した利用目的を達成するために必要な範囲内であることを、十分に確認する
• 入力した情報が、応答の生成以外の目的（学習への利用など）に使われるサービスかどうかを、規約や設定で確かめる
• 必要のない氏名や連絡先は、伏せ字に置き換えてから入力する

私自身も、ここは用途で線を引いています。資格の学習など、業務と関係のない用途なら無料のサービスも使います。業務の文書は、入力内容が学習に使われない設定になっていることを確認したサービスにしか入れません。無料のサービスは、入力が学習に使われる前提で考えたほうが安全です。出ていくのは、会社や顧客の情報です。試験で問われる「規約や設定で確かめる」は、仕事でもそのまま使う習慣です。

企業機密と営業秘密

営業秘密は、不正競争防止法で守られる、製造方法や顧客名簿のような情報です。保護されるには次の3つの要件をすべて満たす必要があります。

1. 秘密管理性：秘密として管理されていること
2. 有用性：事業活動に有用であること
3. 非公知性：公然と知られていないこと

注意したいのは、社外秘の資料を外部の生成AIサービスに入力すると、「秘密として管理している」とは言いにくくなることです。生成AIへの入力は、情報漏えいの問題であると同時に、営業秘密として守られなくなる問題にもつながります。

出力・共有に情報が残るリスク

入力だけでなく、出力や共有にも情報は残ります。会議の録音から作った要約に個人名や未公開の数字が残ったまま、共有範囲の広いチャンネルに貼られる。生成AIの会話履歴の共有リンクを作ったら、社外の人も見られる設定だった。出力を共有する前に、共有範囲とアクセス権限を確かめることも、入力の確認と同じくらい大切です。

情報漏えいが起きたときの対応

漏えいに気づいたら、隠さずに速やかに報告するのが第一です。会社は、被害の範囲を確認し、拡大を防ぎ、原因を調べて再発を防ぎます。個人データの漏えいで、本人の権利利益を害するおそれが大きい場合には、個人情報保護委員会への報告と本人への通知が義務になります。

著作権・知的財産・生成物の権利

知的財産権の体系

登録が不要なのが著作権、出願や登録が必要なのが産業財産権（特許権、実用新案権、意匠権、商標権）です。肖像権とパブリシティ権は人に関する権利、営業秘密と限定提供データは不正競争防止法が守る情報です。

権利	守るもの	登録
著作権	小説・写真・イラストのように創作的に表現されたもの	不要（創作した時点で発生）
特許権	新しく考え出した技術上の仕組み（発明）	必要（出願・登録）
意匠権	製品の形状・模様・色彩などの見た目のデザイン	必要
商標権	商品やサービスの目印（マーク・名称）	必要

著作権は「アイデア」ではなく「表現」を守ります。同じ作風や同じテーマというだけでは、著作権の侵害にはなりません。

著作権の中身：財産権と著作者人格権

著作権は、大きく2つに分かれます。

• 著作権（財産権）：作品をコピーする複製権、作品をもとに別の作品を作る翻案権など、作品の利用を許諾したり禁止したりできる権利。他人に譲ることができます
• 著作者人格権：作品を公表するかを決める公表権、名前を表示するかを決める氏名表示権、作品を勝手に改変されない同一性保持権。作者の人格的な利益を守る権利で、他人に譲ることができません

生成AIで他人の文章を「要約」「書き換え」させて公開すると、翻案権や同一性保持権の問題になり得ます。

生成AIの段階ごとに関係する権利

生成AIと著作権の関係は、入力（学習・プロンプト）→ 生成 → 利用の段階ごとに分けて考えます。

AI学習と著作権

著作権法には、著作権者の許諾がなくても作品を使える場面を定めた権利制限規定があります。AIの学習のような情報解析のための利用は、この規定によって原則として許諾なく行えます。ただし、作品の表現そのものを楽しむ目的を含む場合や、著作権者の利益を不当に害する場合は対象外です。

第三者コンテンツをAIに入力するリスク

他人の記事や画像をプロンプトに入れて「これと同じような作品を作って」と指示すると、生成物が元の作品に似る可能性が高まります。入力した時点の問題より、生成物がどう使われるかが問題になります。

引用・転載・要約・翻案の違い

用語	意味	許諾
引用	自分の文章が主で、他人の作品を必要な範囲で示す。出所を明示し、引用部分を区別する	条件を満たせば不要
転載	他人の作品をそのまま載せる	原則必要
要約	内容を短くまとめる。表現が残れば翻案にあたり得る	場合による
翻案	元の作品をもとに、表現を変えて新しい作品を作る	原則必要

AI生成物の著作物性と、侵害の判断

利用者の創作的な関与があったと認められる場合には、その利用者の著作物として著作権が生じ得ます。既存の著作物を侵害しているかは、文化庁の考え方では、類似性と依拠性の2つで判断されます。

AI生成物の権利帰属について問われる答えは、「利用者の創作意図と、創作的な寄与（関与）があったと認められる場合には、その利用者の著作物として著作権が生じ得る」です。短い指示を1回出しただけの生成物は、著作物と認められない場合があります。「AIが作ったものには一切著作権が生じない」「常にAIの開発企業に帰属する」という選択肢は誤りです。

侵害しているかどうかは、文化庁の「AIと著作権に関する考え方」が示す2つの要素で判断されます。

• 類似性：既存の著作物と似ているかどうか
• 依拠性：既存の著作物に依拠して（それをもとにして）作られたかどうか

この2語が複数選択でそのまま正解になります。

会社の業務として従業員が作り、会社の名義で公表する作品は、一定の条件を満たすと会社が著作者になります。これを職務著作といいます。

肖像権・パブリシティ権

• 肖像権：本人の許可なく容姿を撮影されたり、公表されたりしないことを守る権利。人格的利益の側で、誰にでもあります
• パブリシティ権：著名人の氏名や肖像が持つ顧客吸引力を、本人が経済的に利用できる権利。経済的価値の側の権利です

実在の人物に似せた画像を生成AIで作って広告に使うと、どちらの権利も問題になり得ます。使う前に本人の同意が必要です。

AIサービスの利用規約・ライセンス・透明性

生成物を使ってよいかは、著作権法だけでなく、そのサービスの利用規約でも決まります。

• 商用利用が認められているか（無料プランでは認められないことがある）
• 生成物の権利が誰に帰属すると定めているか
• 入力した内容を学習に使うか
• 提供事業者が、学習データや安全対策をどこまで公開しているか（提供事業者の透明性）

生成AIが出力したプログラムには、OSS（オープンソースソフトウェア）のコードが含まれることがあります。OSSはライセンスごとに、著作権表示を残す、改変したコードを公開するといった条件があるため、そのまま製品に組み込む前に確認が必要です。

商用利用・社外公開前に確認すべきこと

生成AIで作った記事やイラストを社外に公開する前の確認は、次の3つにまとまります。

• 事実：数値や固有名詞が、裏づけとなる資料と合っているか
• 権利：既存のキャラクターや作品、実在の人物、他社の商標に似ていないか
• 規約：利用しているサービスで、商用利用が認められているか

AI倫理とAI事業者ガイドライン

AI倫理とELSI

AI倫理は、AIを開発・利用するときに守るべき価値や原則のことです。ELSI（Ethical, Legal and Social Issues）は、新しい技術が社会に広がるときに生じる倫理的・法的・社会的な課題をまとめて指す言葉です。技術的にできるかどうかだけでなく、「そうしてよいのか」「法律はどうか」「社会にどう受け止められるか」を合わせて考える、という視点です。

AI事業者ガイドラインの共通の指針

AI事業者ガイドラインが示す共通の指針10項目です。人間中心を土台に、人への不利益を防ぐ項目（安全性・公平性・プライバシー保護・セキュリティ確保）、説明と責任の項目（透明性・アカウンタビリティ）、使う力を育てる教育・リテラシー、社会と協力して取り組む公正競争確保とイノベーションに分けて整理しています。

AI事業者ガイドラインは、総務省と経済産業省がまとめた、AIを開発・提供・利用する事業者向けのガイドラインです。AIに関わる立場を、AI開発者（AIモデルを作る）・AI提供者（AIを組み込んだサービスを届ける）・AI利用者（事業でAIを使う）の3つに分け、共通して取り組む指針を示しています。

指針	内容
人間中心	AIは人の能力を拡張するために使い、人間の尊厳と自律を尊重する。判断と決定は人が行う
安全性	人の生命・身体・財産などに危害を与えないようにする
公平性	特定の個人や集団への不当な差別や偏見が生じないようにする
プライバシー保護	個人の情報とプライバシーを尊重し、守る
セキュリティ確保	不正な操作や攻撃から、AIシステムを守る
透明性	AIを使っていることや、判断の根拠を、関わる人が確認できるようにする
アカウンタビリティ	AIの利用で生じた結果について、説明し、責任を果たす体制を持つ
教育・リテラシー	AIを適切に使うための知識と能力を育てる
公正競争確保	AIをめぐる公正な競争環境を保つ
イノベーション	AIによる新しい価値の創出に、社会と協力して取り組む

透明性とアカウンタビリティは似ていますが、透明性は「見せる」、アカウンタビリティは「説明して責任を負う」で分けられます。

また、生成AIのような高度なAIシステムに関わる事業者には、影響の大きさに応じた追加のリスク管理が求められています。これは後で触れるG7広島AIプロセスの国際指針を反映したものです。

生成AIが社会に与える影響

新シラバスは、個々の企業の話だけでなく、社会全体への影響も扱います。

• 偽情報・誤情報：偽情報は意図的に作られた誤った情報、誤情報は意図せず広まった誤った情報。生成AIはどちらも大量に作れてしまいます
• エコーチェンバー：似た意見の人どうしで情報をやり取りするうちに、その意見が強化されていく現象
• フィルターバブル：アルゴリズムが好みに合う情報ばかりを表示し、異なる意見が見えなくなる現象
• デジタルタトゥー：一度ネットに公開された情報が、削除しても残り続けること
• 過度な依存：AIに頼りきることで、自分で考え、確かめる力が弱まること
• 雇用・教育・格差：仕事の内容の変化、学び方の変化、AIを使える人と使えない人の差
• 環境負荷：AIの学習や利用には大量の計算資源と電力が必要になる

エコーチェンバーは「人と人のやり取り」、フィルターバブルは「アルゴリズムの表示」で分けられます。

AIガバナンスと社内ガイドライン

AIガバナンスとは

AIガバナンスは、AIのリスクを管理しながら、その利点を生かすための組織の仕組みです。AIの技術や社会の状況は変化が速いため、一度決めて終わりではなく、環境とリスクの分析 → 目標の設定 → 仕組みの設計 → 運用 → 評価を繰り返して見直していきます。この進め方をアジャイル・ガバナンスといいます。最初に行うことは自社を取り巻く環境と、AIの利用に伴うリスクの分析です。

社内ガイドラインに盛り込む項目と、それを定着させる仕組みです。承認済みツール、入力してよい情報のレベル分け、出力の扱い、申請と承認の流れを決め、教育で周知し、利用ログのモニタリングで運用を確かめ、継続的に見直します。

社内ガイドラインに盛り込む基本項目

• 承認済みツールの一覧と、その利用目的
• AIツールのレベル分けと入力情報のルール：たとえば「社外秘まで入力してよいツール」「公開情報だけ入力してよいツール」のように、ツールごとに入力可能な情報を決める
• 新しいAIツールの申請と承認フロー：使いたいツールがあるときに、誰に何を申請すればよいか
• AIが出力したデータの取り扱い：出力の確認、社外に出す前の承認、AIを使ったことの表示
• インシデント対応：情報漏えいや誤った出力が見つかったときの報告先と手順

AIツールを選定する際の確認項目

観点	確認すること
データの扱い	入力が学習に使われるか、データの保存・処理場所（国内か海外か）、保存期間、データ移転
セキュリティ	通信経路の暗号化、シングルサインオン（SSO）や多要素認証への対応、アクセス管理
第三者認証	情報セキュリティの管理体制を示すISMS（ISO/IEC 27001）や、内部統制の第三者評価であるSOC 2を取得しているか
契約	稼働率などのサービス品質を約束するSLA、利用規約、提供事業者の透明性
提供形態	クラウドで使うか、社内の閉域網やオンプレミス、社内で動かすローカルLLMにするか

機密性の高い情報を扱う業務ほど、外部に出ない提供形態（閉域網・オンプレミス・ローカルLLM）が選択肢になります。

API・AIエージェント利用時のコスト・利用量の管理

生成AIをAPIで使ったり、AIエージェントに作業を任せたりすると、利用量に応じて料金がかかります。

• APIキーの管理：キーが漏れると第三者に使われ、費用が発生する。共有せず、権限を絞る
• レート制限：一定時間あたりの利用回数に上限を設け、想定外の大量利用を防ぐ
• 利用ログとコスト管理：誰がどれだけ使っているかを記録し、予算を超えないよう監視する

AIエージェントは処理を何度も繰り返すことがあるため、気づかないうちに利用量が膨らむことがあります。

社内ルールを定着させる体制と、継続的な見直し

ルールは作っただけでは守られません。教育で目的と内容を伝え、モニタリングで実際の使われ方を確かめ、新しいツールや法令の変化に合わせて継続的に見直す、という運用が必要です。

AI法・国際ルール・AI安全保障

AI法の仕組み

AI法は、基本理念と国・事業者・国民の役割を定め、内閣に置かれたAI戦略本部がAI基本計画の案を作ります。罰則のない、推進のための枠組みを定める法律です。右側は国際的なルールで、G7広島AIプロセスの国際指針・国際行動規範と、リスクに応じて規制するEUのAI法を並べています。

AI法は、正式名称を「人工知能関連技術の研究開発及び活用の推進に関する法律」といい、2025年6月に公布されました（旧シラバスでは「AI新法」と呼んでいました）。

• 目的：AI関連技術の研究開発と活用を総合的・計画的に推進し、国民生活の向上と国民経済の発展に寄与する
• 性格：基本理念と、国・地方公共団体・研究機関・事業者・国民の役割を定める法律。罰則を伴う規制法ではない
• イノベーション促進とリスク対応の両立：推進を基本としつつ、不正な目的での利用などのリスクにも対応する
• AI戦略本部：内閣に置かれ、内閣総理大臣を長として、AIに関する政策を総合的に進める組織
• AI基本計画：AI戦略本部が案を作成し、閣議決定を経て政府が定める計画
• 適正性確保指針：AIの研究開発と活用が適正に行われるよう、国が示す指針

事業者の役割として問われるのは、「AIを積極的に活用して事業の効率化や新しい産業の創出に努めるとともに、国や地方公共団体の施策に協力する」ことです。努める、協力する、という形で定められている点が特徴です。

AI法・ガイドライン・既存法令の関係

AI法は推進の枠組みを定める法律で、個人情報や著作権のルールを置き換えるものではありません。

• AI法：国としての推進の枠組み
• AI事業者ガイドライン：事業者の具体的な取り組み方を示す、法的な拘束力のないソフトロー
• 既存の法令：個人情報保護法、著作権法、不正競争防止法などは、AIを使う場合にもそのまま適用される

「AI法ができたので、AIを使う場合は個人情報保護法が適用されない」という選択肢は誤りです。

G7広島AIプロセスと海外のAI規制

• G7広島AIプロセス：2023年のG7広島サミットをきっかけに始まった、生成AIに関する国際的なルール作りの枠組み。高度なAIシステムを開発する組織向けの国際指針と国際行動規範をまとめました
• EU AI法（EU AI規則）：EUのAI規制法。AIをリスクの大きさで分類し、許容できないリスクのAIは禁止、高リスクのAIには厳しい義務を課すリスクベース・アプローチをとります。違反には制裁金があります

日本のAI法が「推進を中心にした法律」なのに対し、EU AI法は「リスクに応じて規制する法律」という違いで覚えておくと、対比の問題で迷いません。

AIと安全保障・国産AI・AI人材

AIは、安全保障や電力・通信・金融などの重要インフラ、サイバーセキュリティにも関わります。外国のAIだけに頼ると、データの扱いや、サービスが使えなくなったときの影響を自国でコントロールできません。そのため、国産AIや国内基盤モデルの開発、それを支えるAI人材の育成が重要とされています。障害や攻撃から立ち直る力（レジリエンス）も、この文脈で問われます。

継続的な情報収集とリスキリング

AIの技術も法律もガイドラインも、変化が速い分野です。一度学んで終わりではなく、新しい情報を集め続けること、仕事の変化に合わせて新しい技能を身につけるリスキリングが、利用者にも組織にも求められています。

第4章の形式に合わせた例題3問

例題1：シャドーAI

問題： ある会社では、社内で使ってよい生成AIツールを定めていますが、営業部の担当者が、会社が認めていない無料の翻訳AIサービスに、取引条件を含むメールの本文を貼り付けて翻訳していたことが分かりました。会社がとる対応として、最も適切なものを1つ選びなさい。

1. 担当者個人の判断で使ったことなので、会社としての対応は不要とする
2. 業務を速く進めたいという動機を踏まえ、承認済みの翻訳手段と入力してよい情報のルールを示し、教育で周知する
3. 再発を防ぐため、業務でも私生活でも生成AIを使わないよう全社員に誓約させる
4. 翻訳は新しく文章を作るわけではないので、問題はないと周知する

答え：2

会社が承認していないAIツールを業務に使うのはシャドーAIで、取引条件という機密情報が外部に出ています。シャドーAIは業務を速く進めたいという正当な動機から起きることが多いため、承認済みの手段とルールを用意して周知するのが基本的な対策です。1は、情報が漏えいすれば会社の責任も問われるため誤りです。3のように一律に禁止すると、かえって隠れた利用を招きます。4は、用途が翻訳でも情報は外部に送られているため誤りです。

例題2：個人情報の加工

問題： ある企業が、保有する顧客リストから氏名の欄を伏せ字に置き換えたうえで、外部の生成AIサービスに入力して分析しようとしています。個人情報保護法の観点から、この情報の扱いとして最も適切なものを1つ選びなさい。

1. 氏名を伏せたので匿名加工情報にあたり、本人の同意なく自由に提供できる
2. 氏名を伏せたので仮名加工情報にあたり、外部のサービスに自由に入力できる
3. 法律の定める加工基準を満たしていないため、引き続き個人データとして扱う必要がある
4. 要配慮個人情報にあたるため、社内での利用も含めて扱うことができない

答え：3

氏名を伏せ字にする処理はマスキングで、匿名加工情報や仮名加工情報の加工基準を満たすものではありません。ほかの項目の組み合わせから個人を特定できる可能性が残るため、処理後も個人データとして扱います。外部のサービスに入力する場合は、利用目的の範囲内かを確かめ、入力内容が学習に使われないかを規約や設定で確認します。4の要配慮個人情報は、人種・信条・病歴などに関する情報を指すもので、この場面には当てはまりません。

例題3：検証レベル

問題： ある会社で、生成AIの出力を「社内の企画会議のアイデア出し」「自社サイトで公開する製品の解説記事」「取引先と結ぶ契約書の条文案」の3つに使おうとしています。用途と影響度に応じた検証の考え方として、最も適切なものを1つ選びなさい。

1. 承認済みのツールを使っていれば、3つとも出力をそのまま使ってよい
2. 誤りがあってはいけないので、3つとも同じ深さで、法務の専門家が確認する
3. アイデア出しは軽く確認し、解説記事は事実と権利を確かめ、契約書の条文案は専門家の確認を加える
4. 契約書の条文案は形式が決まっているので、アイデア出しより確認を軽くしてよい

答え：3

確認の深さは、用途と、間違えたときの影響の大きさで変えます。社内のアイデア出しは影響が小さく、公開記事は事実と権利の確認が必要で、契約書は影響が大きいため専門家の確認を加えます。1は、承認済みのツールでもハルシネーションは起こるため誤りです。2はすべてを最も重い確認にしており、現実的ではありません。4は影響度の大小が逆です。

例題3問では物足りない人に向けて、第4章の練習問題6問を解説つきで無料公開しています。登録不要で、そのまま読めます。

▶ 【無料】第4章 生成AIのリスク予防・AI倫理・ガバナンス の練習問題6問を解く

よくある質問

Q. 旧シラバスで勉強した内容は無駄になりますか？

なりません。個人情報保護法の用語、知的財産権の体系、AI生成物の著作権、AI事業者ガイドラインの指針、AI法は、新シラバスでもそのまま問われます。一方で、インターネットリテラシーの4つの要素、スミッシングやヴィッシングといった攻撃手口の細かい名前、AI社会原則の3つの基本理念は、新シラバスの学習項目からは外れました。空いた分を、シャドーAI、出力の検証、社内ガイドライン、国際ルールに回してください。

Q. 法律の条文まで読む必要がありますか？

ありません。問われるのは、用語の定義と、場面に当てはめたときの判断です。ただし「生存する個人」「秘密管理性・有用性・非公知性」「類似性と依拠性」のように、定義の中の言葉がそのまま選択肢の見分けに使われる部分があるので、定義文は言い回しごと覚えておくのが安全です。

Q. AI事業者ガイドラインは最新版を読むべきですか？

試験対策としては、受験する回のシラバスが前提にしている内容に合わせてください。ガイドラインは改訂が続いており、2026年3月31日に第1.2版が公開されています。仕事で参照する場合は最新版を、試験対策としてはシラバスの学習項目を、と使い分けるのが現実的です。

Q. 業務で生成AIを使うとき、この章の知識はどう効きますか？

効くのは、判断が必要な場面の手前で引っかかるようになることです。私の場合は、貼り付けようとしている文書に顧客の氏名や連絡先が残っていないか、そのサービスが入力内容を学習に使う設定になっていないか、の2点を先に見るようになりました。どちらも、この章で覚えた言葉がそのまま確認項目になっています。覚えた用語のぶん、確認する手順が増える、というのがこの章の効き方です。

まとめ

• 第4章は「どこまで確かめ、誰が責任を持つか」が分かると選択肢を選べる
• 生成AIの出力は下書き。事実は一次情報で確かめ、最終責任は人間が持つ。「一律に使わない」も正解ではない
• シャドーAIは承認されていないAIツールの業務利用。全面禁止ではなく、承認済みツールとルールで防ぐ
• 出力の確認は、用途と影響度で深さを変える。結果は採用・修正・破棄・専門家確認のいずれか
• マスキングだけでは匿名加工情報にも仮名加工情報にもならない。処理後も個人データとして扱う
• 著作権は表現を守る。侵害の判断は類似性と依拠性。著作者人格権は譲渡できない
• AI事業者ガイドラインの共通の指針は10項目。透明性は「見せる」、アカウンタビリティは「説明して責任を負う」
• 社内ガイドラインは、承認済みツール、入力情報のレベル分け、申請フロー、出力の扱いを決め、教育と見直しで定着させる
• AI法は罰則のない推進法。AI戦略本部が基本計画の案を作る。EU AI法はリスクベースの規制法

次の章では、生成AIを実際の業務で使う方法を扱います。プロンプトの作り方と、業務ごとの使い方です。

▶ 生成AIパスポート 第5章「生成AIの実践と活用事例」の要点｜プロンプト・業務別の使い方・注意点

前の章はこちらです。

▶ 生成AIパスポート 第3章「AIエージェント」の要点｜RAG・MCP・Agent Skills・安全に使う原則

試験の概要と、勉強の順番は親記事に書いています。

▶ 生成AIパスポート試験の出題範囲を章別に学ぶ｜5章まとめと学習ロードマップ

実際の試験の様子と、合格までにかけた勉強時間は、合格体験記にまとめています。

▶ 【合格体験記】生成AIパスポートの勉強方法｜AIFとAI-900のあと、約10時間で合格した