Unit C-2 著作権・バイアス・検証: 使う前の作法

対応コンピテンシー: C2, C3, C4 ｜ 所要時間の目安: 10分

なぜこのスキルが必要か

ある看護師が、生成AIで新人向けの研修資料を手早く作りました。スライドにはAIが生成したイラストを載せ、本文には有名な教科書の内容をAIに要約させた文章を使い、内容の確認はせずにそのまま院内に配布しました。この一連の流れには、著作権(他人の著作物と生成物の扱い)、バイアス(出力に含まれる偏り)、検証(業務で使う前の人間による確認)という3つの落とし穴がすべて含まれています。生成AIの出力を「下書き」から「業務で使うもの」に格上げする前に必要な作法を、このユニットでまとめて身につけます。

コアの解説

著作権 — 生成物と学習データをめぐる留意点

生成物をそのまま使う前に確認する。 生成AIの出力には、学習データに含まれた既存の文章・イラスト・キャラクターに酷似したものが混じることがあります。公開・配布する前に、既存の作品に酷似していないかを確認し、利用しているサービスの規約(商用利用・二次利用の条件)も確認します。
他人の著作物を入力するときは目的を考える。 教科書・論文・Webページなどの著作物をAIに入力して要約や翻案を作り、それを配布する行為は、複製・翻案の問題が生じえます。自分ひとりの学習のための利用と、資料として印刷・配布する利用とでは扱いが変わりうるため、配布目的では慎重な検討(権利者の許諾等)が必要です。
出典は実物で確認する。 AIが挙げる文献名・ガイドライン名は、実在の文書の「書式」を学習して生成されたものであり、実在の保証はありません。出典は必ず一次情報にあたって、実在と内容の一致を確認します(Unit A-1 のハルシネーションの応用編です)。

バイアス — 出力には偏りが混ざりうる

生成AIは学習データ(主にインターネット上のテキストや画像)の統計的パターンを反映して出力を作ります。学習データに含まれる言語・地域・性別・時代・価値観の偏りは、出力にも現れやすくなります。偏りの原因は学習データだけでなく、アルゴリズムや学習の過程、プロンプトの書き方、参照させた情報にもあります。
例: 「医師のイラスト」で男性ばかりが描かれる、英語圏の医療制度を前提にした説明が返ってくる、古い慣行が「標準」として示される、など。
バイアスは技術的に完全には除去できません。「出力には偏りが混ざりうる」という前提に立ち、気づいた偏りはプロンプトで明示的に指定する(例: 「性別・年齢は多様に」)などで補正し、最終的には人の目で確認しながら使います。

検証 — 業務で使う前の最後の関門

生成AIの出力を業務に用いる前には、人間による検証が必須です。流暢さ・具体性・自信ありげな文体は正しさの根拠になりません。
検証の3観点:
1. 事実確認 — 数値・用法・推奨内容が、添付文書・ガイドライン・原典などの一次情報と一致するか
2. 対象者への適合 — 想定する読み手(患者・新人・学生)や自施設の状況に合った内容・表現か
3. 有害性 — 誤解や不安を招く記載、不適切な助言、差別的・排他的な表現がないか
検証は出力ごとに行います。「このAIは前に正しかったから今回も大丈夫」は成り立ちません。

コピー可能なプロンプト

自分の成果物(患者向け説明文や研修資料の下書きなど、患者情報を含まないもの)を検証する際の観点を、AI自身に整理させるプロンプトです。

【演習: 使う前の自己点検】
以下は、私が生成AIを使って作った文書の下書きです。この文書を業務で
使う前の自己点検として、次の3つの観点から点検項目を挙げ、疑わしい箇所を
具体的に指摘してください。

1. 事実確認: 一次情報(添付文書・ガイドライン等)との照合が必要な記載は
   どこか。数値・固有名詞・推奨内容をすべて列挙してください。
2. 対象者への適合: 想定する読み手[ここに読み手を記入。例: 高齢の患者、
   新人看護師]に合わない表現・内容はないか。
3. 有害性: 誤解や不安を招く記載、不適切な助言、偏った表現はないか。

最後に「この点検はAIによる補助であり、最終確認は人間が一次情報に
あたって行う必要がある」ことを前提に、人間が最優先で確認すべき箇所を
3つ選んでください。

--- 下書きここから ---
[あなたの下書きを貼り付け。手元にない場合は、まず「高血圧の患者さん向けに
減塩のコツを説明する文書の下書きを300字で作ってください」と依頼して、
その出力を点検対象にしてください]
--- ここまで ---

手順

点検対象の下書きを用意します。手元になければ、プロンプト内の例のとおり、まずAIに患者向け説明文の下書きを作らせてください(患者情報は使わないこと)。
上のプロンプトの[ ]内を埋めて、下書きと一緒にAIに送信します。
AIが列挙した「事実確認が必要な記載」のうち、最優先の1〜2個を実際に一次情報(添付文書、ガイドライン、公的機関のサイトなど)で確認してみます。
AIの指摘に、偏り(バイアス)の観点が抜けていないかを自分で点検します。読み手の年齢・性別・生活背景について、暗黙の前提が紛れ込んでいないでしょうか。
「AIの点検で合格だったから完成」ではなく、「人間が最終確認すべき箇所リスト」が手元に残った状態がこの演習のゴールです。

期待される出力の例

AIは次のような点検結果を返します(説明用の例です)。

1. 事実確認が必要な記載:
   - 「1日の塩分摂取量は6g未満が目標」→ 高血圧治療ガイドラインの
     最新版と照合が必要
   - 「減塩調味料なら自由に使ってよい」→ カリウム含有量など、
     腎機能低下例への注意が抜けている可能性
2. 対象者への適合:
   - 「アプリで塩分を記録しましょう」→ 高齢の読み手には
     代替手段(紙の記録表)の併記が望ましい
3. 有害性:
   - 「塩分を守らないと脳卒中になります」→ 不安をあおる断定表現。
     リスクの説明に言い換えるべき

人間が最優先で確認すべき箇所:
(1) 目標値の数値 (2) 減塩調味料の記載 (3) 断定表現の言い換え

うまくいかない典型パターンと対処

AIの点検で「問題ありません」と返ってきて安心してしまう: AIの点検もまた検証が必要な出力です。「問題なし」の回答は検証の完了を意味しません。人間が一次情報にあたる工程を必ず残してください。
点検項目が一般論ばかりで具体性がない: 下書きの用途・読み手・使用場面をプロンプトに具体的に書き足すと、指摘が具体的になります(領域Bで学んだコンテキスト付与の応用です)。
著作権の判断をAIに委ねたくなる: 「この画像は著作権的に大丈夫?」というAIの回答は保証になりません。判断に迷う場合は、所属組織の担当部署や規約の原文にあたってください。

安全上の注意

患者情報を入力しないでください

点検対象の下書きに、実在の患者に関する情報を含めないでください。また、点検の練習のためであっても、契約や規約で外部送信が禁じられている文書(院内規程、未公開の研究データなど)を入力してはいけません。

自己チェッククイズ

このユニットの理解度を確認できます。合否の判定はなく、記録も保存されません。

成果物フィードバック

演習を行った対話の最後に、フィードバックAIページの採点プロンプトを貼り付けて送信すると、AIから講評が返ってきます。送信するときは、先頭に「Unit C-2の成果物です」と書き添えてください。一次情報で実際に確認した結果を対話に書き込んでおくと、より具体的な講評になります。この提出は任意で、領域Cの目録発行の条件ではありません。

参考資料(任意)

香田将英「生成AIの利用に際して生じうる倫理的な課題」(日本医学教育学会 ICT教育委員会シンポジウム第5回, 2026-04-21): スライドPDF / 講演動画
小林直人「医学生がレポート課題で生成AIを使ってみた件」(日本医学教育学会 ICT教育委員会シンポジウム第1回, 2025-11-20): スライドPDF / 講演動画
村岡千種「生成AIの学生利用に関する大学の取り組み」(日本医学教育学会 ICT教育委員会シンポジウム第3回, 2026-01-20): スライドPDF / 講演動画

参照しなくても本ユニットは完結します。