AI・マーケトレンド
Writer /
この記事の著者
AIが自信満々に間違ったことを言う――いわゆるハルシネーション（幻覚）は、業務でAIを使う上で最大のリスクです。存在しない判例を引用した資料、実在しない統計数字が入った記事、微妙に間違った料金を案内するメール。どれも「それらしく見える」だけに、確認をすり抜けて社外に出てしまう事故が実際に起きています。
この記事では、ハルシネーションがなぜ起きるのかという仕組みから、業務で特に危険な場面、プロンプトとチェック体制の両面から防ぐ7つの対策、そして社内ルール化までを解説します。「AIは使いたいが、誤情報が怖くて任せきれない」という方に向けた実務ガイドです。
おすすめの無料ドヤAIサービス！
ドヤカンニング
Web会議で相手の質問をAIが聞き取り、回答のカンペをリアルタイムで表示します。商談や面接の受け答えを支援します。
30秒で分かる結論
ハルシネーションはAIの故障ではなく仕様。ゼロにはできない前提で、業務フローで抑え込む
危険なのは「固有名詞・数字・出典・最新情報」の4つ。ここだけは人間の確認を必須にする
プロンプト側の対策で最も効くのは「不明な点は不明と書く」の明記と、参照資料の添付
AIの出力を「下書き」と位置づけ、事実確認の責任者を決めれば、実務リスクはほぼ制御できる
対策をチームに広げるには、個人の注意ではなくガイドライン化が必須
ハルシネーションとは？なぜ起きるのか
ハルシネーションとは、AIが事実に基づかない内容を、もっともらしい形で出力する現象です。存在しない書籍を「参考文献」として挙げる、実在しない機能を製品説明に含める、数字を勝手に補完する、といった形で現れます。
なぜ起きるのか。生成AIは「正しい事実のデータベースを検索している」のではなく、「文脈に続く確率が高い言葉を並べている」からです。つまり、知らないことを聞かれたときに「知らない」と答えるより、それらしい続きを生成するほうが自然な動作なのです。2026年7月時点で各社モデルの精度は大きく向上していますが、この仕組み自体は変わっていないため、ハルシネーションは「たまに起きるバグ」ではなく「常に起こりうる仕様」として扱う必要があります。
実務でよく見る具体例を挙げると、①「業界の市場規模を教えて」に対して実在しない調査会社名つきの数字を返す、②製品比較で競合製品に存在しない機能を記載する、③「この判例について」への回答で判例番号ごと創作する、④社内資料の要約で原文にない結論を付け足す、といったパターンです。共通するのは、文章として一切不自然ではないこと。だから読んだだけでは見抜けません。
重要なのは、これはAI活用をやめる理由にはならないということです。人間の作業にもミスは一定確率で発生します。対策の目的はゼロにすることではなく、「誤情報が確認されないまま社外に出る」経路を塞ぐことです。
業務で危険な4つの場面
すべての出力を疑っていたらAIを使う意味がありません。重点的に確認すべきは次の4つです。
固有名詞：会社名、製品名、人名、法律名。微妙に違う名前を生成することがある
数字：統計、料金、シェア、日付。「約7割」のような数字はもっともらしく捏造されやすい
出典・引用：存在しない論文、記事、判例を挙げることがある。出典はURLまで実在確認が必須
最新情報：AIの学習データには期限がある。「現在の」情報を聞くと古い情報や推測で答えることがある
逆に、文章の整形、要約、構成案づくり、アイデア出しのような「入力した情報の範囲内で加工する作業」はハルシネーションのリスクが構造的に低く、確認コストも小さいです。AIに任せる業務を選ぶ段階で、この区別を入れておくと運用が楽になります。
三森の実務メモ：私は記事制作でAIを毎日使いますが、ルールは単純で「AIが出した数字と固有名詞は、原典を自分で開くまで使わない」の1つだけです。以前、業界統計の「◯◯%」という数字をそのまま使いそうになり、原典を確認したら該当する統計自体が存在しなかったことがあります。以来、数字はAIに「探させる」までにして、採用判断は必ず原典で行っています。この1ルールだけで事故の大半は防げます。
調査データで見るハルシネーション事故の実態
「誤情報が社外に出る事故」は、どの程度起きているのでしょうか。株式会社スリスタが全国の会社員400名に実施した調査では、業務でAIを使ってヒヤッとした経験、または実際に問題が起きた経験がある人は12.8%（51/400）でした。AI利用者153名に絞ると33.3%で、AIを業務で使う人の3人に1人が何らかの危ない経験をしています。
事故・ヒヤリハットの経験者51名に内容を複数回答で尋ねた結果のうち、ハルシネーションに直結するものは次の2つです。
AIが生成した誤情報をそのまま納品・公開した（ハルシネーション事故）：33.3%（17名）。機密情報の入力（37.3%）に次ぐ2位
AIの回答を鵜呑みにして誤った意思決定をした：17.6%（9名）
前者は「社外に出た誤り」、後者は「社内の判断を誤らせた誤り」です。対策を考えるときは、公開物のチェックだけでなく、会議資料や意思決定の根拠にAIの回答を使う場面も対象に含める必要があります。
また、AI利用者の事故経験率は、利用頻度「ほぼ毎日」で38.7%、「週に数回」で36.0%、「週1回程度」で30.4%、「月数回」で26.9%と、使う頻度が高いほど高くなっていました。慣れてくるほど確認を省きやすくなる点は、運用ルールを作るうえで意識しておきたいところです。
出典：株式会社スリスタ『企業の生成AI活用実態調査2026』（n=400）。事故の類型や役職別・業界別の内訳は業務AI事故・ヒヤリハット実態2026で公開しています。
ハルシネーションを防ぐ7つの対策
対策1：「不明な点は不明と書く」を明記する
最も簡単で効果が大きい対策です。プロンプトの制約に「不明な点は推測で埋めず『不明』と記載する」と書くだけで、AIが空欄をもっともらしく埋める動作をかなり抑制できます。プロンプト全体の型は仕事で使えるプロンプトの書き方で解説しているので、制約の置き場所に迷う方は参考にしてください。
対策2：参照資料を渡し、その範囲で答えさせる
AIの記憶に頼らせず、自社資料・製品情報・原典データを貼り付けて「この資料の範囲内で回答する」と指示します。資料にない内容を書かせない構造にすれば、ハルシネーションの入り込む余地が大幅に減ります。
これを仕組みとして常設化したのが、近年よく聞く「RAG（検索拡張生成）」です。社内文書やマニュアルをAIが参照できる形で用意し、回答時に必ずその資料を根拠にさせるアプローチで、要は「参照資料を毎回自動で渡す」手作業を自動化したものと考えれば十分です。専用システムを組まなくても、手元の資料をチャットに貼り付けて範囲を限定するだけで、同じ効果の8割は個人でも今日から得られます。
以下の【参考資料】の範囲内でのみ回答してください。
・資料に記載がない内容は「資料に記載なし」と書く
・資料の内容を要約する際も、数字は資料の表記をそのまま使う
・あなた自身の知識で補完しない
【質問】
（質問内容）
【参考資料】
（製品資料・原典データなどを貼り付け）対策3：出典の提示を義務づけ、URLを実在確認する
事実を含む出力には「出典を併記する」ことを指示します。ただし出典自体が捏造されることもあるため、URLや文献名は必ず人間が実在確認します。「出典が書いてあるから安心」が一番危険です。
対策4：検索連動型の使い方に切り替える
最新情報や事実確認が必要な調査は、Web検索と連動するモード（2026年7月時点では主要AIの多くが対応）を使い、回答の根拠ページを直接開いて確認します。AIの回答は「候補の一覧」、判断材料は原典、という役割分担です。
対策5：工程を分けて「生成」と「検証」を別にする
1つのプロンプトで調査から執筆まで終わらせず、①情報収集→②人間が事実確認→③確認済み情報だけで執筆、と工程を分けます。書く段階のAIには確認済みの材料だけを渡すため、成果物に未検証の事実が混ざりません。
対策6：別のAIまたは同じAIに検証させる
出力を「この文章に含まれる事実の主張を抜き出し、それぞれの確からしさを評価して」と再度かけると、見落としの検出に役立ちます。AI同士のクロスチェックは万能ではありませんが、人間の確認前の一次フィルタとしては有効です。
対策7：最終確認の責任者を決める
技術的対策の最後は体制です。社外に出る成果物（記事、資料、メール）については「AIの出力は下書き。事実確認の完了責任者は◯◯」と明文化します。責任の所在が曖昧なまま「AIが書いたので」と流れることが、事故の最終原因になります。
公開前の事実確認チェックリストと出典確認プロンプト
ここまでの7つの対策を、実際の確認作業に落とし込むためのチェックリストとプロンプトです。社外に出る成果物は、公開・送信の前にこのリストを1回通す運用を想定しています。
事実確認チェックリスト（コピーして使えます）
【AI出力の事実確認チェックリスト】
□ 1. 数字：統計・料金・割合・日付を一覧に抜き出し、すべて原典で照合した
□ 2. 単位と時点：%と件数、税込と税抜、調査年と公開年を取り違えていない
□ 3. 固有名詞：会社名・製品名・人名・法令名の表記を公式サイトで確認した
□ 4. 出典URL：URLを実際に開き、ページが存在することを確認した
□ 5. 出典の中身：そのページに、本文で書いた主張が本当に書かれている
□ 6. 引用：引用文が原文と一字一句一致している（言い換えていない）
□ 7. 最新性：料金・仕様・法令は、確認日時点の公式情報と一致している
□ 8. 資料外の補完：渡した資料に無い内容が、断定の形で混ざっていない
□ 9. 要約のずれ：要約・議事録が原文に無い結論や評価を足していない
□ 10. 確認記録：確認した人・日付・確認できなかった箇所をメモに残した
見落としが起きやすいのは5と9です。出典URLが実在していても、そのページに該当する記述が無いことがあります。また、要約のように「渡した資料の範囲内の作業」でも、原文に無い結論が付け足されることがあります。リスクが低い作業でも、社外に出す場合は確認を省かないでください。
主張ごとに根拠を出させるプロンプト
対策3・対策6をまとめて実行するプロンプトです。主張を1つずつ分解し、根拠の引用文まで出させるため、人間が確認すべき箇所が一覧で分かります。
以下の【文章】に含まれる「事実の主張」（数字・固有名詞・日付・因果関係・引用）を、すべて箇条書きで抜き出してください。
主張ごとに、次の形式で書いてください。
・主張：
・根拠となる出典（URLまたは文献名。分からなければ「不明」）
・出典内の該当箇所の原文引用（引用できなければ「引用不可」）
・確認の優先度（高：数字・料金・法令・人名／中：固有名詞／低：一般論）
制約：
・出典や引用を推測で作らない。分からないものは必ず「不明」と書く
・言い換えた文を引用として書かない
【文章】
（確認したい文章を貼り付け）
手元の原典と照合させるプロンプト
原典（調査レポート、製品資料、議事録の元データなど）が手元にある場合は、照合そのものをAIに下準備させます。最終判断は人間が原典を見て行います。
【下書き】の各文を【原典】と照合し、次の3つに分類してください。
A：原典に同じ内容が書かれている（該当する原典の文を引用）
B：原典に書かれていない、または原典と食い違う（どこが違うかを説明）
C：一般論で、原典との照合が不要
数字は、単位・時点・母数（何人中か）まで一致しているかを確認してください。
B に分類した文は、修正案を出さず、指摘だけにしてください。
【原典】
（原典を貼り付け）
【下書き】
（AIが作った下書きを貼り付け）
修正案を出させないのは、AIが修正の過程で新しい誤りを書き足すのを防ぐためです。修正は、原典を確認した人が行います。
RAGやWeb検索を使っても残る誤りのパターン
上位の解説記事の多くは、RAG（検索拡張生成）やWeb検索連動を「ハルシネーション対策の決め手」として紹介しています。確かに対策2・対策4のとおり有効な手段ですが、導入すれば確認が不要になるわけではありません。資料や検索結果を根拠にしても、次のような誤りは残ります。
検索の取り違え：質問と関係の薄い文書や、改訂前の古い版の資料を拾い、それを根拠に答える
資料とモデル知識の混在：資料に書かれた内容と、モデルが元々持っている知識が区別されないまま1つの回答に混ざる
根拠のすり替え：出典として示されたページは実在するが、そこに書かれていない主張の根拠として使われている
要約のゆがみ：資料の条件や例外（「〇〇の場合を除く」など）が抜け落ち、断定に変わる
検索結果自体の誤り：Web検索で拾ったページが不正確だったり、他サイトの転載で元の数字が変わっていたりする
つまり、RAGやWeb検索は「根拠を探す手間」を減らす仕組みであって、「根拠が正しいかを確かめる工程」を代わってくれるものではありません。導入後も、前の節のチェックリストのうち4〜6と9（出典の中身、引用、要約のずれ）は人間が確認する前提で運用してください。
社内でRAGを使う場合は、参照させる文書の側も管理対象になります。古い版の資料を参照先から外す、文書に作成日と版数を書いておく、といった資料側の整備を一緒に行うと、取り違えを減らせます。
社内ルールにして初めて対策になる
個人の注意力に頼った対策は、担当者が変わった瞬間に消えます。上記の対策を社内ガイドラインに落とし込み、「AIに任せてよい業務／確認必須の業務」「確認の手順」「事故時の報告先」を1枚にまとめておくことをおすすめします。ガイドラインの具体的な作り方とテンプレートは、AI利用ガイドラインの作り方の記事で解説しています。
また、コンテンツ制作のように事実確認が品質に直結する業務では、汎用AIに自由に書かせるのではなく、構成や制約が製品側に組み込まれた特化ツールを使うのも有効な対策です。ドヤAIのドヤ記事作成は、記事生成の工程が構造化されているため、フリーハンドのチャットよりも出力のばらつきを抑えられます。
社内ルールに入れるハルシネーション対策の条文例
同じ調査で、自社にAI利用ガイドラインが「明文化されており社内に周知されている」と答えた人は11.5%、「整備されていない」は48.2%でした。ガイドラインがあっても、ハルシネーション対策が具体的な手順として書かれていなければ、現場は判断できません。ガイドラインに追加する条文の例を示します（編集部が作成した例です。自社の業務に合わせて調整してください）。
【第〇条 AI出力の事実確認】
1. AIの出力は下書きとして扱い、そのまま社外に出してはならない。
2. 次の情報を含む成果物は、公開・送信の前に原典で確認する。
数字（統計・料金・日付）／固有名詞／出典・引用／法令・規約／最新情報
3. 確認は「事実確認チェックリスト」に従い、確認者と確認日を記録する。
4. 原典で確認できない数字・主張は、削除するか「未確認」と明記する。
5. 事実確認の完了責任者は、成果物の発信者の所属長とする。
【第〇条 AIに任せてよい作業】
1. 次の作業は、AIの出力をそのまま社内で使ってよい。
文章の整形・言い換え／構成案／アイデア出し／社内向けメモ
2. 前項の作業でも、社外に出す場合は前条の確認を行う。
【第〇条 誤情報の報告】
1. AIの誤情報に気づいた者は、社外に出たかどうかに関わらず報告窓口に報告する。
2. 報告には「使ったツール」「依頼内容」「誤りの種類」を1行で記載する。
3. 報告者を責めない。報告内容はチェックリストとプロンプトの改訂に使う。
3つ目の報告の条文は、事故を「見える」状態にするためのものです。同調査では、ガイドラインが明文化・周知済みの企業の事故報告率は32.6%、整備されていない企業は5.7%で、5.7倍の差がありました。これは整備した企業で事故が増えたのではなく、報告の仕組みがあるため事故が組織に届いていると読むのが自然です。報告が上がらない状態は「事故が無い」ことを意味しません。
出典：株式会社スリスタ『企業の生成AI活用実態調査2026』（n=400）。整備済み企業の運用サイクルや規模別の進め方は生成AI事故防止ガイドライン策定の実務で公開しています。
ハルシネーションが起きてしまったときの対応
どれだけ対策しても、確認をすり抜ける誤情報はゼロにはなりません。事後対応まで決めておくのが本当の対策です。
即時修正と影響範囲の確認：公開物なら修正し、誤情報がコピー・引用されていないかを確認する。顧客向けメールなら訂正の連絡を先延ばしにしない
原因の記録：「どのプロンプトで」「どんな種類の誤りが」出たかを1行でも記録する。同じ型の事故は必ず再発します
プロンプトとフローへの反映：記録した誤りのパターンを、プロンプトの制約とチェックリストに1行追加する。事故のたびに仕組みが強くなる状態を作る
事故を責める文化にすると、現場はAI利用そのものを隠すようになり、かえって統制が効かなくなります。「報告→仕組みに反映」の流れを明るく回すことが、長期的には最大のリスク対策です。
三森の実務メモ：ガイドラインを作るとき、禁止事項を並べるより「この業務はAIだけで完結してよい」というホワイトリストから書くほうが浸透しました。要約・構成案・下書きはAI完結OK、数字と固有名詞を含む最終稿は人間の確認必須、という2区分だけでも、現場は迷わなくなります。細かすぎるルールは読まれず、結局守られません。
動画で学ぶ
AI活用やマーケティングの実務ノウハウは、YouTubeチャンネル（【ドヤマーケAI】ミツモリ）でも解説しています。記事と併せてご覧ください。
渡した資料の範囲で文章を作らせる使い方（対策2）の実演として、インタビュー音源をNotebookLMに読み込ませて記事にする手順を紹介した動画です。資料を根拠に書かせる流れの具体例としてご覧ください。
同じテーマでGemini・ChatGPT・Claudeに記事を書かせて比べた動画もあります。モデルによって出力がどう違うかを知っておくと、対策6のように別のAIで見比べる際の参考になります。
よくある質問（FAQ）
Q. 最新のAIモデルならハルシネーションは起きませんか？
頻度は下がっていますが、ゼロにはなっていません。2026年7月時点の最新モデルでも、学習データにない固有情報や曖昧な質問に対しては誤った補完が起こります。「新しいモデルだから確認不要」という判断が一番危険です。確認フローはモデルの世代に関係なく維持してください。
Q. ハルシネーションが起きやすい質問の仕方はありますか？
あります。「◯◯の統計を教えて」のように、AIの記憶から具体的な数字を引き出そうとする質問が最も危険です。逆に「この資料を要約して」「この文章を丁寧な表現に直して」のように、渡した情報の加工を頼む使い方は安全度が高いです。事実はAIに聞くのではなく、AIと一緒に探して原典で確認する、が基本姿勢です。
Q. AIが書いた記事をそのまま公開するとSEOに悪影響はありますか？
Googleは「AI生成かどうか」ではなく品質で評価すると明言していますが、ハルシネーションを含む記事は品質そのものが低いため、結果的に評価を落とします。加えて誤情報は企業の信頼を直接損ないます。事実確認と一次情報の追加を前提にすれば、AI活用とSEOは両立します。
Q. 対策を全部やる余裕がありません。最低限どれをやるべきですか？
「不明な点は不明と書く」のプロンプト1行（対策1）と、「数字・固有名詞・出典は原典確認」のルール（対策7の簡易版）の2つです。この2つだけで、社外に誤情報が出る典型的な事故経路はほぼ塞がれます。残りの対策は、AI活用の範囲が広がってから順次足せば十分です。
Q. RAGを導入すればハルシネーションはなくなりますか？
なくなりません。資料を根拠に答えさせることで頻度は下げられますが、関係の薄い資料や古い版を拾う、資料に無い内容をモデルの知識で補う、出典と主張が対応していない、といった誤りは残ります。RAGを使う場合も、社外に出す成果物は出典の中身まで人間が確認してください。
Q. AIで作った議事録や文字起こしの要約にも確認は必要ですか？
必要です。要約は渡した情報の範囲内の作業なのでリスクは比較的低いものの、発言者の取り違えや、話されていない結論の付け足しが起こることがあります。決定事項・数字・期限・担当者の4点は、元の録音や文字起こしと照合してから共有してください。文字起こしツールの選び方と精度を上げる手順はAI文字起こしの使い方ガイドで解説しています。
Q. 誤情報が混ざったAI記事は、SEO上どう扱われますか？
Googleは「AIで作ったかどうか」ではなくコンテンツの品質を見ると説明しています（Google検索セントラル ブログ）。誤情報は品質を下げる要因そのものなので、事実確認は検索評価の面でも欠かせません。AI生成コンテンツと検索評価の関係はAIコンテンツはSEOでペナルティを受けるかで詳しく整理しています。
まとめ：ハルシネーションは「仕組み」で抑える
ハルシネーションはAIの仕様であり、根絶はできません。しかし、プロンプトでの制約、参照資料の添付、工程の分離、確認責任の明確化を組み合わせれば、業務リスクは十分に管理できます。「AIを信じるか疑うか」ではなく、「どこを機械に任せ、どこを人間が締めるか」の設計の問題です。
なお、記事制作でハルシネーションのリスクを抑えつつ量産体制を作りたい方は、ドヤAIのドヤ記事作成をお試しください。構成案から本文生成までの工程が構造化されているため、フリーハンドで書かせるより安定した品質でSEO記事を制作できます。編集部の補足調査データ（2026年最新・n=400）
ハルシネーション対策が実務で重要なのは、それだけ多くの現場がAIを日常的に使っているからです。株式会社スリスタが全国の会社員400名に実施した『企業の生成AI活用実態調査2026』では、業務での生成AIツール利用率はChatGPT 60.8％・Google Gemini 49.7％・Microsoft Copilot 41.8％・Claude 7.8％で、AI利用者の49.0％が複数ツールを併用（平均1.82ツール）。複数のツールを使える環境であれば、同じ質問を別のツールにかけて回答を見比べる、といった確認にも活用できます。
出典：株式会社スリスタ『企業の生成AI活用実態調査2026』（n=400）。全クロス集計は職場の生成AIツールシェア実態2026、プレスリリースはPR TIMESで公開中。
▶ 動画で学ぶ：ドヤマーケAIチャンネル（マーケティング×AIの実践）