ハルシネーションとは｜事務で起きる誤りと資料・数字の確かめ方

要点

ハルシネーションとは、生成AIがもっともらしくても事実ではない内容を出力することです（OpenAIの説明・2026年11月2日確認）。事務では、見積書の金額、申込期限、社内の規則などが、資料にないのに書かれる形で起きます。防ぐには、資料に範囲を絞って依頼し、金額を元の明細から検算し、出典を開いて、確認できない箇所を残して人が使うかを決めます。

公開：2026年11月2日／情報の確認日：2026年11月2日（出典はこの記事の最後）

この記事は、生成AIを仕事で使い始めた、または検討している経営者・事務の担当者が、ハルシネーションとは何か、事務の仕事でどんな形で起き、どう確かめればよいかを整理するためのものです。

公式ページ・公式ヘルプなどの一次資料を2026年11月2日に確かめました。機能や制度は変わることがあるので、使う前に各ページで最新の状態を確認してください。法律・税務・労務の判断や、効果を約束するものではありません。

例は説明のための架空の例です。確認表や作例は、当社の考えをまとめたもので、公式の機関が示しているものではありません。

1．ハルシネーションは、もっともらしい誤った回答

渡した資料の内容と食い違う文章を生成することも含まれます。

個人情報保護委員会も、生成AIへの質問や作業指示に対する回答には、不正確な内容が含まれることがあると注意を促しています。

事務で使うときは、文章が自然に読めるかに加え、金額や期限の根拠を確認しましょう。OpenAIも、回答の自信の強さと信頼性は同じではないと説明しています。

2．見積書や案内文では、何が間違いになるか

以下は、確認する場所を説明するための架空の短い作例です。金額・期限・規則・資料名も架空で、実際の会社の事例ではありません。

事務の作業	架空の入力資料と、誤った回答	確認する場所
見積内容をメールにする	資料に送料の記載がないのに「送料は800円です」と足す	見積書の送料欄。空欄なら担当者に確認します
受付案内を作る	期限を渡していないのに「今月末までです」と書く	発行元の最新の受付案内
社内の手続きを説明する	規則を渡していないのに「この申請は承認不要です」と答える	現行の社内規程と、その管理担当者
回答の根拠を示す	「事務処理手引」を出典に挙げるが、その資料を見つけられない	資料そのものが存在するか
受注一覧を要約する	「受注予定数」の欄を「納品済数」として報告する	元の表の列名と対象の行

ここでは、資料にない内容を足したのか、ある内容を取り違えたのかを分けて見ます。前者なら、不足している資料を探します。後者なら、元の資料の該当欄を確認します。読みやすい文章への修正は、その後です。

OpenAIの公式説明にも、誤った日付、作られた引用、存在しない出典が、ハルシネーションの例として挙がっています。

3．根拠を渡していない質問を、そのまま回答文にしない

OpenAIは、学習と評価の方法が、不確かだと認めるより推測で答えることを促してしまう点を、ハルシネーションが生じる理由として説明しています。

また、学習した時点より後の出来事は、ツールを使わない回答に反映されないという制約も示しています。

これを事務の依頼に置き換えると、次のように準備できます。以下は本稿で提案する作業の分け方です。

聞きたいこと	回答を作る前に用意するもの	用意できない場合の扱い
この見積の総額はいくらか	対象の見積書と、合計に含める項目	金額欄を空け、発行担当者に確認します
受付は今も続いているか	発行元の現在の案内と、確認した日	「受付中」とする案内文の送信を保留します
自社では誰の承認が必要か	現行の社内規程と、対象の申請内容	規程を管理する担当者に確認します

「一般的にはどうか」という説明と、「この見積・この受付・自社の手続き」の回答を分けましょう。後者を作るときは、回答に使う資料を先に指定します。

4．依頼する前から送信する前までの確認

まず、答えてよい範囲と空欄の扱いを決めます

Anthropicは、分からないと答えることを認め、提供した資料だけを使うよう明示する方法を紹介しています。

事務の依頼では、次のように指示できます。指示文も架空の作例です。

添付した見積書から、品名・数量・単価・小計・送料・合計を表にしてください。使うのは添付資料の記載だけです。各項目に根拠となる資料名と欄名を付けてください。書かれていない項目は「記載なし」、読み取れない項目は「判読できず」としてください。推測で埋めず、確認が必要な項目を最後にまとめてください。

最初から送信用メールを作らせず、確認用の表を受け取る進め方です。見積書にない送料まで補われていないか、本文を書く前に見ます。添付する資料は、業務で利用を認められた情報の範囲で選んでください。

この架空例で送料が「記載なし」なら、送信用メールには金額を補わず、発行担当者への確認項目として残します。「判読できず」なら、画像を見直すか、文字が読める資料を入手します。確認すべき相手と、取り直すべき資料を分けるためです。

見積書と補足メールの記載が食い違う場合も、AIに都合のよい方を選ばせず、相違する項目を並べて担当者に戻しましょう。どちらの資料を採用するか決まってから、案内文に反映します。確認表に空欄が残ることと、回答が完成したことを混同しない進め方です。

金額は、元の明細から別に計算します

以下は架空の計算例です。単価1,200円、数量3個だけを小計に含める想定なら、筆者による検算は「1,200×3＝3,600円」です。実際の価格を示すものではありません。

実務では、元の見積書の単価と数量を電卓や表計算に入れて確認します。合計が違ったら、小計の計算と、送料などを含める範囲を分けて見ます。資料に条件がない項目は足さず、確認待ちにします。

同じAIに「もう一度確かめて」と返すだけで終えず、元の明細と別に計算した結果を手元に置きましょう。

出典は開き、見つからなければ使用を止めます

OpenAIは、正確さが重要な場合はリンク先を直接訪れ、出典を確認するよう案内しています。

受付期限なら発行元の案内、承認の要否なら現行の社内規程を確認します。出典が見つからない回答は、根拠のある回答として送らず、発行元や管理担当者への確認に戻します。

5．確認できない箇所を残し、人が使用を決める

OpenAIは、性能が向上したモデルでもハルシネーションは起こると説明しています。

ここで紹介した指示や確認をしても、誤りがなくなったと扱わず、送信前の判断を残しましょう。本稿の確認表は次のとおりです。

[ ] 金額・期限・承認条件について、根拠となる資料を指定したか。
[ ] 「記載なし」「判読できず」の項目が、文章を整える途中で埋められていないか。
[ ] 金額を元の明細から検算したか。
[ ] 外部の案内は発行元の現在の掲載内容を確認したか。
[ ] 未確認の項目を誰に聞くか決めたか。

見積の金額を顧客に送る、期限を案内する、承認不要と伝える。こうした行動に移す前に、未確認の項目を残したまま使ってよいかを担当者が判断します。根拠がそろわなければ、その箇所を空けて確認に戻すところまでを、作業に含めてください。

6．ハルシネーションを防ぐ確認表

公開・共有の前に、この表で確かめます。

確認	確かめること
□	答えてよい範囲と、空欄の扱いを決めてから依頼した
□	根拠を渡していない質問の答えを、そのまま回答文にしていない
□	金額は、元の明細から別に計算した
□	出典は開き、見つからなければ使用を止めた
□	確認できない箇所を残し、人が使用を決めた

7．自社の事務の手順まで形にしたいとき

ここまでの確認を、自社の事務の手順書や、AIの結果を確かめる検査まで形にしたい場合は、当社のように、手順と検査の設計まで行う相談先が選択肢になります。オンラインは全国から対応しています。

自社の事務のどこから確認を入れるかを相談したい場合は、30分の無料相談をご利用ください。法律・税務・労務の判断や、効果の約束は行いません。

出典（確認日：2026年11月2日）

Why language models hallucinate：定義、推測を促す学習・評価、不確かさ、誤りが残る点。原文抜粋：“Hallucinations are plausible
Reduce hallucinations：定義、資料に範囲を絞る指示、不明と答える扱い。原文抜粋：“factually incorrect or inconsis
生成AIサービスの利用に関する注意喚起等：冒頭の注意点。項目（３）②に「入力されたプロンプトに対する応答結果に不正確な内容が含まれることがある。」。個人情報に関す
Does ChatGPT tell the truth?：誤った日付・出典、情報の時点、回答の自信、出典を直接開く確認。原文抜粋：“Confidence isn’t reliab