生成AIのファクトチェック方法|失敗3つと出す前の6項目

生成AIのファクトチェック方法|失敗3つと出す前の6項目

生成AIが作った提案書や議事録を、どこまで確かめてから社外へ出せばよいか迷っていませんか。生成AIのファクトチェックは、数字や名前が正しいかに加えて、書かれた前提がどの資料から来たかを確かめる作業です。

本記事では、私の会社で起きた3つの失敗と、出す前に見る6つの確認項目を紹介します。確認を人の注意だけに頼らない仕組みの作り方まで整理しましたので、ぜひ参考にしてみてください。

AIが作った資料を、どこまで確かめれば社外に出せるかで迷っていませんか。無料の個別相談では、御社の資料に合わせた確認項目の決め方を一緒に整理します。

研修を相談する ›

この記事でわかること

  • 生成AIのファクトチェックの意味と、確かめる3つの対象
  • 提案書・議事録・予約メールで実際に起きた失敗と直し方
  • 生成AIの出力を出す前に見る6つの確認項目
  • 確認を毎回の注意に頼らず、仕組みにする方法

生成AIのファクトチェックとは?確かめる対象は3種類

生成AIの出力を、事実、出どころ、抜けの3つの対象に分け、それぞれを元の資料や記録と照らし合わせて確かめる流れを矢印で示した図

  • 生成AIのファクトチェックの定義を確認します
  • 公的機関と開発元が利用者に求めている確認を紹介します
  • 確かめる対象を3種類に分けて整理します

生成AIのファクトチェックは出力の根拠を元の資料で確かめる作業

生成AIのファクトチェックとは、AIが書いた内容の根拠を、元の資料や記録と照らし合わせて確かめる作業です。誤字を直す校正と違い、書かれた前提が正しいかまで見ます。

生成AIは、手元の資料にない内容を、もっともらしい文でつなげて書く場合があります。一見すると自然な文ほど、根拠を確かめずに通してしまいがちでしょう。

総務省と開発元は出力の確認を利用者に求めている

総務省は、生成AIの出力が正しいかを利用者が確かめるよう求めています。総務省の「令和6年版 情報通信白書(生成AIが抱える課題)」によると、事実に基づかない誤った情報をもっともらしく作る現象はハルシネーションと呼ばれ、技術的な対策で完全には抑えられません。

ChatGPTを開発するOpenAIのヘルプ記事「Does ChatGPT tell the truth?」では、重要な情報は信頼できる情報源で確かめるよう勧めています。引用や参考文献が作り出される例が挙がっている点に注意してください。

確かめる対象は「事実」「出どころ」「抜け」の3種類

確かめる対象は、数字や名前などの事実、前提の出どころ、書かれていない抜けの3種類に分けると整理しやすいです。事実の誤りは元の資料と見比べれば見つかる一方、出どころと抜けは意識して探さないと見落とします。

私の会社で起きた失敗に、事実の誤字は1つもありませんでした。推定が前提にすり替わった失敗と、大事な話が抜けた失敗が中心を占めます。

生成AIのファクトチェックで見つかった失敗3つ|推定・抜け・設定

提案書、議事録、予約メールの3つの失敗について、何が起きたか、原因、どう直したかを左から右へ矢印でつないで並べた図

  • 提案書で推定が確認済みの前提になった失敗を紹介します
  • 議事録で話し合いの経緯が抜けた失敗を紹介します
  • 予約メールの差出人が古いままだった失敗を紹介します

提案書:別の資料からの推定が、確認済みの前提になっていた

お客様に出す要件定義書と見積書をAIに作らせたとき、確認していないクラウドの名前が前提として書かれていました。私が前提の出どころを聞くと、名前があったのは半年以上前の別の企画書だけでした。

今回の仕様書には、自社の契約サーバーを使ってほしいとあるだけです。AIが2つの資料をつなげて推定していたため、どの資料の何ページに何があるかを表にし、推定だと明記して、サーバーがある場合とない場合の2案に分けました。

議事録:タスクだけに絞って、話し合いの経緯が抜けていた

約1時間50分の打ち合わせの議事録をAIに作らせたところ、決まったタスクだけが並び、話し合いの経緯と具体例が抜けていたのです。読み返して短いと感じ、どんな意見が出てどうまとまったかが残っていない点に気づきました。

冒頭に「当日の話し合い」の章を足し、話題ごとに17項目へ分けて書き直したのです。結果として、3ページ・約1,900字だった議事録は6ページ・約4,900字に増えました。

予約メール:直したはずの差出人が古いままだった

AIに予約送信させたメールを後で確かめると、差出人が意図と違うアドレスのままでした。予約の前に差出人を変えたつもりでしたが、メールの既定の差出人が別のアドレスのまま残っていました。

返信は同じ受信箱に届くため、取りこぼしはありませんでした。以後は、予約した後に送信済みメールの差出人まで開いて確かめる手順に変えています。

生成AIの出力を出す前の確認項目6つ|出どころを聞いて開く

生成AIの出力を社外へ出す前に、はい・いいえで答える6つの確認項目を上から順に並べ、すべてはいになったら送る、いいえなら元の資料に戻る判断フローチャート

  • 数字と固有名詞の出どころを答えさせる項目を紹介します
  • 推定と確認済みを分け、出典を自分で開く項目を紹介します
  • 抜けと送った後の状態を確かめる項目を紹介します

項目1・2:数字と固有名詞は、どの資料の何ページかを答えさせる

最初に見るのは、数字・日付・金額・社名などの固有名詞が、どの資料の何ページに書かれているかです。AIに一覧表で答えさせると、出どころのない語がすぐに浮かび上がります。

出どころを答えられない語は、推定か思い込みの可能性が高いと考えましょう。提案書の失敗では、表にした時点で名前の出どころが古い企画書だけだと分かったのです。

項目3・4:推定と確認済みを分けて書かせ、出典は自分で開く

3つ目は、推定で書いた部分と、資料で確認できた部分を分けて書かせる作業です。Claudeを開発するAnthropicの公式資料「Reduce hallucinations」では、分からないと言ってよいと伝える方法や、主張ごとに引用で裏付けさせる方法を勧めています。

4つ目は、AIが示した出典を自分で開いて確かめる作業です。同じ資料には、手法を重ねてもハルシネーションは完全にはなくならないとしているため、最後に開くのは人の役目といえます。

項目5・6:抜けた話題と、送った後の状態まで確かめる

5つ目は、元の録音や資料にあったのに、出力から抜けた話題がないかを見る項目です。議事録なら、決まった内容に加えて、そこに至った意見と具体例が残っているかを確かめます。

6つ目は、送った後や公開した後の状態の確認です。差出人や公開ページのリンクのように、作った時点では正しくても、届いた形が違う場合があります。

生成AIのファクトチェックを仕組みにする方法|人の注意に頼らない

作る、公式の情報で裏を取る、検品に通ったものだけ公開する、公開後に毎朝点検する、見つかった問題を手順に戻すという5つの工程が円を描いて回る循環図

  • 公開する前に公式の情報で裏を取る工程を紹介します
  • 公開した後に出典が残っているかを毎朝確かめる工程を紹介します
  • AIと人の受け持ちの線引きを整理します

公開する前に、公式の情報で裏を取る工程を入れる

確認を続けるには、人の注意力に頼らず、裏を取る工程を作業の順番に組み込む方法が有効です。私の会社では、Claudeの使い方の講座を毎月更新するAIの仕組みに、公式の情報で裏を取る工程を入れています。

更新の候補は公式の出典付きで調べ、主要な変更は公式のページで裏を取ってから作ります。検品に通った内容だけを公開する決まりなので、確かめていない情報は講座に載りにくい状態です。

公開した後は、出典が残っているかを毎朝確かめる

公開した後の点検は、毎朝の定期タスクに入れておくと抜けにくいといえます。自社ブログの自動投稿を調べたとき、5日間で10本を公開・予約し、出典のリンクが入っていたのは6本でした。

投稿した時点で入っていても、公開ページに残っているかは別に確かめないと分かりません。そこで毎朝、公開記事の出典リンクが表示され、リンク先が開くかを点検しており、本記事を書いた朝は16本を点検して問題は0件でした。

AIは候補を出し、最後に決めるのは人という線を引く

仕組みにしても、社外に出すかどうかを最後に決めるのは人という線は残しておきましょう。AIには出どころの一覧づくりや抜けの洗い出しを任せ、人は判断に関わる部分だけを見る分担が現実的です。

役割を分けておくと、確認にかかる時間を抑えながら、大事な場面の見落としを減らせます。お客様に出す資料ほど、人が開いて確かめる工程を省かないでください。

よくある質問

生成AIのファクトチェックでよく出る質問を、AIに任せてよい作業と人が確かめる作業の2つの列に振り分けた比較図

  • 生成AIのファクトチェックで多い質問に答えます
  • AIに任せてよい範囲と、人が確かめる範囲を整理します

生成AIのファクトチェックは、AI自身に任せても大丈夫ですか?

出どころの一覧づくりや抜けの洗い出しは任せてよく、最後の確認は人が行うべきです。開発元の資料には、ハルシネーションは完全にはなくならないとしています。

AIが示した出典や参考文献は信じてよいですか?

出典は必ず自分で開き、書かれている内容と一致するかを確かめてください。OpenAIのヘルプ記事には、引用や参考文献が作り出される例が挙がっています。

どの資料から書いたかをAIに答えさせるには、どう頼めばよいですか?

「数字と固有名詞ごとに、資料名とページを表で示して」と頼むのが簡単です。答えられない項目は推定として扱い、元の資料で確かめましょう。

AIで作った議事録が短く、物足りないのはなぜですか?

決まった内容だけをまとめるよう作らせると、話し合いの経緯と具体例が抜けやすいからです。話題ごとの意見と、まとまり方を残すよう頼むと改善します。

ファクトチェックにかける時間を減らす方法はありますか?

確かめる項目を決めて一覧にし、毎回同じ順番で見る方法が効果的です。公開後の点検は、定期タスクで自動化できます。

社内でファクトチェックの決まりを作るときは、何から決めればよいですか?

社外に出す資料の種類と、最後に確かめる人を先に決めましょう。次に、本記事の6つの確認項目を自社の資料に合わせて調整してください。

まとめ|生成AIのファクトチェックは出どころを聞く作業から

確かめる前と後を左右に並べ、出どころを確かめないまま送る場合と、出どころを表にして推定を分けてから送る場合で、社外に出る資料の確かさが違う様子を示した比較図

  • 生成AIのファクトチェックの要点を振り返ります
  • 自社で始めるときの最初の1歩を紹介します

事実・出どころ・抜けの3つを、出す前と出した後に確かめる

生成AIのファクトチェックは、事実・出どころ・抜けの3つを、出す前と出した後の両方で確かめる作業です。私の会社では、推定が前提になった提案書、経緯が抜けた議事録、差出人が古いままの予約メールという3つの失敗が起きました。

3つとは、出どころを聞き、元の資料や送信済みの画面を開けば防げた失敗でした。6つの確認項目を順に見る形にすると、見落としを減らせるでしょう。

最初の1歩は、次に出す資料の出どころを表にする作業

自社で始めるなら、次に社外へ出す資料1つで、数字と固有名詞の出どころを表にさせるところから試してください。表を作るだけで、推定で書かれた部分が見えてきます。

慣れてきたら、確認項目を社内の決まりにし、公開後の点検を定期タスクに任せましょう。確認の仕組みが整えば、生成AIを仕事に使う不安は小さくなるはずです。

出典・参考資料

出どころを表にする確認を社内の決まりにするなら、まず全員が同じ手順で試す場が必要です。個別相談では、社内研修で扱う題材と進め方を御社に合わせて考えます。

研修を相談する ›

堺 彬の顔写真

執筆:堺 彬/株式会社SakAI Nexus

代表取締役 / AI活用コンサルタント

株式会社SakAI Nexus 代表。生成AIを使った業務設計と受託開発を支援し、経営者向けのAI勉強会・育成講座を運営しています。

Share B!
前の記事

同じ業種の課題、まず30分で棚卸ししませんか。

初回相談は無料・オンライン。伴走コンサル/受託開発/研修のどれが合うかから一緒に決めます。