AIに任せていいこと・いけないことの線引きが分からない（間違い・ハルシネーションの確認のしかた）

← ラボ / 使い方マップ

AIの答えは、そのまま信じてよい部分と、必ず元の資料で確かめる部分に分けて扱えるようになります。「下書きは任せる、事実と取り消せない操作は自分で確かめる」という線の引き方と、確かめるときの具体的な手順が分かります。

こんな人に：AIを使い始めて、どこまで頼ってよいのか、間違いをどう見つければよいのか不安な人。

最初の一歩

1. 1AIは「もっともらしい文」を作るツールだと知る

   OpenAIの公式ヘルプは、ChatGPTは学習データのパターンから答えを作るため間違うことがあり、自信ありげでも誤りうると説明しています。事実や日付の間違い、作り話の引用や研究を「ハルシネーション」と呼んでいます。Claudeの公式ヘルプも同じ現象を認めており、Anthropicの開発者向け資料は、対策をとっても完全にはなくならない、と書いています。

2. 2頼みごとを3つに仕分ける

   目安として、(1)案出し・言い換え・下書き・要約のように、間違っていても自分で直せるもの、(2)人名・数字・日付・引用のように、元の資料と突き合わせが要るもの、(3)送信・購入・提出のように取り消しにくい操作や、医療・法律・お金の判断のように結果が重いもの、に分けます。(1)は任せやすく、(2)は確認つき、(3)は最後の判断を自分か専門家が持つ、と考えます。この3分類は僕らの整理で、公式の分類ではありません。

3. 3確かめる型を決めておく

   OpenAIのヘルプは、出力を最初の下書きとして扱い、引用・データ・参考文献を確認し、出典リンクは自分で開くよう勧めています。Anthropicの資料は、「分からないと言ってよい」と許可する、長い文書では先に原文の引用を抜き出させる、根拠が見つからない主張は取り下げさせる、同じ質問を複数回して食い違いを見る、といった方法を挙げています。

4. 4操作まで任せるときは、確認の場面を残す

   OpenAIの「ChatGPT agent」のヘルプには、2026-10-23時点で「ChatGPT agentは提供終了」との案内が出ており、長い作業にはChatGPT Workを使うよう書かれています。ただ、そのページの安全策の説明は、ブラウザを操作するAIに任せるときの考え方の例として読めます。影響の大きい操作では確認を求める仕組みがあり、ログインなどは自分でブラウザを操作する画面に切り替わると説明しています。同時に、保護策は全てのリスクをなくさないので、動きを見守り、怪しければ止めるよう書いています。パスワードや私的な情報は、メッセージに打ち込まないのが基本です。ChatGPT Workの安全策は、ここでは確認していません。

どのツールを、どう組み合わせるか

Claude ＋ 手元のPDF・長い文書

Claudeは資料を読んで答える役。人は、答えの根拠になった原文を確かめる役。

資料を渡し、先に原文の引用を抜き出してもらい、その引用だけを根拠に答えさせます。「分からなければ分からないと答えて」と添え、根拠が見つからない主張は取り下げてもらいます。

公式の根拠：Claude Platform Docs「Reduce hallucinations」（許可を与える、引用で根拠づける、引用で検証する、提供した資料だけを使わせる）。

Gemini Notebook ＋ 元の資料

Gemini Notebookは、読み込んだ資料から答えを作って引用を付ける役。人は、引用の元の文を文脈ごと読んで確かめる役。

回答の引用にカーソルを合わせて引用文を見て、選ぶと資料の該当箇所に移動して前後も読みます。公式ヘルプは、間違うことがあるので出力を確かめるよう書いています。

公式の根拠：Gemini Notebook ヘルプ「Use chat in Gemini Notebook」（引用は正確さの確認に役立つ、引用から原文の位置へ移動できる、という記載）。

ChatGPT ＋ Gemini

どちらも、出典リンクを付けた回答を返す機能があります。人は、そのリンクを開いて中身を確かめる役。

出典つきの回答を得たら、数字・日付・固有名詞の部分だけリンク先で確認します。出典が付かない回答は、確かめる材料がない回答として扱います。

公式の根拠：OpenAI ヘルプ「Does ChatGPT tell the truth?」（検索やdeep researchで引用つきの回答、リンクを直接訪問）。Gemini アプリ ヘルプ「View related sources & double-check responses」（出典ボタンが付かない回答もある）。

ブラウザを操作するAI（例：OpenAIのChatGPT agentのヘルプの記述） ＋ 自分の目（確認・ログインの操作）

ブラウザを操作するAIは、画面を見ながら作業を進める役。人は、確認の求めに答え、ログインや入力を自分で行う役。

任せるサイトやアプリを必要なものだけにし、確認が出たら内容を読んでから許可します。ログインは自分でブラウザを操作する画面で行い、怪しい動きがあれば止めます。

公式の根拠：OpenAI ヘルプ「ChatGPT agent」（高影響の操作での確認、ログイン時の引き継ぎ、保護策はリスクをなくさないという記載。ページ冒頭に提供終了の案内があり、後継はChatGPT Work）。

僕らの見立て（公式の説明をもとにした考え方で、断定ではありません）

• 頼みごとに「緑（間違っても自分で直せる）・黄（数字や引用があるので確認する）・赤（取り消せない・結果が重い）」の札を付けてから頼む習慣にすると、迷いが減りそうです。
• AIの答えの中から、人名・数字・日付・引用の4種類だけ蛍光ペンを引き、その部分だけを元の資料で確かめる。全文を疑うより、短い時間で済みそうです。
• 送信・購入・提出のボタンだけは自分で押すと決め、AIには文面や手順の下書きまでを任せる。取り消せない操作の事故を減らせそうです。

あわせて読む記事：記事132「AIの間違い（ハルシネーション）を見抜く方法：各社の公式…」、記事312「「出典を付けて」と頼むときの落とし穴：検索なしでは出典が…」、記事405「AIの出力をチェックする自分用の手順書を作る：確認項目1…」、記事203「ハルシネーションは「言わせない」より「裏づけを取る設計」…」、記事385「ブラウザを操作するAIに任せる前に：OpenAI・Ant…」、記事124「AIに入れてはいけない情報：個人情報と秘密は「入れる前に…」

AIサービス大全：chatgpt/02　claude-code/02

確認できていない点（5件）

• Geminiの「ダブルチェック」機能は、読んだGemini アプリ ヘルプ（出典と関連リンクのページ）に記載がなく、載せていない。
• Geminiアプリ本体が「間違うことがある」と書く公式の文言は、今回読めたページでは確認できなかった（Gemini Notebookのヘルプには記載あり）。
• ChatGPT・Claudeの検索機能の画面名や、出典の付き方は、ヘルプの更新で変わりうる。
• WebFetchの要約を使っており、引用は言い換えが中心。細かい文言は各ヘルプで確認が必要。
• ChatGPT agentは提供終了とヘルプに案内がある。後継のChatGPT Workの安全策（確認・ログインの扱い）は、今回読んでいない。

出典（7件）

• Does ChatGPT tell the truth?（OpenAI ヘルプセンター、確認日 2026-10-23）
• Why language models hallucinate（OpenAI、確認日 2026-10-23）
• ChatGPT agent（OpenAI ヘルプセンター、確認日 2026-10-23）
• Reduce hallucinations（Claude Platform Docs、確認日 2026-10-23）
• Claude is providing incorrect or misleading responses, what's going on?（Claude ヘルプセンター、確認日 2026-10-23）
• View related sources and double-check responses from Gemini Apps（Gemini アプリ ヘルプ、確認日 2026-10-23）
• Use chat in Gemini Notebook（Gemini Notebook ヘルプ、確認日 2026-10-23）

← 子ども・家族・高齢者と一緒にAIを使いたい　

確認日：2026年10月23日。取得は要約経由のものを含みます。画面名・機能名・料金は変わります。使う前に、各公式ページで確かめてください。

ラボの資料は、公式の文書を読んでまとめたもので、実際に使って確かめた記録ではありません。日付や仕様は変わるので、使う前に各ページの出典で確かめてください。事実と「僕らの見立て」は、分けて書いています。