3行でいうと

  • 生成AIは、文章・画像・音声などを「新しく作る」AIの総称です。検索は、すでにあるページを探して見せるしくみで、仕事の種類が違います。
  • 生成AIは、学んだ言葉のつながり方をもとに、言葉を一つずつ作っています。そのため、もっともらしい間違い（ハルシネーション）が起こり、総務省の白書も、完全には抑えられないとしています。
  • いまは、ChatGPTの検索機能やGoogleのAI概要のように、両方を混ぜたものが増えています。出典のリンクが付いていても、自分で開いて確かめる、が公式の共通の注意です。

この記事は、公式の文書を読んでまとめたものです。この記事は、実際に使って確かめた記録ではありません。たとえ話と、「見立てです。」で始まる段落は僕らの考えで、公式の文書に書かれていることとは分けて書きました。

先に結論

公式の資料を読んで言えることは、次の4つです。

  1. 生成AIは「作る」AIです。 総務省の白書は、テキスト、画像、音声などを自律的に生成できるAI技術の総称、と説明しています。AWSも、会話、物語、画像、動画、音楽などの新しいものを作るAI、としています。
  2. 検索は「探す」しくみです。 Googleの公式説明では、あらかじめ集めて整理した大きなデータベース（索引）から、質問に合うページを探して返します。
  3. 生成AIの答えは「作られた文章」です。 OpenAIは、モデルは学習した文章のコピーを持たず、言葉を一つずつ、学んだ確率にもとづいて作ると説明しています。
  4. だから、間違いは「ときどきある不具合」ではなく、性質のひとつです。 大事な内容は、別の手段で確かめる必要があります。

たとえ話：司書と、本をたくさん読んだ書き手

僕らのたとえです。公式の文書にあるものではありません。

このたとえは、「探して渡す」と「その場で書く」の違いを覚えるためのものです。AIが人間のように「理解して書いている」のかどうかは、読んだ資料には書かれていません。

公式資料が言っている「生成AI」

何をするAIか

総務省の令和6年版 情報通信白書は、生成AIを、テキスト、画像、音声などを自律的に生成できるAI技術の総称、と書いています。2022年のChatGPTの発表が、大きな注目のきっかけだったとしています。

白書が挙げる特徴は、ふだんの言葉で指示するだけで使えること、文章や画像など複数の形式で出せること、いろいろな作業に使えることです。白書は、ChatGPTが公開から5日で100万ユーザー、2か月後に1億ユーザーを超えたことにも触れています。

どうやって作っているか

OpenAIの公式ヘルプの説明です。

OpenAIは、モデルは数値と、それを使うプログラムでできていて、学習に使った文章のコピーを持っているわけではなく、貼り付けているのでもない、とも書いています。

「基盤モデル」と「LLM」

AWSの説明では、基盤モデルは、幅広い、ラベルのない（正解が付いていない）データで学習した大きなモデルで、いろいろな一般的な作業に使えます。LLM（大規模言語モデル）は、その中で、言語の作業に特化した種類です。つまり、ChatGPTのような文章を作るAIの土台になっている部品、と読めます。AWSは、生成AIの限界として、不正確になりうること、学習データの偏りが出ること、独自のデータでモデルを調整するときのプライバシーとセキュリティの心配も挙げています。

検索とどう違うのか

公式の説明を横に並べると、違いが見えます。

見るところ 検索（Googleの公式説明） 生成AI（OpenAIなどの公式説明）
材料 あらかじめ集めて整理した索引。何千台ものコンピューターに置かれた大きなデータベースと説明されている 学習で調整された数値。学習した文章そのものは持っていないと説明されている
答えの出し方 質問に合うページを索引から探し、質と関連性が高いと判断したものを返す 学んだ確率にもとづき、トークンを一つずつ作る
結果の形 ページへのリンクの並び 文章（や画像など）そのもの
同じ質問をすると 場所、言語、端末などで結果が変わる ランダムさがあり、答えが変わることがある
間違いの形 すべてのページが取り込まれ、表示されるとは限らない もっともらしい、事実でない文章（ハルシネーション）
出典 結果そのものがページへのリンク 検索機能が働くときは、Webを調べて出典のリンクを付ける（次の節）。それ以外の答えの出典の扱いは、読んだ資料には書かれていない

Googleの説明には、順位は広告とは別で、数百の要素（場所、言語、端末など）で決まる、ともあります。すべてのページが取り込まれ、表示されるとは限らない、という注意もあります。

見立てです。検索は元の文章がリンク先にあるので確かめやすく、生成AIは「その場で作った文章」なので元が分かりにくい。この違いが、いちばん実用に響くと思います。

境目はあいまいになっている

最近のサービスは、両方を組み合わせています。

この2つは、見た目が「検索」に近くても、中では生成AIが文章を作っています。どう組み合わせているかの細部は、読んだページには書かれていません。

どちらの公式ページも、間違いを前提にした注意を書いています。

誤解されやすい点

「検索の代わりに使える」 公式の資料は、そう言っていません。総務省の白書は、ハルシネーション（事実に基づかない誤りを、もっともらしく生成すること）は技術的な対策が検討されているが、完全には抑えられないとし、検索など別の手段と併用して、答えが正しいかを確かめることが望ましい、と書いています。つまり、生成AIの答えを確かめるために、検索を使う、という関係です。

「出典のリンクがあれば正しい」 OpenAIは、出典も不完全なことがあると書いています。リンクは確かめる入口で、正しいという保証ではありません。

「AIは、学んだ文章をそのまま持っている」 OpenAIは、持っていない、と説明しています。モデルがもつのは、言葉のつながり方を表す数値です。また、OpenAIの別の文書は、誕生日のような、パターンから推測できない細かい事実は、間違えやすいと説明しています（くわしくは下の囲み）。

なぜ間違えるのか（OpenAIの説明）

OpenAIは2025年9月5日に、「なぜ言語モデルは、もっともらしい間違いをするのか」という文書を出しています。要旨は次のとおりです。

  • 学習の最初の段階は、次の言葉を予測する練習です。この段階の文章には、「これは真」「これは偽」という印が付いていません。
  • つづりやかっこの閉じ方のような、規則のあるものは、規模が大きくなれば確実になります。しかし、誕生日のような、ほぼ任意の細かい事実は、パターンからは推測できません。
  • さらに、AIの成績の測り方が、正解の割合だけを見ることが多く、「分かりません」と答えるより、当てずっぽうで答えるほうが、点が取れる仕組みになりがちです。これも、間違いが残る一因だと、OpenAIは説明しています。
  • 例として、ある広く使われているチャットボットに、ある研究者の博士論文の題名を聞いたところ、3つの異なる答えが返り、どれも間違いだった、と書かれています。

OpenAIは、新しいモデルでは減っているが、なくなってはいない、とも書いています。これはOpenAI自身の説明で、他社のAIにも当てはまるかは、読んだ資料からは分かりません。

今日からできること、やってはいけないこと

どれも、上の公式ページに書かれたことを土台にした、僕らの整理です。

今日からできること

やってはいけないこと

気をつけること

出典

更新履歴