生成AIの仕組みをやさしく解説｜LLM・ハルシネーションって何？

著者：galiverman.jp 管理人｜公開日：2026年7月10日｜最終更新日：2026年7月17日

ChatGPTをはじめとする生成AIは、まるで人間のように自然な文章を返してきます。あまりに自然なので「中に賢い人が入っているのでは」と感じるほどですが、実際の仕組みはもっとシンプルで、そして意外なものです。仕組みを知らないままAIを使うと、間違った答えを信じてしまったり、逆に「どうせ嘘をつくから」と過剰に避けてしまったりします。この記事では、専門知識ゼロの方に向けて、生成AIの動作原理と基本用語、そして「AIが間違える理由」をやさしく解説します。

生成AIは「次に来る言葉」を確率で選ぶ機械

生成AIの正体を一言でいえば、「文章の続きとして、次に来る確率が高い言葉を選び続ける機械」です。たとえば「今日はいい」という文の続きなら、「天気」が来る確率が高く、「冷蔵庫」が来る確率は低い。AIは膨大な文章を学習することで、この「続きの確率」を非常に高い精度で予測できるようになりました。それを1語ずつ繰り返してつなげた結果が、あの自然な文章です。

ここで重要なのが、検索エンジンとの違いです。検索エンジンは、どこかに実在するページを「探して」提示します。一方、生成AIは知識をデータベースから「思い出す」のではなく、学習で身につけた言葉のパターンから、その場で文章を「生成」しています。図書館で本を探してくる司書と、読んだ本の記憶をもとにその場で語ってくれる物知りな友人、と考えるとイメージしやすいでしょう。友人の話はなめらかで役に立ちますが、記憶違いも混ざります。この性質が、後述する「間違い」の根本原因になります。

押さえておきたい基本用語4つ

生成AIの話題でよく出てくる用語を、日常の比喩とセットで押さえておきましょう。この4つを知っているだけで、ニュースや社内の説明資料の理解度が大きく変わります。

• LLM（大規模言語モデル）：ChatGPTなどの中身にあたる本体です。膨大な文章を読み込んで「言葉のつながり方」を学習した、巨大な予測エンジンだと考えてください。料理でいえば「シェフの頭脳」にあたる部分です。
• プロンプト：AIへの指示や質問の文章のことです。シェフへの「注文」にあたります。注文が曖昧なら出てくる料理も曖昧になる、という関係も人間相手と同じです。
• トークン：AIが文章を処理するときの最小単位です。文章を細かい部品（単語や文字のかたまり）に刻んだもので、AIはこの部品単位で「次に何が来るか」を予測しています。利用料金や入力できる文章量が「トークン数」で決まるサービスが多いのは、これが処理の基本単位だからです。
• 学習データ：AIが読み込んだ大量の文章のことです。シェフの「これまで食べてきた料理・読んできたレシピ」にあたります。学習データに含まれない最新の出来事や、世の中にあまり文章が存在しないニッチな話題は、当然ながら苦手になります。

ハルシネーションはなぜ起きるのか

生成AIが、実在しない本のタイトルや存在しない判例を、堂々とした口調で答えてしまう現象をハルシネーション（幻覚）と呼びます。初めて遭遇すると「AIに嘘をつかれた」と感じますが、AIに嘘をつく意図はありません。そもそもAIには「本当のことを言おう」という意図も「騙そう」という意図もなく、ただ「もっともらしい続き」を計算しているだけだからです。

先ほどの仕組みを思い出してください。AIは「次に来る確率が高い言葉」を選び続けています。つまり最適化されているのは「正しさ」ではなく「もっともらしさ」です。「この分野の有名な書籍は」と聞かれれば、実在するかどうかとは無関係に、「いかにもありそうな著者名と書名」を生成するのが、この仕組みの自然な動作なのです。ハルシネーションはバグや故障ではなく、確率で文章を生成するという仕組み上の宿命だといえます。

だからこそ、「自信満々な口調かどうか」で正しさを判断してはいけません。AIは正しいことも間違ったことも、同じくらい流暢に、同じくらい自信ありげに話します。この点だけは、使う前に必ず頭に入れておきたいポイントです。

仕組みから見えるAIの得意・不得意

「パターンから生成する機械」という正体がわかると、得意分野と不得意分野は自然に導けます。まず得意なのは、世の中に似た文章のパターンが大量に存在する定型的な処理です。

• 文章の要約・言い換え・翻訳（元の文章がその場にあるため、記憶に頼らず処理できる）
• メール・議事録・企画書などの下書き作成（世の中に型が豊富にある）
• アイデア出しや壁打ち（正解が1つでないため、間違いが問題になりにくい）
• プログラムコードの雛形作成や説明

逆に不得意なのは、学習データにない最新情報、固有名詞や数値などの厳密な事実、そして責任を伴う判断です。「この契約を結ぶべきか」「この患者にどう対応すべきか」といった問いにAIはそれらしい答えを返しますが、その答えに責任を取る主体は存在しません。事実の正確さと責任が問われる場面ほど、人間の確認と判断が必須になる——これが仕組みから導かれる大原則です。

仕組みを知ると使い方が変わる

ここまでの内容を実践に落とすと、使い方の指針はシンプルです。「生成は任せて、事実確認と最終判断は人間がやる」。たとえば報告書なら、構成案と下書きはAIに数分で作らせ、そこに含まれる数値や固有名詞は自分で一次情報にあたって確認し、結論部分は自分の判断で書く。この分業なら、AIの速さと人間の正確さのいいとこ取りができます。

また、プロンプトを工夫する意味も仕組みから理解できます。AIは与えられた文章の「続き」を生成するのですから、前提条件や役割、望む形式を具体的に書くほど、続きの確率分布が狙った方向に絞られ、出力の質が上がります。「良い注文が良い料理を生む」のは、比喩ではなく仕組みそのものなのです。

【実例】筆者がAIの「自信満々な間違い」に騙されかけた話

ハルシネーションは、筆者にとってもまったく他人事ではありません。筆者はIT業界でシステム開発に携わっていますが、あるときプログラムの日付処理で行き詰まり、AIにライブラリの使い方を質問しました。返ってきたのは、関数名も引数もサンプルコードも完璧に整った回答です。ところが、そのまま書き写して実行するとエラーになる。公式ドキュメントを隅々まで調べてようやく分かったのは、提示された関数がそのライブラリにそもそも存在しないという事実でした。似た関数の命名パターンから「いかにもありそうな関数名」が生成されていたわけです。

別の機会には、勉強用の参考書籍を尋ねたところ、著者名つきで数冊を挙げてくれたうちの1冊が、どの書店にも通販サイトにも存在しない本でした。どちらのときも、AIの口調は完全に自信満々でした。この経験から、筆者は重要な回答を受け取ったあと、必ず次の確認プロンプトを続けて投げるようにしています。

このプロンプトで間違いが完全に消えるわけではありません。AIの自己評価自体が外れることもあります。それでも「どこを疑って一次情報にあたるべきか」の当たりがつくだけで、筆者の体感では確認にかける時間が半分ほどになりました。仕組み上、AIは間違えるときも流暢です。だからこそ、疑う手順そのものをプロンプトに組み込んでおくことが、実務ではいちばん効きます。

まとめ：正体を知れば、怖くも万能でもない

生成AIは、魔法の箱でも嘘つきの機械でもなく、「もっともらしい続きを確率で生成する道具」です。だから下書きやアイデア出しは驚くほど速く、事実の保証はしてくれません。この一点を理解しているかどうかが、AIを使いこなす人と振り回される人の分かれ目になります。まずは今日、自分の業務の中の「下書き仕事」をひとつAIに任せてみて、出てきた文章の事実だけ自分で確認する——その小さな一歩から、AIリテラシーは確実に積み上がっていきます。