LLMはなぜ「次の単語を当てる」だけで賢く見えるのか?

2026年8月20日2026年9月4日

ChatGPTやClaudeに質問すると、まるで考えたあとのような答えが返ってきます。ところが解説記事を読むと「やっていることは次の単語の予測だけ」と書かれていて、とまどったことはありませんか。

予測しているだけなら、なぜコードが書けて、質問にも答えられるのか。ここがつながらないままだと、AIの答えをどこまで信じてよいかの判断もできません。

この記事では、LLMが「次の単語を当てる」だけで賢く見える理由を、新社会人エンジニア向けにかみくだいて解説します。

結論を先に言います。文章をうまく当てるには中身の理解が必要で、その理解が学習の途中で勝手に育ってしまった、というのが今わかっていることです。

LLMとは?やっていることは「次の単語を当てる」ことのくり返し

LLM(大規模言語モデル)がしているのは、次に来る確率が高い単語を1つ選ぶ作業です。選んだ単語を文の末尾に足して、また同じことをくり返します。

この仕組みが基本にあるのは、学習のやり方がそうなっているからです。LLMはインターネット上の膨大な文章を読み、「この続きは何か」という穴埋めクイズをひたすら解かされます。

たとえるなら、しりとりではなく穴埋めドリルです。「空は」の次に来やすいのは「青い」で、「エラーが」の次に来やすいのは「出た」。この感覚を、途方もない回数くり返して身につけています。

そして生成のときも同じです。文章を丸ごと考えてから書き出すのではなく、1単語ずつ足しながら進んでいます。

つまりLLMの土台は、あくまで「次の1単語」の予測なのです。

「次の単語を当てる」だけのLLMが賢く見える2つの理由

予測だけのはずのLLMが賢く見えるのは、単語を正しく当てるには内容の理解が必要になるからです。理由を2つに分けて見ていきます。

理由1: 言葉を当てるには、その分野の中身を知る必要がある

物理の解説文の続きを当てるには、物理のしくみをある程度わかっていなければなりません。コードの続きを当てるなら、その言語の書き方を知っている必要があります。

ここが大事なところです。「文章を当てる練習」を極めようとすると、その副産物として、内容そのものの理解を身につけるしかなくなります。

学校の穴埋めテストを思い出してください。答えを丸暗記でしのげるのは範囲がせまいうちだけです。あらゆる分野の穴埋めで高得点を取るには、結局その分野を理解するのが近道になります。

LLMも同じ道をたどりました。文章予測がうまくなるために必要なことを、必要なだけ学んだ結果が今の姿です。

理由2: トランスフォーマーが文章全体を一度に見ている

もう1つの理由は、2017年に登場したトランスフォーマーという仕組みです。論文「Attention Is All You Need」で提案された、今のLLMの土台にあたる構造です。

それ以前のモデルは、文章を先頭から順番に処理していました。そのため、遠くはなれた言葉どうしの関係をとらえるのが苦手だったのです。

トランスフォーマーは、入力された文章をまとめて並列に処理します。それぞれの単語が、ほかのすべての単語を同時に参照できるのが特徴です。これをアテンション(注意)と呼びます。

わかりやすい例が英語の「bank」です。この語だけでは川岸か銀行か決まりません。しかし周囲に「river」があるか「account」があるかを同時に見れば、意味を選び分けられます。

次の1単語しか出力しなくても、その判断には文章全体が効いている。これが賢く見える2つ目の理由です。

LLMの賢さは「規模」から生まれた

仕組みだけでなく、規模の大きさも欠かせない要素でした。今のモデルは数千億個のパラメータを持っています。

学習データの量も直感が届きません。GPT-3が読んだ量は、人が寝ずに読み続けても2,600年以上かかるとされます。

この規模になったとき、誰も明示的にプログラムしていないことができるようになりました。翻訳、要約、コードの生成といった能力が、いつのまにか現れたのです。こうした現象は創発と呼ばれます。

料理にたとえるなら、材料を増やしただけなのに、なぜか新しい味が生まれたようなものです。設計してつくった機能ではなく、学習の結果として出てきた産物でした。

単純な予測が賢さに化けた背景には、この途方もない規模があります。

LLMがなぜ賢いのか、実は誰も完全には説明できない

ここが今回いちばん覚えておいてほしい点です。LLMの中で何が起きているのかは、研究者にも完全には解読されていません。

理由は、モデルが人間にわかりやすい形で学んでくれるとはかぎらないからです。手書き数字を見分けるネットワークですら、輪郭から形へと段階的に学ぶとはかぎらず、解釈できないパターンを学んでいることが少なくありません。

言語モデルではその規模がさらに大きくなります。「推論のように見える何か」が中で動いているのは確かでも、その正体を言い切れる人はまだいないのが現状です。

なお、私たちが使っているAIは事前学習だけでできてはいません。そのあとにRLHF(人間のフィードバックによる強化学習)を通して、役に立つ助手としてのふるまいを学びます。

賢く見えるのは事実、なぜ賢いのかは未解明。この2つを分けて持っておくことが、AIとつきあううえでの出発点になります。

新社会人エンジニアがLLMの仕組みから学べる3つのこと

仕組みを知ると、日々の使い方が変わります。押さえておきたいのは次の3点です。

出力は「もっともらしさ」の産物: 正しさではなく、続きとして自然かどうかで選ばれています。事実確認は自分の仕事だと考えてください。
文脈を渡すほど精度が上がる: 次の単語は、それまでの文章すべてを見て決まります。前提や制約を書くほど、選ばれる単語の質が変わります。
毎回同じ答えになるとはかぎらない: モデルは確率の分布から単語を抽選しています。同じ質問でも文面が変わるのは、この抽選のゆらぎが理由です。

とくに1つ目は、レビューを受ける立場の新人ほど効いてきます。AIが書いたコードをそのまま提出して指摘を受けるのは、仕組みを知らないまま任せてしまったときです。

使いこなす人と振り回される人の差は、この前提を持っているかどうかで決まります。

運用現場でLLMの答えをどこまで信じるか:筆者の3段階ルール

「次の単語の予測」という仕組みを知ると、実務での付き合い方も決まってきます。LLMは「それらしい続き」を作る装置なので、それらしさと正しさの差がいちばん出るのは、コマンドや設定値のような「一字違いが事故になる」領域です。筆者も、存在しないコマンドオプションを自信満々に提示された経験は一度や二度ではありません。

そこで筆者は、AIの出力を信頼度で3段階に分けて扱っています。

そのまま使う: 文章の言い換え、説明の下書き、観点の洗い出し。間違っても事故にならないもの
裏取りしてから使う: 設定値・コマンド・料金・仕様。公式ドキュメントで該当箇所を確認できたものだけ採用する。「公式のどこに書いてあるか」をAIに聞き返すと、確認が速い
使わない: 本番環境で実行するコマンドをAIの出力から直接コピペすること。必ず検証環境かdry-runを挟む

この線引きは、仕組みを知っていれば自然に導けます。予測装置は「よくある答え」に強く、「あなたの環境の固有事情」を知りません。だから、一般論はAI、固有事情の判断は自分。この分担を覚えておけば、LLMは運用現場でも安心して使える強力な道具になります。