← 記事一覧に戻る
技術ノート

AI大規模言語モデル:事前学習 vs 事後調整——「知っている」と「できる」は別物

AILLM事前学習事後学習強化学習DeepSeek
目次

AI大規模モデル:事前学習 vs 事後調整——「知っている」と「できる」は別物

こんな経験はありませんか。同じAIが、数か月もしないうちに急に「賢くなった」と感じる。それなのに、メーカーはアーキテクチャもパラメータも変えていないと言う。いったい、何が変わったのでしょうか。

2026年7月31日、DeepSeekはV4-Flashの正式版をリリースしました。公式の更新ログには、あっさりしているのに情報量の多い一文がありました。

「DeepSeek-V4-Flash-0731は、preview版と同じモデル構造・サイズを維持し、単に事後調整をやり直しただけです。」

ただ「事後調整を一度やり直した」だけで、アクティブパラメータがわずか130億の軽量モデルが、エージェント能力で490億アクティブパラメータのV4-Pro preview版に迫り、一部では超える成績を出しました。

これは魔法ではありません。今日の大規模モデルで最も中核的でありながら、最も過小評価されている概念——事前学習と事後調整の根本的な違いを、まさに突いた例なのです。

この記事では、簡単なたとえでこの2つの言葉を完全に理解し、さらに「なぜ事後調整がAI軍拡競争の新たな戦場になりつつあるのか」をお伝えします。

まず直感を養う:万巻の書を読む vs 職場研修

想像してください。

Aさんは、十数年ひたすら学び、図書館にある数百万冊の本をすべて暗記しました。天文地理、歴史典故、数理論理、人情の機微——何でも知っています。しかし問題は、彼はきちんと誰かと会話したことがありません。質問しても、答えは冗長で脱線し、場違いなことを言うこともあります。

Bさんは、Aの上に3か月の高強度「職場研修」を受けました。上司の指示の聞き方、規格どおりの報告の仕方、どこで要点を言うべきか、どこで黙るべきかを学びました。入社後も実戦で磨かれ、頼りになる社会人になっていきます。

どちらが、より問題を解決してくれるでしょうか。

もちろんBです。Aは「知っている」だけですが、Bは「できる」からです。

事前学習が「万巻の書を読む」A——モデルに膨大な知識を学ばせ、言語・事実・世界の仕組みを掴ませます。

事後調整が「職場研修」を受けたB——「何でも知っているがきちんと話せない生真面目」を、「規則を守り、物事をこなし、あなたの期待どおりに答える」専門アシスタントへと調教します。

🔑 核心は一言:事前学習は「知る」を解決し、事後調整は「できる」を解決する。一方はモデルの「理解」を決め、もう一方はモデルの「振る舞い」を決める。

事前学習とは:モデルに「万巻の書」を読ませる

事前学習はすべての大規模モデルの出発点であり、最も費用のかかる工程です。

何をしているのか?

事前学習のタスクは、聞くと単純すぎて笑ってしまうものです——膨大なテキストから「次の単語」を当てさせる(技術的には next-token prediction)。

「今日はいい天気だ」を半分だけ見せて、次の文字が「ね」でなく「、」でもなく、最も自然な単語を当てさせます。

この素朴なタスクに、数兆・数十兆ものトークンの海量テキストを掛け合わせます。モデルは「次の単語をどんどん当てる」ことで、内部の数十億・数千億のパラメータを調整し、言語の規則・世界の知識・論理のパターンをすべてパラメータに「圧縮」していきます。

🏗️ 工学の言葉で言えば、事前学習が生むのは Base Model(基盤モデル)。その役割はただ一つ——「次の単語を当てる確率」を最大化すること。

生まれるモデルはどんな姿?

Base Modelをそのまま使うと、こうなります。

  • 🗣️ おしゃべり好き——一言言えば百言返す。回答ではなく「続き」を書いているから
  • 🤔 指示が通じない——「3行で要点を」と言っても三千字書く
  • ⚠️ 偏った知識——人間のインターネット全体を学ぶので、知識も偏見も暴力も誤情報も含む

一言で言えば、事前学習はモデルを「何でも知っているけれど、まともに話せない」状態にするのです。

事前学習の3つの特徴

特徴説明
💰 コスト最大数億ドル規模、超大型GPUクラスタを数か月稼働
⏳ 期間最長データ洗浄、学習、調整はすべて「月」単位
📈 Scaling Law 支配「力とデータと計算が大きいほど賢い」

大企業だけが事前学習をできるのは、それが資本集約型の仕事だからです。

事後調整とは:モデルを「現場に出す」

事前学習が「生米」なら、事後調整はそれを炊いて、盛り付けて、出前すること。モデルを「Base」から、実際に使える「Chat/アシスタント」へ変える、決定的な工程です。

事後調整の3つの主要な手段:

1. SFT(教師ありファインチューニング):まず「問答」を覚える

「人間の質問 → 理想的な回答」の高品質ラベル付きデータを集め、モデルに模範解答を学ばせます。

この段階でモデルは基本的な「会話のマナー」——聞かれたら答える、要約と言えば要約、コードを書けと言えば書く——を身につけます。

🥣 たとえ:これは「職場研修」。新人に基本的な仕事の流れと話し方を教えます。

2. RLHF / RL(強化学習):「期待どおりに答える」を学ぶ

模範解答だけでは不十分です。「良い答え」の基準は千差万別だからです。そこで報酬モデル+強化学習を使い、モデルに試行錯誤させます。良い答えには高得点、悪い答えには低得点。反復するうちに、何を言うべきか・言わないべきか・どんな答えが受け入れられるかの「センス」を身につけます。

🧠 これは最も「人間の成長」に近い工程——模範解答の暗記ではなく、試行錯誤のなかで「良い悪い」の判断力を磨く。

DeepSeekのような推論重視モデルでは、ここで GRPO(群相対ポリシー最適化) 系の強化学習アルゴリズムを使い、特に推論能力を鍛え出します(R1はこの工程で、基盤モデルから数学オリンピック級の論理推論を「鍛え出した」のです)。

3. 蒸留 / アライメント:複数の「専門家」を1つのモデルに

チームによっては、事後調整を複数の専門の「先生」(プログラミング専門、数学専門、エージェント専門)に分けて個別に学習させ、最後に知識蒸留でそれらの能力を1つのモデルに統合します。多芸であると同時に、互いに「喧嘩」して能力を忘れ合わないようにするのです。

事後調整の3つの特徴

特徴説明
📄 データは小さいが精鋭数百万の高品質ラベル。事前学習の数兆トークンとは桁が違う
💰 コストは比較的低いだが大規模計算が必要。近年は投資比率が急上昇
🔄 反復が超速い事前学習が「月」単位に対し、事後調整は「週」単位で回せる

🎯 重要な洞察:事後調整は「飾り」から「主戦場」へ。 初期は「モデルを聞き分けのいいように調整する」だけと思われていましたが、今や事前学習と肩を並べ、差を広げる決め手になりつつあります。

事前学習から SFT・RL・蒸留/アライメントを経て Chat モデルへ

一覧で分かる:事前学習 vs 事後調整

次元🏫 事前学習🛠️ 事後調整
目標「知識」(言語と世界の理解)を学ぶ「行動」(期待どおりに答える)を学ぶ
データ海量の無ラベルテキスト(数兆トークン)少量の高品質ラベル(数百万)
コスト極めて高い(数億ドル+数か月)比較的低いが、比率は急上昇
能力の源泉汎用知識と言語能力指示追従、推論、アライメント、専門特化
産出Base Model(基盤モデル)Chatモデル/アシスタント/推論モデル
反復速度遅い(月単位)速い(週単位)
決めるものモデルが「どれだけ知っているか」モデルが「どれだけ使えるか」

💡 一言:事前学習が天井を決め、事後調整がその天井にどれだけ近づけるかを決める。

最も説得力のある証拠:DeepSeek-V4-Flash-0731

理論をいくら語っても、本物の事例には敵いません。7月31日のこの事例は、まさに「事後調整の重要性」のためにあるかのようです。

何が起きたか?

  • 🤖 モデル:DeepSeek-V4-Flash 正式版(0731)が公開ベータ開始
  • 🔗 アーキテクチャ:4月のpreviewと完全に同一——284B総パラメータ/13Bアクティブ、CSA+HCAアテンション
  • 🧬 パラメータ数:まったく変わらず
  • ✨ 変化:公式の言葉——「単に事後調整をやり直しただけ」(re-post-trained)。さらにResponses APIのネイティブ対応、Codexへの最適化を追加

効果はどれほど衝撃的か?

指標V4-Flash-0731(13Bアクティブ・事後調整のみ)V4-Pro preview(49Bアクティブ)
Terminal Bench82.7(2.1)67.9(2.0)
NL2Repo54.2—
Cybergym76.7—
Toolathlon verified70.3—

アクティブパラメータがわずか130億の軽量モデルが、「事後調整をやり直した」だけで、自社のエージェントベンチマークでアクティブ490億のPro previewに迫り、一部では超えた——その規模差は桁違いです。

🎯 ここに最も注目すべき信号がある:パラメータ規模の差は、事後調整の知恵によって追いつかれつつある。

V4-Flash-0731 と V4-Pro preview の Terminal Bench スコア

この事例が示すこと

  1. アーキテクチャだけが決め手ではない——同じ骨組みでも、学習方法を変えれば能力が天と地ほど変わる
  2. 事後調整は「能力の増幅器」——特にエージェント(AIにツールを使わせ、タスクを遂行させる)分野では効果が顕著
  3. 学習方法とデータ品質の比重が上がっている——「小モデルで大モデルに打ち勝つ」を可能にしつつある

少し正直に

正直に言うべき事実が2つあります。

  • ⚠️ 具体的に何をしたかは非公開(データ、報酬方法、学習プロセスは全て未公開)——「どの技術で上がったか」は現時点では断定できません
  • ⚠️ 評価には枠組みバイアスがある——これらの点数はDeepSeek自身のエージェント環境で測ったもので、他社のフレームワークでの実力はさらなる独立検証が必要です

だからこそ、私はこれをこう理解します:DeepSeekは「アーキテクチャもパラメータも触らず、事後調整のやり直し+ツール適合だけで、モデルの実タスク遂行能力を一段引き上げられる」という現実的な技術路線を検証している。これ自体が強いシグナルなのです。

もう一つの有力な裏付け:DeepSeek-V3.2

実は2025年末、DeepSeek V3.2はデータで同じことを語っていました。論文に明確に書かれています——事後調整段階に投入した計算予算は、事前学習コストの10%を超えると。

⏫ 噛み砕くと:以前は「事前学習が計算量の99%で、事後調整は修整程度」と思われていました。しかしDeepSeekは「いや、私は事後学習だけで事前学習の10分の1の計算を燃やしている。そのおかげでGPT-5に並び、超え、IMO金メダル級の能力を得た」と言っています。

事後学習への単独投資が事前学習の10%を超えた瞬間、それはもはや「ファインチューニング」ではなく、事前学習と肩を並べる本格的なエンジニアリングです。 これはV4-Flash-0731と同系の物語の延長线上にあります。

なぜこれがあなたに関係あるのか?

「大規模モデルを作らないから、私には関係ない」と思うかもしれません。

大いに関係あります。なぜなら、これは業界全体の競争のロジックを変えつつあるからです。

  • 🏗️ 一般の開発者へ:「事前学習」は育てられなくても、オープンソースのBaseモデル+丹念な事後調整(SFT/RLHF/アライメント)で、自領域において巨頭のデフォルトモデルに匹敵・超越する専用AIを作れます。これがR1や数多くのオープンソースコミュニティモデルの歩んだ道です。
  • 💡 利用者へ:「事後調整」を理解すれば、マーケティングの言葉を見破れます。「モデルが強くなった」と言われたら、まず問いかけてください——アーキテクチャが変わったのか、それとも単に学習し直しただけなのか。多くの「驚きのアップグレード」は、本質的に事後調整の果実です。
  • 🌍 業界へ:事後調整の効率の果実が掘り尽くされ、「学習方法」が「パラメータ規模」の差を追いかけ、打ち消し始めたとき、「パラメータを積む」だけが答えではなくなります。それが、小さなチームにチャンスの隙間を生むのです。

🔥 最後に一言——「パラメータ」を神格化せず、「アーキテクチャ」にも幻想を抱かないこと。モデルを本当に役立たせるのはその学習、とりわけ最も腕の見せ所であり、最も差がつく事後調整である。


📅 2026-08-06 | 【AI 支援で執筆】

© 2026 9x9