AI大規模モデル:事前学習 vs 事後調整——「知っている」と「できる」は別物
こんな経験はありませんか。同じAIが、数か月もしないうちに急に「賢くなった」と感じる。それなのに、メーカーはアーキテクチャもパラメータも変えていないと言う。いったい、何が変わったのでしょうか。
2026年7月31日、DeepSeekはV4-Flashの正式版をリリースしました。公式の更新ログには、あっさりしているのに情報量の多い一文がありました。
「DeepSeek-V4-Flash-0731は、preview版と同じモデル構造・サイズを維持し、単に事後調整をやり直しただけです。」
ただ「事後調整を一度やり直した」だけで、アクティブパラメータがわずか130億の軽量モデルが、エージェント能力で490億アクティブパラメータのV4-Pro preview版に迫り、一部では超える成績を出しました。
これは魔法ではありません。今日の大規模モデルで最も中核的でありながら、最も過小評価されている概念——事前学習と事後調整の根本的な違いを、まさに突いた例なのです。
この記事では、簡単なたとえでこの2つの言葉を完全に理解し、さらに「なぜ事後調整がAI軍拡競争の新たな戦場になりつつあるのか」をお伝えします。
まず直感を養う:万巻の書を読む vs 職場研修
想像してください。
Aさんは、十数年ひたすら学び、図書館にある数百万冊の本をすべて暗記しました。天文地理、歴史典故、数理論理、人情の機微——何でも知っています。しかし問題は、彼はきちんと誰かと会話したことがありません。質問しても、答えは冗長で脱線し、場違いなことを言うこともあります。
Bさんは、Aの上に3か月の高強度「職場研修」を受けました。上司の指示の聞き方、規格どおりの報告の仕方、どこで要点を言うべきか、どこで黙るべきかを学びました。入社後も実戦で磨かれ、頼りになる社会人になっていきます。
どちらが、より問題を解決してくれるでしょうか。
もちろんBです。Aは「知っている」だけですが、Bは「できる」からです。
事前学習が「万巻の書を読む」A——モデルに膨大な知識を学ばせ、言語・事実・世界の仕組みを掴ませます。
事後調整が「職場研修」を受けたB——「何でも知っているがきちんと話せない生真面目」を、「規則を守り、物事をこなし、あなたの期待どおりに答える」専門アシスタントへと調教します。
🔑 核心は一言:事前学習は「知る」を解決し、事後調整は「できる」を解決する。一方はモデルの「理解」を決め、もう一方はモデルの「振る舞い」を決める。
事前学習とは:モデルに「万巻の書」を読ませる
事前学習はすべての大規模モデルの出発点であり、最も費用のかかる工程です。
何をしているのか?
事前学習のタスクは、聞くと単純すぎて笑ってしまうものです——膨大なテキストから「次の単語」を当てさせる(技術的には next-token prediction)。
「今日はいい天気だ」を半分だけ見せて、次の文字が「ね」でなく「、」でもなく、最も自然な単語を当てさせます。
この素朴なタスクに、数兆・数十兆ものトークンの海量テキストを掛け合わせます。モデルは「次の単語をどんどん当てる」ことで、内部の数十億・数千億のパラメータを調整し、言語の規則・世界の知識・論理のパターンをすべてパラメータに「圧縮」していきます。
🏗️ 工学の言葉で言えば、事前学習が生むのは Base Model(基盤モデル)。その役割はただ一つ——「次の単語を当てる確率」を最大化すること。
生まれるモデルはどんな姿?
Base Modelをそのまま使うと、こうなります。
- 🗣️ おしゃべり好き——一言言えば百言返す。回答ではなく「続き」を書いているから
- 🤔 指示が通じない——「3行で要点を」と言っても三千字書く
- ⚠️ 偏った知識——人間のインターネット全体を学ぶので、知識も偏見も暴力も誤情報も含む
一言で言えば、事前学習はモデルを「何でも知っているけれど、まともに話せない」状態にするのです。
事前学習の3つの特徴
| 特徴 | 説明 |
|---|---|
| 💰 コスト最大 | 数億ドル規模、超大型GPUクラスタを数か月稼働 |
| ⏳ 期間最長 | データ洗浄、学習、調整はすべて「月」単位 |
| 📈 Scaling Law 支配 | 「力とデータと計算が大きいほど賢い」 |
大企業だけが事前学習をできるのは、それが資本集約型の仕事だからです。
事後調整とは:モデルを「現場に出す」
事前学習が「生米」なら、事後調整はそれを炊いて、盛り付けて、出前すること。モデルを「Base」から、実際に使える「Chat/アシスタント」へ変える、決定的な工程です。
事後調整の3つの主要な手段:
1. SFT(教師ありファインチューニング):まず「問答」を覚える
「人間の質問 → 理想的な回答」の高品質ラベル付きデータを集め、モデルに模範解答を学ばせます。
この段階でモデルは基本的な「会話のマナー」——聞かれたら答える、要約と言えば要約、コードを書けと言えば書く——を身につけます。
🥣 たとえ:これは「職場研修」。新人に基本的な仕事の流れと話し方を教えます。
2. RLHF / RL(強化学習):「期待どおりに答える」を学ぶ
模範解答だけでは不十分です。「良い答え」の基準は千差万別だからです。そこで報酬モデル+強化学習を使い、モデルに試行錯誤させます。良い答えには高得点、悪い答えには低得点。反復するうちに、何を言うべきか・言わないべきか・どんな答えが受け入れられるかの「センス」を身につけます。
🧠 これは最も「人間の成長」に近い工程——模範解答の暗記ではなく、試行錯誤のなかで「良い悪い」の判断力を磨く。
DeepSeekのような推論重視モデルでは、ここで GRPO(群相対ポリシー最適化) 系の強化学習アルゴリズムを使い、特に推論能力を鍛え出します(R1はこの工程で、基盤モデルから数学オリンピック級の論理推論を「鍛え出した」のです)。
3. 蒸留 / アライメント:複数の「専門家」を1つのモデルに
チームによっては、事後調整を複数の専門の「先生」(プログラミング専門、数学専門、エージェント専門)に分けて個別に学習させ、最後に知識蒸留でそれらの能力を1つのモデルに統合します。多芸であると同時に、互いに「喧嘩」して能力を忘れ合わないようにするのです。
事後調整の3つの特徴
| 特徴 | 説明 |
|---|---|
| 📄 データは小さいが精鋭 | 数百万の高品質ラベル。事前学習の数兆トークンとは桁が違う |
| 💰 コストは比較的低い | だが大規模計算が必要。近年は投資比率が急上昇 |
| 🔄 反復が超速い | 事前学習が「月」単位に対し、事後調整は「週」単位で回せる |
🎯 重要な洞察:事後調整は「飾り」から「主戦場」へ。 初期は「モデルを聞き分けのいいように調整する」だけと思われていましたが、今や事前学習と肩を並べ、差を広げる決め手になりつつあります。
一覧で分かる:事前学習 vs 事後調整
| 次元 | 🏫 事前学習 | 🛠️ 事後調整 |
|---|---|---|
| 目標 | 「知識」(言語と世界の理解)を学ぶ | 「行動」(期待どおりに答える)を学ぶ |
| データ | 海量の無ラベルテキスト(数兆トークン) | 少量の高品質ラベル(数百万) |
| コスト | 極めて高い(数億ドル+数か月) | 比較的低いが、比率は急上昇 |
| 能力の源泉 | 汎用知識と言語能力 | 指示追従、推論、アライメント、専門特化 |
| 産出 | Base Model(基盤モデル) | Chatモデル/アシスタント/推論モデル |
| 反復速度 | 遅い(月単位) | 速い(週単位) |
| 決めるもの | モデルが「どれだけ知っているか」 | モデルが「どれだけ使えるか」 |
💡 一言:事前学習が天井を決め、事後調整がその天井にどれだけ近づけるかを決める。
最も説得力のある証拠:DeepSeek-V4-Flash-0731
理論をいくら語っても、本物の事例には敵いません。7月31日のこの事例は、まさに「事後調整の重要性」のためにあるかのようです。
何が起きたか?
- 🤖 モデル:DeepSeek-V4-Flash 正式版(0731)が公開ベータ開始
- 🔗 アーキテクチャ:4月のpreviewと完全に同一——284B総パラメータ/13Bアクティブ、CSA+HCAアテンション
- 🧬 パラメータ数:まったく変わらず
- ✨ 変化:公式の言葉——「単に事後調整をやり直しただけ」(re-post-trained)。さらにResponses APIのネイティブ対応、Codexへの最適化を追加
効果はどれほど衝撃的か?
| 指標 | V4-Flash-0731(13Bアクティブ・事後調整のみ) | V4-Pro preview(49Bアクティブ) |
|---|---|---|
| Terminal Bench | 82.7(2.1) | 67.9(2.0) |
| NL2Repo | 54.2 | — |
| Cybergym | 76.7 | — |
| Toolathlon verified | 70.3 | — |
アクティブパラメータがわずか130億の軽量モデルが、「事後調整をやり直した」だけで、自社のエージェントベンチマークでアクティブ490億のPro previewに迫り、一部では超えた——その規模差は桁違いです。
🎯 ここに最も注目すべき信号がある:パラメータ規模の差は、事後調整の知恵によって追いつかれつつある。
この事例が示すこと
- アーキテクチャだけが決め手ではない——同じ骨組みでも、学習方法を変えれば能力が天と地ほど変わる
- 事後調整は「能力の増幅器」——特にエージェント(AIにツールを使わせ、タスクを遂行させる)分野では効果が顕著
- 学習方法とデータ品質の比重が上がっている——「小モデルで大モデルに打ち勝つ」を可能にしつつある
少し正直に
正直に言うべき事実が2つあります。
- ⚠️ 具体的に何をしたかは非公開(データ、報酬方法、学習プロセスは全て未公開)——「どの技術で上がったか」は現時点では断定できません
- ⚠️ 評価には枠組みバイアスがある——これらの点数はDeepSeek自身のエージェント環境で測ったもので、他社のフレームワークでの実力はさらなる独立検証が必要です
だからこそ、私はこれをこう理解します:DeepSeekは「アーキテクチャもパラメータも触らず、事後調整のやり直し+ツール適合だけで、モデルの実タスク遂行能力を一段引き上げられる」という現実的な技術路線を検証している。これ自体が強いシグナルなのです。
もう一つの有力な裏付け:DeepSeek-V3.2
実は2025年末、DeepSeek V3.2はデータで同じことを語っていました。論文に明確に書かれています——事後調整段階に投入した計算予算は、事前学習コストの10%を超えると。
⏫ 噛み砕くと:以前は「事前学習が計算量の99%で、事後調整は修整程度」と思われていました。しかしDeepSeekは「いや、私は事後学習だけで事前学習の10分の1の計算を燃やしている。そのおかげでGPT-5に並び、超え、IMO金メダル級の能力を得た」と言っています。
事後学習への単独投資が事前学習の10%を超えた瞬間、それはもはや「ファインチューニング」ではなく、事前学習と肩を並べる本格的なエンジニアリングです。 これはV4-Flash-0731と同系の物語の延長线上にあります。
なぜこれがあなたに関係あるのか?
「大規模モデルを作らないから、私には関係ない」と思うかもしれません。
大いに関係あります。なぜなら、これは業界全体の競争のロジックを変えつつあるからです。
- 🏗️ 一般の開発者へ:「事前学習」は育てられなくても、オープンソースのBaseモデル+丹念な事後調整(SFT/RLHF/アライメント)で、自領域において巨頭のデフォルトモデルに匹敵・超越する専用AIを作れます。これがR1や数多くのオープンソースコミュニティモデルの歩んだ道です。
- 💡 利用者へ:「事後調整」を理解すれば、マーケティングの言葉を見破れます。「モデルが強くなった」と言われたら、まず問いかけてください——アーキテクチャが変わったのか、それとも単に学習し直しただけなのか。多くの「驚きのアップグレード」は、本質的に事後調整の果実です。
- 🌍 業界へ:事後調整の効率の果実が掘り尽くされ、「学習方法」が「パラメータ規模」の差を追いかけ、打ち消し始めたとき、「パラメータを積む」だけが答えではなくなります。それが、小さなチームにチャンスの隙間を生むのです。
🔥 最後に一言——「パラメータ」を神格化せず、「アーキテクチャ」にも幻想を抱かないこと。モデルを本当に役立たせるのはその学習、とりわけ最も腕の見せ所であり、最も差がつく事後調整である。
📅 2026-08-06 | 【AI 支援で執筆】