GPT-5.6 Solを100分の1のコストで超えた——Castform×Neonが証明した小型モデルの逆転劇
「精度を上げたければ、ちゃんとしたモデルにお金を払うしかない」
そう半ば諦めていた人には、2026年8月に公開されたあるブログ記事が刺さったはずだ。Neonが書いたその記事によれば、4Bパラメータ（40億個の重みを持つ小型）のオープンソースモデルを"後から専用トレーニング"したところ、検索精度でGPT-5.6 Solと同水準に並び、コストは100分の1以下だったという。
Hacker Newsでも400点超のスコアを集め、「これは本当に再現できるのか」「どうやって？」という声が飛び交った。
なぜ小型モデルは今まで"使えなかった"のか
AIエージェント（与えられた目標に向けて自律的に検索・判断・実行を繰り返すAIプログラム）が普及するにつれ、「検索を何度もループさせる」アーキテクチャが主流になってきた。1回で答えを出すのではなく、「まずここを調べて、足りなければ次を調べて……」を自動で回す方式だ。
問題は、ループが増えるほどコストが積み上がること。GPT-5.6 Solのような最前線モデルを使うと、複数回の検索を含む1リクエストあたり約0.03ドル、所要時間は約10秒になると記事は述べている。1日1万リクエスト動かせば単純計算で300ドル。小さなサービスには気軽に選べない金額だ。
一方、パラメータ数の少ない小型のオープンソースモデルはコストが桁違いに安い。が、そのままでは検索の精度が落ちる。「安いけど使えない」——この構図が長らく続いていた。
「後からトレーニング」で差を縮める
その壁を崩す手法として注目を集めているのが**RL後学習（Reinforcement Learning Post-Training）**だ。日本語で言えば「強化学習を使った追加トレーニング」。
強化学習とは、AIが試行錯誤を繰り返しながら「正解に近づいた行動」を学ぶ仕組みだ。チェスAIが何千万回も対局して上達するイメージに近い。これをすでに完成した言語モデルに対して"特定のタスク専用"に追加で行うのがRL後学習で、汎用の賢さを下げずに「この仕事だけは超得意」にできる。
ただ、これを自前でやろうとするとGPUサーバーの調達からトレーニングコードの整備まで、かなりのエンジニアリングが要る。それを「プロンプトを書くくらいの感覚でできるように」と設計されたのがCastformというサービスだ。
Castformが解決した"もう一つの問題"
RL後学習には3つのものが必要とされる。
- タスク：何をゴールにするか（例：ユーザーの質問に正確に答える）
- 環境：モデルが試せる道具（例：社内文書を検索できるツール）
- 報酬関数：どれだけ上手くできたかを採点する仕組み
この3つを整えるのが難しい。特に「タスクと報酬関数を作るための良質なデータセット」を持っている企業は少ない——というのが、後学習が普及しなかった実際の理由だ。
Castformのアプローチはここをひっくり返す。**「良質なデータはすでに会社のデータベースの中にある」**という発想だ。社内マニュアル、製品仕様、サポート履歴、社内Wiki——これらを読み込み、「この文書からどんな質問が生まれるか」を自動生成してトレーニング用データセットを作る。人手でラベルを付けるステップを大幅に省略できる。
たとえば記事中に示された例では、「Navanで予約した出張の鉄道はエコノミークラス、かつ14日前までに予約すること」という社内規程から、「いつまでに・どのクラスで予約すべきか」という質問を自動生成してトレーニングデータに変換している。
検索インフラは「Neon」が担う
Castformがモデルを鍛える側なら、Neonは「検索できる場所」を提供する側だ。
NeonはPostgres（広く使われるデータベースの一種）を提供するサービスで、今回の実証では「Lakebase Search」という拡張機能を活用した。これはキーワード一致検索（BM25）と意味的な近さで探すベクトル検索を組み合わせたハイブリッド検索で、どちらか一方より精度が高くなりやすい。
トレーニング中も推論（実際に動かす）段階も、モデルは同じ検索ツールを叩く設計になっているため、「練習と本番の環境が一致する」という強みがある。
実際の結果
記事によれば、Castformで後学習させた4Bパラメータのオープンソースモデルは、検索精度においてGPT-5.6 Solと同等の結果を達成した。コストは100分の1以下。
GPT-5.6 Solのような最前線モデルはAPIで利用するたびに課金が発生するが（トークンと呼ばれる処理単位ごとの従量課金で、高精度なモデルほど単価が高い）、後学習済みの小型モデルをローカルやクラウドに配置できれば、繰り返し呼び出しのコスト構造が根本から変わる。
もちろん「あらゆるタスクで同じ結果が出る」わけではない。この結果はCastformが定義した検索タスク（正しいソースを取得し、引用し、正解を返す）に特化した後学習の成果だ。汎用の対話や推論では別の話になる。それでも、特定のタスクに絞れば、小型モデルは最前線モデルに肩を並べられるという実証として注目度は高い。
何が変わるのか
この流れが示唆するのは「大きいモデルを常に呼べばいい」という時代の変化だ。
重要な判断や高品質な出力が必要な局面には高性能なモデルを使い、ルーティンな検索・取得ループには後学習済みの小型モデルを当てる——そういう使い分けが、開発者にとってより現実的な選択肢になってきている。
Castformが目指す「プロンプト設計と同じ感覚で後学習できる環境」が整えば、この戦略はエンジニアリング専門家だけのものではなくなるかもしれない。Hacker Newsの100を超えるコメントが示すように、関心を持つ開発者は決して少なくない。
以上です。なるほどラボでは、こうしたAIを"自分の環境で動かしたい・24時間働かせ続けたい"という方向けの情報を発信しています。自分に合った動かし方が気になる方は、無料の診断をどうぞ。