ローカルLLM(大規模言語モデルをクラウドではなく手元のマシンで動かす仕組み)を実行するOllamaが、v0.40.11で2つの新機能を追加しました。
音声合成機能と、分類・判定に特化した新モデル「d3」です。RAG(検索拡張生成)やファインチューニング(モデルの追加学習)でパイプラインを組んでいるエンジニアにとって、特にd3は推論コストの見直しに使える選択肢になりそうです。
何が変わったのか
1つ目は音声生成機能です。macOS限定で、ollama runコマンドがテキストやチャットモデルの返答を音声で読み上げられるようになりました。
ollama run phonon "Hello from Ollama."このコマンドを実行すると、phononという音声モデルがテキストを読み上げます。
アプリ開発者向けには、OpenAI互換の/v1/audio/speechエンドポイントも用意されました。OpenAIのTTS(Text-to-Speech)APIと同じリクエスト形式でストリーミング音声を受け取れるため、既存のOpenAI SDK連携コードを大きく書き換えずに移行できる可能性があります。
2つ目がd3という新モデルファミリーです。これはvLLM Semantic Router(vLLMプロジェクトが開発した、リクエストの内容に応じて適切なモデルに振り分ける仕組み)が使っていた「決定モデル」をOllama上で動かせるようにしたものです。
d3の特徴は、汎用的な文章生成ではなく「分類・Yes/No判定・スコアリング」に特化している点です。テキストだけでなく、構造化された状態(JSONのようなデータ)や画像も入力にできます。
ollama run d3 "A customer says their card was charged twice." --ask "Is this a billing issue?"この例では、顧客からの問い合わせ文を入力し、「これは請求に関する問題か」という二択の問いを投げています。d3はこれに対して確率付きのYes/No、あるいはスコアを返す設計です。サイズは2B・4B・9B・27B(パラメータ数、数字が大きいほど高精度だが計算コストも増える)の4種類が用意されています。
なぜこの2つが注目に値するか
音声生成は体験寄りの機能に見えますが、技術的にはOllamaが推論サーバーとしての守備範囲をテキスト生成から音声合成まで広げた点が重要です。
これまで音声対応アプリを作る場合、LLM用とTTS用で別々のサーバーやAPIを管理する必要がありました。Ollamaが両方を1つのランタイムでカバーできるなら、ローカル完結型の音声アシスタントを構築する際の構成がシンプルになります。
d3はもう少し実務的なインパクトがあります。
一般的なチャットモデル(Llama 3やQwenのような汎用モデル)を使って「このメールは請求トラブルか」と判定させる場合、モデルは長い文章を生成する能力ごと背負っています。分類タスクにはオーバースペックで、推論速度もコストも無駄が出がちです。
d3のような決定特化モデルは、出力をYes/Noや確率値に絞ることで、同じ判定タスクをより軽量なモデルサイズで処理できる設計です。RAGパイプラインの前段で「この質問は検索が必要か」を振り分けたり、カスタマーサポートの一次トリアージ(優先度付け)に使ったりする用途と相性がよさそうです。
関連技術との比較で見る位置づけ
vLLM Semantic Routerという名前が出てきましたが、これはvLLM(高速推論に特化したLLMサーバーの実装)のエコシステムで開発された、複数モデルへのルーティング機構です。
大規模なMoE(Mixture of Experts、複数の専門家モデルを切り替える構造)と似た発想で、リクエストごとに最適なモデルを選びます。d3はそのルーティング判断を担っていた「振り分け役」のモデル部分を、Ollama経由で単体利用できるようにしたものと理解すると位置づけがつかみやすいです。
これは分類問題を解く選択肢としての、ファインチューニング済みBERT系モデル(Google発の双方向Transformerモデル、分類タスクで長く使われてきた)とも比較できます。
BERT系は学習コストと専用の学習パイプラインが必要ですが、d3は既存の事前学習済みモデルを指示(プロンプト)で動かす方式です。ラベル付きデータを大量に用意できない小規模チームには、d3のようなプロンプトベースの分類モデルの方が着手しやすい場面もあります。
今日確認できること
まず手元のOllamaのバージョンを確認します。
ollama --versionv0.40.11未満であれば、通常のアップデート手順(ollama updateまたはインストーラーの再実行)で更新できます。音声機能はmacOS限定である点は確認時に見落としやすいので注意してください。
d3を試す場合は、まずモデルを取得します。
ollama pull d3その上で、自分のプロダクトで実際に振り分けたい判定文を使い、分類精度を確認するのが現実的な進め方です。既存のパイプラインで汎用LLMに分類タスクをやらせている箇所があれば、そこをd3に置き換えた際のレイテンシとコストの変化を測ってみる価値があります。
サイズ選定の基準としては、2Bや4Bの小型モデルから試し、精度が足りない場合に9B・27Bへ段階的に上げていく進め方が無難です。モデルサイズが上がるほどVRAM(GPUメモリ)消費も増えるため、手元のGPU環境(例えば16GB VRAMのGPUか、CPU推論か)に応じて上限を決めておくと検証がぶれません。
まとめ
Ollama v0.40.11は、音声生成とd3という分類特化モデルの2点が核になるリリースです。
音声生成はmacOS限定ながらOpenAI互換エンドポイントを備えており、既存の音声連携コードを流用しやすい設計です。d3はRAGやトリアージの前段判定など、汎用LLMでは過剰スペックになりがちな分類タスクに向いています。
まずはollama --versionでバージョンを確認し、ollama pull d3で小さいサイズから実データでの精度を試すところから始めてみてください。