PrismML は 2026-10-15、重みを −1・0・+1 の 3 値で表す小型モデル「Ternary Bonsai 2」の 2B・4B・9B 版を公開しました。スマートフォンやノート PC でツール呼び出しを伴うエージェントを動かしたい開発者に関係する発表で、重みは Apache 2.0 ライセンスで Hugging Face から入手できます。

主なポイント

  • ベースは Qwen3.5 の 2B・4B・9B で、メモリ使用量はそれぞれ約 0.43GB・0.95GB・2GB です。同社はフル精度版の 9 分の 1 以下としています。
  • 19 種のベンチマークで、ベースモデル比のスコア維持率はツール呼び出し系で 90.0-95.5%、コーディングで 100.1-115.0% と公表しています。一方、9B の GPQA Diamond は 69.9 (ベース 82.53) と、知識・推論系では差が出ています。
  • 同社の計測では iPhone 18 Pro Max で 2B が最大毎秒 120 トークン、9B が最大毎秒 34 トークンです。
  • 指示追従、処理ループの回避、出力の短縮を重視して調整したとしています。
  • llama.cpp (NVIDIA GPU) と MLX (Mac / iPhone / iPad) で動作します。

出典: Introducing Ternary Bonsai 2 2B, 4B, and 9B: Bringing Local Agents to Everyday Devices