frontier LLM の精度を、Jev の速さで実現する 4B のオープンモデル、Reflex-1

Reflex-1 は、研究プロジェクト NerveReflex(AI モデルを、言葉ではなく内部表現のまま協調させる AI アーキテクチャの研究)の考え方を、実際に使えるオープンモデルとして形にした派生の成果です。

分類の判定では GPT-5.6・Gemini 3.8 などの frontier LLM と同じ精度帯の答えを、判定専用 AI の Jev より速く返し、自社の判定を追加学習すれば、推論が要る判定でも frontier LLM 並みの精度を Jev 並みの速さで出します。手元の GPU で動き、画像も読めます。個人の開発環境で、数日、数ドルで作りました。

分類の判定: 精度はそのまま、速さは桁違い

問い合わせの振り分け、SNS の感情、投稿の審査など、業務で使う分類を同じ問題・同じ選択肢で比べました。精度は 4 者とも同じ帯に並び、答えが返るまでの時間だけが桁で違います。

1 判定のレイテンシ(文章の分類 5 タスク)

文章の分類: 精度 × 速さ

問い合わせの振り分け・発話の意図・感情・肯定否定・投稿の審査の平均

画像の分類: 精度 × 速さ

料理写真・EC 商品画像の平均。Jev は画像に非対応

推論が要る判定も、追加学習で frontier LLM の精度を Jev の速さで

Jev は速いものの、推論が要る判定では崩れます。frontier LLM は reasoning ありなら正確ですが、1 問に数秒かかります。Reflex-1 は latent reasoning(推論を文章として書き出さず、モデルの内部で進める手法)でこの 2 つを両立します。判定を追加学習させると、推論が要る判定でも frontier LLM 並みの精度を、Jev と同じ 1 秒前後で返します。考えた各段は、あとから言葉に戻して確かめられます。下の図は、推論が要る論理課題 5 種で学習させた結果です。

推論が要る判定: 精度 × 速さ(追加学習した論理課題 5 種の平均)

自社特有の判定も、学習させれば同じ速さで使える

この推論は課題ごとの追加学習で身につけたもので、どんな推論にもそのまま効くわけではありません。逆に言えば、請求書と発注書の突き合わせ、承認経路の判定、規程どおりかの確認など、自社特有の判定も、同じ方法で学習させれば、同じ速さで推論できるようになります。重みが公開されていない Jev や frontier LLM には、このように自社の判定を学習させることはできません。

frontier LLM・Jev とどう違うか

評価: frontier LLM・Jev・Reflex-1 の比較

同じ問題集・同じ選択肢で比較しています。Jev と Reflex-1 は全問(分類は各 200 問、推論は各 100 問)、frontier LLM はその中から選んだ参考値(分類は各 100 問、推論は各 50 問)です。数字は正解率 %、括弧はレイテンシです。

即答の判定(文章)

文章と選択肢を渡し、1 つ選ばせます。問い合わせをどの窓口に回すか / 音声アシスタントへの日本語の発話の意図 / SNS 投稿の感情(4 種)と肯定・否定・中立(3 種)/ コメントが他人への悪口か(投稿の審査)。

即答の判定(画像)

写真を 1 枚渡し、種類を選ばせます。料理の写真(10 種)/ EC サイトの商品写真(10 種)/ スキャンした書類の種類(16 種)。

推論(追加学習した論理課題)

推論が要る論理パズルを解かせます(Reflex-1 は課題ごとに追加学習)。嘘つきの連鎖: 「前の人は嘘つき / 正直」と順に言う 10・20 人の最後の人が正直か / 入れ替え追跡: 7 人が 14 回ボールを交換した後、指定の人が持つボール / 真偽式: not・and・or の式の値 / 道順: 指示どおりに歩くと出発点に戻るか。

使い方

要求は Jev と互換の形(state・questions・instructions・criteria、choice 型)です。mode・skill・trace・image・text 型は Reflex-1 独自の拡張です。

POST /v1/decisions
{"state": "I want to know my credit rating",
 "questions": {"desk": {"type": "choice",
   "instructions": "Which desk should handle this inquiry?",
   "criteria": {"credit_score": "", "transfer": "", "none": "none of these"}}}}
→ {"answers": {"desk": {"choice": "credit_score", "confidence": 0.97,
     "probs": {"credit_score": 0.97, "transfer": 0.01, "none": 0.02}}}, "latency_ms": 90}

{"state": "Question: Ryan tells the truth. Michael says Ryan lies. ...",
 "mode": "deep", "skill": "web_of_lies", "trace": true, "questions": {...}}
→ {"answers": {"a": {"choice": "No", "confidence": 1.0,
     "trace": ["start -> Ryan tells the truth", "Michael says Ryan lies -> Michael lies", "..."]}},
   "latency_ms": 820}

• GitHub — matu79go/reflex-1
• Hugging Face — matu79go/Reflex-1-4B(4bit 版: Reflex-1-4B-bnb-4bit、Collection)
• Open in Colab

引用: Suzuki, G. (2026). Reflex-1: frontier-LLM accuracy at Jev speed with a 4B open model. Zenodo. doi:10.5281/zenodo.23005201

開発環境

大規模な計算クラスタは使わず、手元の GPU マシン 1 台(ASUS Ascent GX10)で開発しました。学習・評価・動画の作成まで、すべてこのマシンで行っています。

項目	内容
マシン	ASUS Ascent GX10 × 1 台(NVIDIA GB10 Grace Blackwell、CPU 20 コア、CPU と GPU で共有する統合メモリ 128 GB)
OS / ソフト	Ubuntu 24.04 (aarch64) · PyTorch 2.14 (CUDA 13) · Transformers 5.17 · PEFT 0.21 (LoRA) · bitsandbytes 0.50 · vLLM 0.19
ベースモデル	Google Gemma 4 E4B (Apache 2.0)
追加学習	LoRA + 潜在推論用の小さな部品。1 課題あたり GPU 1 枚で 1.4〜2.2 時間
開発期間	4 日。比較の計測を含む
外部の費用	比較用の API 代(Jev・GPT-5.6・Gemini 3.8)合計 約 $2.5。学習にクラウドは使っていない

注記

• 推論が要る判定は、判定ごとの追加学習が前提です。学習した種類・深さの判定で力を発揮し、学習していない種類の推論にはそのまま効きません。分類の判定は追加学習なしで使えます。
• 推論モードは現在 NVIDIA GPU(CUDA)で動作します。llama.cpp など一般的な実行環境への対応を近日中に進めます。

---

Reflex-1 の土台になった考え方と、これまでの検証は NerveReflex のプロジェクトページにまとめています:

• NerveReflex ― 非言語で協調するAIアーキテクチャの研究
• 第1回 話題のAI「Jev」は何がすごいのか？ NerveReflexとオープンモデルで再現に成功

計測: 2026 年 9 月、GX10(NVIDIA GB10)1 台。Jev(typesafe/jev-1.13)と frontier は OpenRouter 経由、API 実費は合計 約 $2.5。Reflex-1 は Google Gemma 4 E4B(Apache 2.0)からの派生で、Google の公認・関与はありません。Jev は TypeSafe AI の製品で、比較結果は筆者が OpenRouter 経由で測ったものです(TypeSafe AI の公認ではありません)。データ: CLINC150(Larson ら 2019、CC BY 3.0)、MASSIVE(FitzGerald ら 2022、CC BY 4.0)、Civil Comments(Jigsaw、CC0)、BIG-Bench Hard(Suzgun ら 2022、MIT)、tweet_eval(Barbieri ら 2020)、Food-101(Bossard ら 2014)、Fashion Product Images、RVL-CDIP(Harley ら 2015)。動画の写真は Wikimedia Commons の CC0 / パブリックドメイン。コンセプト: NerveReflex。