テクニカルペーパー
News

テクニカルペーパー公開:ローカルLLMで議事録は作れるか[2026年7月版]

Ko Ohashi

paper-header-local-llm-minutes.png

株式会社喋ラボは、テクニカルペーパー第2弾「ローカルLLMで議事録は作れるか[2026年7月版]」を公開しました。

手元のMac mini(メモリ64GB)だけで動くAIモデルが、会議の議事録づくり――決定事項・宿題・数字の抜き出し――をどこまでこなせるのか。クラウドの最上位モデル(Claude、GPT)と同じテストを受けさせて、正面から比較しました。

📄 ペーパー全文(PDF・全18ページ) ローカルLLMで議事録は作れるか[2026年7月版]


なぜローカルで動かしたいのか

会議には、社外に出せない話がたくさん含まれます。お客様の名前、公開前の数字、人事の話。クラウドのAIは優秀ですが、「そもそもデータを外に送れない」という現場は少なくありません。

だったら、データを一切外に出さず、手元のマシンだけで議事録を作れないか。約30万円のMac mini 1台でそれがどこまでできるのかを、きちんと測ったのがこのペーパーです。

結論を先に言うと

「人がチェックする前提なら、もう使える。ただしノーチェックで業務システムに流し込むのは、まだ早い」――これが2026年7月時点の等身大の現在地です。

ローカルで最も良かったqwen3.6:27bというモデルは、正確さの指標(F1スコア)で0.788。クラウド最上位のClaude Fable 5(0.932)の約86%に相当し、クラウドの小型モデルであるGPT-5.4-miniの素の状態(0.677)を上回りました。「ローカルはしょせんオモチャ」という段階は、もう終わっています。

fig2-local-vs-frontier-f1.png


見つかった2つの「落とし穴」

ただし、その実力を出すには条件があります。測定の過程で、放っておくと性能がゼロになる落とし穴が2つ見つかりました。

落とし穴①:Thinkingモードが時間を4.7〜8.7倍にする

最近のモデルには、答える前に「考える」Thinkingモードがあり、多くの場合これが最初からオンになっています。ところが今回のテストでは、このThinkingが時間を4.7〜8.7倍に膨らませたうえ、多くのモデルで成果物そのものがゼロになりました。考えごとが長すぎて、肝心の議事録を出力する前に枠を使い切ってしまうのです。

fig1-context-ceiling.png


上の図がその様子です。4つのローカルモデルのうち3つは、考えごとが上限(グラフの点線)にぴったり張り付くまで続き、強制終了になりました。唯一、最新世代のqwen3.6:27bだけが手前で考えを切り上げて、答えを出せています。

落とし穴②:Thinkingの恩恵は、実は「弱いモデルほど大きい」

では、Thinkingは常にオンにすべきなのでしょうか。クラウドの7モデルで検証したところ、意外な規則性が見つかりました。モデルが強いほどThinkingの恩恵は小さく、最上位の2モデルではむしろわずかに悪化したのです。

fig3-thinking-benefit-inverse.png


強いモデルを使えるならThinkingは要らず、弱いモデルほど補助効果が大きい。ところがローカルの小さいモデルでは、その補助が落とし穴①の枠問題で潰れてしまう――これが今回見えた皮肉な構図です。

おまけの発見:プロンプトの一行が61ポイントを動かした

測定の途中で、モデルの能力とは別の要因も見つかりました。「散らばった数字は計算して求めてください」という一行をプロンプトに足しただけで、クラウドモデルの計算問題の正答率が最大61ポイント跳ね上がったのです。日付や条件分岐など、指示と関係ない問題はほとんど動いていないので、偶然ではありません。

fig4-prompt-ab-comparison.png


裏を返すと、モデルを測っているつもりで、実はプロンプトの書き方を測っていることがある、ということです。ペーパーでは、この検証の経緯(採点プログラムのバグを見つけて直した話も含めて)を隠さず記録しています。

データセットも公開しています

評価に使った会議データは、実在の会議ではなく、正解を先に設計してから逆算で書き起こした完全フィクションの会議(約6時間相当・正解ラベル37項目付き)です。機密情報は一切含まれないため、データセット・採点プログラム・測定の生ログ・判断の記録まで、すべてGitHubで公開しました。どなたでも自分のモデルを同じ条件で測れます。

🔗 GitHub(データセットはCC BY 4.0) kouohhashi/local-llm-minutes-eval

定点観測として続けたいと思います。

タイトルに「2026年7月版」とあるのは、このテーマを半年ごとの定点観測にするためです。ローカルモデルの進化は速く、今回「あと一歩」だった精度が半年後にどこまで来るのか。同じ問題・同じ採点で測り直し、その差分をお届けします。


おまけ

実際のテストデータはどんなデータで、どんな結果を返したのかという定性的な解説を動画の中でやっています。

ローカルLLMの議事録精度、Claude最上位の86%まで来た【実測ペーパー解説】