3行でいうと

  • M6 Mac mini(メモリ32GB)に入れるローカルLLMを、一枚の表にまとめた。
  • 見立てでは、入れる順はQwen3.8-27B、gpt-oss-20b、Gemma 4、Sarashina。
  • 入れておくだけなら何個でも置けるが、同時に動かすのは1つにする。
  • 数字の多くは他人の環境での測定で、この機種での確認はこれから。

クラウドのAIが使えなくなっても、仕事を止めないための備え。家庭のパソコンで動くAI(ローカルLLM)を、M6 Mac mini(メモリ32GB)を基準にして、一枚にまとめました。最終確認日は2026年10月6日です。モデルは入れ替わりが速いので、更新していきます。

まず、機械の前提

基準にしたのは、M6のMac mini(メモリ32GB)です。Appleの公表では、メモリは最大32GB、メモリ帯域は毎秒170GB、12コアのCPUと12コアのGPUを備えています。2026年9月22日に店頭で発売されました。

ローカルAIの速さは、メモリ帯域でほぼ決まります。独立した測定では、帯域は毎秒143〜144GB程度でした。9B(90億パラメータ)の4ビットモデルでは、文章の生成が毎秒約27トークンです(MindStudioの測定)。

ここで言う「32GBで動くか」は、モデルのファイルの大きさに加えて、会話の長さ(コンテキスト)の分の余裕が必要です。目安は、モデル本体を16〜20GB程度までに抑えることです。

早見表

モデル 開発元(国) 大きさ ライセンス 目安のメモリ ひとこと
Qwen3.8-27B Alibaba(中国) 27B(密) Apache 2.0 4ビットで本体14.1GiB(約15GB) 汎用、コード、画像・動画の入力。長い文章は262Kトークンまで。Splashなら32GBでも毎秒25〜15トークン(動画の実例)
Qwen3.6-35B-A3B Alibaba(中国) 総計35B(実際に動く部分は3B) Apache 2.0(比較記事による) 要確認 速さ重視。Splashで毎秒143トークン(M5 Pro)
Gemma 4 Google(米国) E2B・E4B・26B(MoE)・31B Apache 2.0 要確認 小さい版(E2B・E4B)は音声・画像・動画の入力に対応
gpt-oss-20b OpenAI(米国) 20B Apache 2.0 16GB以上が目安。ディスクは約15GB 道具を呼び出す作業(エージェント)が、国産より安定という実測がある
gpt-oss-120b OpenAI(米国) 120B Apache 2.0 32GBでは現実的でない 32GBの機械では対象外
Sarashina SB Intuitions(日本) 7B〜70B MIT サイズによる 日本語の文章向き。ツール呼び出しは非対応という実測
ELYZA-JP / Swallow / LLM-jp-4 日本の各社・大学 8B前後 LLM-jp-4はApache 2.0、他は要確認 8B級なら余裕 日本語の文書処理向き。エージェントは弱い
PLaMo Preferred Networks(日本) - - - WebチャットとAPIで使える。手元に置ける重みは要確認
cotomi NEC(日本) - - - 個人は使えない。企業・官公庁向け

「要確認」は、公式の資料で数字を確かめられていない項目です。推測では載せていません。

いま入れるなら、この順

ここは見立てです。

  1. Qwen3.8-27B:主力にします。4ビットで本体14.1GiB(約15GB)なので、文脈の長さを控えめにすれば、32GBに載ります。画像や動画も読めて、Apache 2.0なので仕事にも使えます。
  2. gpt-oss-20b:保険として入れます。開発元がアメリカで、道具を呼び出す作業の実測も良好でした。「中国製を使えない場面」の代わりになります。
  3. Gemma 4:小回りの用です。E4Bのような小さい版は、軽い作業や、音声・画像の入力に向きます。
  4. Sarashina:日本語の文書処理を、国産で完結させたいときに入れます。

どれも、ディスクは1つあたり十数GBです。入れておくだけなら同時に何個でも置けますが、同時に動かすのは1つにしてください。

入れ方

方法は3つあります。

1. LM Studio(画面で操作)

LM Studioのアプリを入れて、検索欄にモデル名を入れ、ダウンロードして、チャットを始めます。コマンドは不要です。まず試すなら、これがいちばん簡単です。

2. Ollama(コマンド)

Ollamaを入れて、ターミナルで次のようにします。gpt-oss-20bの例です。

ollama pull gpt-oss:20b
ollama run gpt-oss:20b

ほかのモデルは、名前(タグ)をOllamaの公式ページで確認してから入れてください。

3. Splash(Qwen3.8-27B専用の高速版)

いちばん簡単なのは、LM Studioを使う方法です。設定画面でShift+⌘+Rを押し、「Runtime」の「Engines & Frameworks」から「Splash (Metal)」をダウンロードします。そのあとモデル検索で「Inco AI」と入れ、フォーマットを「Splash」にして、Qwen3.8 27Bを落とします。

コマンドで使うなら、次のとおりです。

brew install incoai/tap/splash
splash serve --model incoai/Qwen3.8-27B-Splash

公式の条件は、M3以降、メモリ36GB以上です。ただし、M6 Mac mini(32GB)で動かした動画の実例があり、これまでの2倍ほどの、毎秒25〜15トークンが出ています。Akiraの手元でも、余裕で動いています。32GBでは、文脈の長さを大きくしすぎると読み込みでエラーになるので、18万トークンほどに抑えるのがコツです。詳しくは、Splashの記事に書きました。なお、このQwenは開発元のAlibabaではなく、Inco AIがまとめ直したものです。

何にどう使うか

使い道 向いているモデル 理由と注意
日常の質問、要約、文章の下書き Qwen3.8-27B 考え込む「思考モード」は標準でオンです。リクエストごとにオフにできます。オフにすると、処理が大きく短くなったという報告があります
画像・動画を読ませる Qwen3.8-27B 画像・動画の入力に対応しています
コードを書く、直す Qwen3.8-27B コードに強いという評価です
道具を使う作業(ファイル操作など) gpt-oss-20b 国産モデルより、道具の呼び出しが安定していたという実測があります
日本語の文書の整理 Sarashina、Qwen3.8-27B 国産で完結させたいならSarashina、精度ならQwen
軽い作業、音声・画像の簡単な処理 Gemma 4(E4Bなど) 小さくて速い版です

気をつけること

出典