Thinking Machines Lab 在 2026 年 11 月 20 日釋出 Inkling 2 Mini 的開放權重。這款模型可讀文字和圖片、輸出文字;原廠把 32GB 以上統一記憶體的 Apple Silicon Mac 列為支援硬體。這是開始試用的門檻,不代表 32GB 就能在本機跑滿官方標稱的 100 萬 token 上下文。官方發布公告、模型卡
Inkling 2 Mini 的 20GB、32GB 和 100 萬 token 各代表什麼?
| 數字 | 它代表什麼 | 不能拿來推論什麼 |
|---|---|---|
| 約 20GB | 官方 checkpoint 的大小。Ollama 目前也把三個模型標籤都列為 20GB。 | 不是模型載入後的總記憶體用量。系統、其他 App 和推論暫存還要空間。 |
| 32GB 以上 | 原廠列出的 Apple Silicon Mac 支援門檻。這裡指統一記憶體容量,不是 SSD 剩餘空間。 | 不同 Mac 不一定有相同速度,也不是對任意工作量的保證。 |
| 最高 100 萬 token | 模型卡與 Ollama 標籤列出的模型上下文上限。 | 不是 Ollama 預設配置,也不是每台符合門檻的 Mac 都能實際使用的長度。 |
原廠模型卡標示 Apache 2.0 授權,權重可從 Thinking Machines Lab 的 Hugging Face 模型頁取得。模型有 264 億總參數;模型卡列出 34 億基礎啟用參數,計入中段重複運算後,每個 token 的等效啟用量約為 54 億。這就是模型卡寫 34 億、Ollama 簡介寫 54 億的原因。兩個數字都不是把模型視為一款 34 億或 54 億參數的小模型來估算安裝容量的依據。
你的 Mac 適合試嗎?先看記憶體,再看工作量
- 16GB/24GB:不在原廠對這個 checkpoint 列出的 Apple Silicon 支援範圍。若只是要讀短文件或辨識圖片,先選能在現有設備上穩定執行的較小模型。我們沒有測試其他量化版本,不能斷言這些 Mac 絕對跑不了。
- 32GB:符合原廠支援起點。建議先用少量文字、一張不含個資的圖片,確認模型能載入、能在可接受時間內完成,再加長輸入。不要從整份長文件、多圖或最高上下文設定開始。
- 48GB/64GB 以上:有較多空間容納推論暫存與其他 App,適合分段增加素材量再觀察。不過記憶體較大不代表一定能跑滿 100 萬 token,也不能據此推算速度或建議為這款模型換機。
Ollama 標籤表目前收錄 latest、26b-a5b 與標示 MLX 的 26b-a5b-nvfp4,列出的輸入皆為文字及圖片。Ollama 的上下文文件也提醒,配置更長的上下文會增加記憶體需求。讀文件或看圖時,應把圖片尺寸、圖片數量和對話長度一起考慮,不要只算文字字數。模型卡提到的原生輸入不含音訊或影片,輸出也是文字,不是繪圖工具。
本站觀點:先試讀圖準確度與等待時間,不必追規格上限
對想在台灣用 Mac 整理截圖、表格或繁中文件摘要的讀者,我們建議用一頁虛構表格做第一輪驗收:請模型轉錄幾個欄位,手動核對日期、負號、小數點與單位,再用同一份內容做純文字比較。接著只增加一項變數,例如第二張圖或更長文字,觀察第一個答案等多久、記憶體壓力是否上升、重要數字是否開始漏掉。這比直接選最高上下文更能判斷它是否適合日常工作。
官方模型卡寫的是支援英文與一般多語,沒有提供足以判斷台灣繁中用詞、直式中文或表格轉錄的本機實測。遇到模型看不清的欄位,應讓它標記不確定,再由人核對,不要把摘要當原始資料。本文是文件查核與測試建議,本站沒有安裝或實跑 Inkling 2 Mini,也沒有測得任何 Mac 的速度、可用上下文或繁中準確率。
