Inkling 2 Mini 規格示意:20GB 權重、32GB Mac 支援門檻與 100 萬 token 上下文上限,非本站實測

Inkling 2 Mini 開放權重:32GB Mac 能跑嗎?Ollama 與 100 萬上下文解析

約 4 分鐘閱讀 更新:2026.11.21

30 秒快速摘要

Inkling 2 Mini 開放權重。比較 20GB 模型大小、32GB Mac 支援門檻與 100 萬 token 上下文上限,並說明繁中讀圖如何驗收。

Thinking Machines Lab 在 2026 年 11 月 20 日釋出 Inkling 2 Mini 的開放權重。這款模型可讀文字和圖片、輸出文字;原廠把 32GB 以上統一記憶體的 Apple Silicon Mac 列為支援硬體。這是開始試用的門檻,不代表 32GB 就能在本機跑滿官方標稱的 100 萬 token 上下文。官方發布公告、模型卡

Inkling 2 Mini 的 20GB、32GB 和 100 萬 token 各代表什麼?

數字 它代表什麼 不能拿來推論什麼
約 20GB 官方 checkpoint 的大小。Ollama 目前也把三個模型標籤都列為 20GB。 不是模型載入後的總記憶體用量。系統、其他 App 和推論暫存還要空間。
32GB 以上 原廠列出的 Apple Silicon Mac 支援門檻。這裡指統一記憶體容量,不是 SSD 剩餘空間。 不同 Mac 不一定有相同速度,也不是對任意工作量的保證。
最高 100 萬 token 模型卡與 Ollama 標籤列出的模型上下文上限。 不是 Ollama 預設配置,也不是每台符合門檻的 Mac 都能實際使用的長度。

原廠模型卡標示 Apache 2.0 授權,權重可從 Thinking Machines Lab 的 Hugging Face 模型頁取得。模型有 264 億總參數;模型卡列出 34 億基礎啟用參數,計入中段重複運算後,每個 token 的等效啟用量約為 54 億。這就是模型卡寫 34 億、Ollama 簡介寫 54 億的原因。兩個數字都不是把模型視為一款 34 億或 54 億參數的小模型來估算安裝容量的依據。

你的 Mac 適合試嗎?先看記憶體,再看工作量

  • 16GB/24GB:不在原廠對這個 checkpoint 列出的 Apple Silicon 支援範圍。若只是要讀短文件或辨識圖片,先選能在現有設備上穩定執行的較小模型。我們沒有測試其他量化版本,不能斷言這些 Mac 絕對跑不了。
  • 32GB:符合原廠支援起點。建議先用少量文字、一張不含個資的圖片,確認模型能載入、能在可接受時間內完成,再加長輸入。不要從整份長文件、多圖或最高上下文設定開始。
  • 48GB/64GB 以上:有較多空間容納推論暫存與其他 App,適合分段增加素材量再觀察。不過記憶體較大不代表一定能跑滿 100 萬 token,也不能據此推算速度或建議為這款模型換機。

Ollama 標籤表目前收錄 latest、26b-a5b 與標示 MLX 的 26b-a5b-nvfp4,列出的輸入皆為文字及圖片。Ollama 的上下文文件也提醒,配置更長的上下文會增加記憶體需求。讀文件或看圖時,應把圖片尺寸、圖片數量和對話長度一起考慮,不要只算文字字數。模型卡提到的原生輸入不含音訊或影片,輸出也是文字,不是繪圖工具。

本站觀點:先試讀圖準確度與等待時間,不必追規格上限

對想在台灣用 Mac 整理截圖、表格或繁中文件摘要的讀者,我們建議用一頁虛構表格做第一輪驗收:請模型轉錄幾個欄位,手動核對日期、負號、小數點與單位,再用同一份內容做純文字比較。接著只增加一項變數,例如第二張圖或更長文字,觀察第一個答案等多久、記憶體壓力是否上升、重要數字是否開始漏掉。這比直接選最高上下文更能判斷它是否適合日常工作。

官方模型卡寫的是支援英文與一般多語,沒有提供足以判斷台灣繁中用詞、直式中文或表格轉錄的本機實測。遇到模型看不清的欄位,應讓它標記不確定,再由人核對,不要把摘要當原始資料。本文是文件查核與測試建議,本站沒有安裝或實跑 Inkling 2 Mini,也沒有測得任何 Mac 的速度、可用上下文或繁中準確率。

X-AI 編輯團隊
X-AI 編輯團隊專注於 AI 工具評測、實用教學、價格比較與產業資訊整理;文章以公開資料、官方文件與實際可驗證資訊為基礎,並持續更新重要功能與方案變化。

留言

目前還沒有留言,歡迎分享你的看法。

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *