C++ 撰寫的本地 LLM 推論引擎 — 跑在 CPU、Apple Silicon、消費級 GPU 都行。
Free · MIT · C++ · CPU/CUDA/ROCm/Metal
AI 工具
無需 OpenAI / Anthropic 帳戶綁定的 AI 推論方案。包含本地 LLM runtime（Ollama、LM Studio）、無 KYC 雲端推論代理（Venice、NanoGPT、Privatemode）、開源前端（Open WebUI、Jan）等。
最後審核：2026-05-13
› AI 工具 » 本地 runtime 3桌面 LLM 工作台 — 下載、執行、API 對外，全部本地。
Free for personal · MacOS/Win/Linux · localhost API
●
Jan
ChatGPT 風格的桌面 client，連接本地或遠端模型 — 開源、無 telemetry。
Free · MIT · MacOS/Win/Linux · OpenAI-compat API
VSCode/JetBrains 的 AI 程式助理外掛 — 可配本地或遠端模型。
Free · Apache · VS Code / JetBrains
Your ai here? → sponsor a ai slot · or DM the bot. Editorial firewall: grade never moves.