AI 类开源软件,本机跑模型与调用模型的工具分类

195 个软件

想在电脑上运行模型、借助模型写代码,或尝试图像生成,可以先按用途浏览这类开源工具。这里既有本机运行模型的工具,也有编码代理、绘图界面、应用开发框架和语音工作室。比如,ollama 将拉取模型、启动和提供服务集中到命令行操作中;opencode 提供命令行与桌面应用两种形态;ComfyUI 则用图形化节点界面生成图像、视频与音频。

挑选时,先看项目说明是否符合自己的用途,再结合星标和最近发版情况判断关注度与维护动向,不必只按星标多少决定。准备安装前,还应查看是否提供适合自己平台的安装包或明确的平台说明,分清命令行、桌面应用和网页界面的使用方式。版本名称中带有测试标记的,也要留意发布说明,确认是否适合自己的使用需求。

VPN客户端 目前列有 195 个 AI 类开源项目,合计 4,252,242 个星标,最近 7 天内 89 个发了新版本。

关于这个分类

AI 类可以分作两大块看:一块偏底层,是在自己机器上跑模型的东西,如机器学习框架、LLM 推理和微调工具;另一块偏应用,是直接使用模型能力的工具,涵盖 AI 聊天客户端、AI 编程助手、Agent 框架、AI 图像工具、AI 语音工具、语音转文字,以及第二大脑与知识库和 MCP 连接器。

前一类对硬件要求高:显卡、显存、模型权重都得自己备齐,装好后还要配置环境;后一类大多只需填入一个 API Key,门槛低很多。同样的需求选哪条路,要看你想不想把推理放在本机完成。

只想让 AI 帮忙做事,就从「AI 聊天客户端/助手」与「AI 编程助手」看起;打算在自己的机器上跑模型,去看「LLM 推理/微调工具」,并先弄清显存要求与量化方案;希望 AI 连上自己的文件和数据,则看「MCP 连接器」与「第二大脑/知识库」。


openclaw

openclaw/openclaw

394.4k

开源(MIT)的自托管 AI 助手平台。Gateway 部署在你自己的电脑上,可连接 WhatsApp、Telegram、Slack、Discord 等二十多个聊天渠道,也有多平台原生应用;模型与工具都做成可替换的插件,记忆、状态、凭据全留在本机。

v2026.11.5-beta.2 TypeScript
收录于 2026-11-16

opencode

anomalyco/opencode

226.6k

开源的 AI 编码代理,CLI、桌面应用两种形态,部署时可以用 npm、Homebrew,也可以执行一键安装脚本。

v2.3.0 TypeScript
收录于 2026-11-16

ollama

ollama/ollama

187.0k

在自己机器上运行开源大模型,不必借助云端:ollama 把拉取模型、启动、对外提供服务这些步骤浓缩成寥寥几条命令,同时给出命令行、REST API,以及官方的 Python 与 JS 库,Docker、Linux、Windows、macOS 都能用。

v0.40.17-rc0 Go
收录于 2026-11-16

stable-diffusion-webui

AUTOMATIC1111/stable-diffusion-webui

165.3k

这是一个 Gradio 搭建的网页界面,通过它能在浏览器里调用 SD 绘图模型,核心功能包括文生图(txt2img)和图生图(img2img)。

v1.10.0 Python
作者更新于 2024年7月27日

langchain

langchain-ai/langchain

149.5k

LangChain 是开源框架,用来搭建 AI Agent 和大模型应用。模型、向量库、工具这些零件都通过统一接口接入,还能和 LangSmith 以及 LangGraph 同系产品组合;开发语言可选 Python,或者 JS/TS。

langchain-openai==1.8.0 Python
收录于 2026-11-16

graphify

Graphify-Labs/graphify

147.2k

本地运行的小工具:把整个代码库连同文档、PDF、配置和 SQL 结构,解析成能够查询的知识图谱。它以 /graphify 技能的方式接到 Cursor、Claude Code 等 AI 编程助手上,靠确定性的 AST 解析,而不是向量检索。

v0.9.108 Python
收录于 2026-11-16

ComfyUI

Comfy-Org/ComfyUI

146.3k

模块化的扩散模型工具,功能丰富,包含 GUI、API 及后端。通过图形节点组织流程,可生成图像、视频、3D 与音频,且持续支持最新开源模型。

v0.45.0 Python
收录于 2026-11-16

codex

openai/codex

135.3k

OpenAI 推出的轻量编码代理,在本地终端中执行工作;既能通过 ChatGPT 账号登录,也可使用 API 密钥完成认证。

rust-v0.171.0-alpha.5 Rust
收录于 2026-11-16

llama.cpp

ggml-org/llama.cpp

135.0k

用 C/C++ 写的大语言模型推理引擎,兼容多种模型格式,带命令行、服务端和内置网页界面,能在本机运行 LLM 和 VLM。

b12383 C++
收录于 2026-11-16

pi

earendil-works/pi

121.2k

AI 代理的开发工具包,包括统一的 LLM 接口、代理运行时、TUI,以及编码代理命令行,可连多个提供商,也支持工具调用。

v1.5.2 TypeScript
收录于 2026-11-16

VoiceStudio

debpalash/VoiceStudio

110.5k

运行在本机上的开源 AI 语音工作室,可顶替 ElevenLabs:克隆声音、设计声音、为视频配音、听写、转录、制作有声书都能做,覆盖 646 种语言。

v0.5.9-beta.2 Python
收录于 2026-11-16

impeccable

pbakaus/impeccable

110.0k

为 AI 编码代理补充设计指导,提供 1 项技能、23 条命令及 59 条确定性检测规则,并能直接在浏览器中实时迭代前端界面,帮助 AI 改善设计成果。

skill-v4.9.1 Rust
收录于 2026-11-16

ragflow

infiniflow/ragflow

94.1k

开源的 RAG(检索增强生成)引擎,走在前列:它把新近的检索增强技巧和 Agent 的能力合在一起,替大模型准备一层质量很高的上下文。

v1.0.0 Go
收录于 2026-11-16

OmniRoute

cheaper-inference/OmniRoute

87.4k

MIT 协议的免费 AI 网关,一个统一入口连通 290 多家提供商、500 多个模型,带智能回退与令牌压缩。

v3.8.53 TypeScript
收录于 2026-11-16

ruflo

ruvnet/ruflo

81.7k

面向 Claude Code 与 Codex 的代理元框架,内含 100 多个专业代理、协同的集群、能自学习的记忆,并支持跨机器联邦通信。

v3.32.29 TypeScript
作者更新于 2026年7月29日

strix

usestrix/strix

75.0k

开源的 AI 渗透测试工具,让自主运行的 AI 黑客代理动态跑代码,找出漏洞并验证,最后给出真正能利用的 PoC。

v1.7.1 Python
收录于 2026-11-16

dsh-our-free-model

Ebony-Vinyl/dsh-our-free-model

66.1k

一个 dsh 插件:安装后不必登录、注册,也无需填写 API Key,就可以调用 DeepSeek、Kimi 这类前沿模型,免费且不限量。

v2.8.3 JavaScript
收录于 2026-11-16

meilisearch

meilisearch/meilisearch

59.8k

极快的搜索引擎 API,替网站和应用加上 AI 驱动的混合检索能力。

v1.56.2 Rust
收录于 2026-11-16

faceswap

deepfakes/faceswap

57.6k

借助深度学习识别并交换图片与视频中人脸的工具。

v3.0.0 Python
作者更新于 2025年12月21日

voicebox

jamiepine/voicebox

56.3k

本地运行、开源的 AI 语音工作室,有语音克隆、语音生成、语音输入,可以替代 Wispr Flow 与 ElevenLabs。

v0.5.0 TypeScript
作者更新于 2026年4月26日

multica

multica-ai/multica

56.1k

开源且可自托管的 AI 代理工作空间,AI 代理在里面如同团队成员:兼容 26 种代理命令行,可分配任务、追踪进度、审阅成果。

v0.9.0 Go
收录于 2026-11-16

humanizer

blader/humanizer

53.9k

一个能随处携带的 Agent Skill,通过识别并替换 35 种 AI 写作模式,把 AI 生成的文字改得更自然,更接近真人写作,原意不变。

v2.11.1 Python
作者更新于 2026年8月18日

cherry-studio

CherryHQ/cherry-studio

53.5k

AI 生产力工作室的桌面客户端,内置 300 多个助手和自主智能体,可统一调用前沿 LLM,Windows、Mac、Linux 都有对应版本。

v2.2.2 TypeScript
收录于 2026-11-16

freellmapi

tashfeenahmed/freellmapi

52.2k

统一的 API 网关,背后汇总了 34 家免费的 LLM 服务商,共 635 个免费模型接口,每个月大约有 74 亿免费令牌可用;能智能分配请求、故障时自动切换,密钥也以加密方式保存。

v0.16.29 TypeScript
收录于 2026-11-16