Open WebUI 是一个可扩展、功能丰富且用户友好的自托管 AI 平台，可完全离线运行。它支持多种 LLM 运行器，如 Ollama 和 OpenAI 兼容 API，并内置 RAG 推理引擎，是一款强大的 AI 部署解决方案。

提供 27 个替代方案

Ollama 的现代且易于使用的客户端。

提供 86 个替代方案

Maid 是一个跨平台的 Flutter 应用，可本地连接 GGUF / llama.cpp 模型，以及远程连接 Ollama 和 OpenAI 模型。

提供 42 个替代方案

MinimalGPT 是一个简洁、灵活且精简的代码框架，包含了构建、训练、推理和微调 GPT 模型所需的基本组件。

提供 115 个替代方案

即插即用的 OpenAI 替代方案，本地运行，以本地为优先，可生成文本/图像/语音/音乐等……后端无绑定：（llama.cpp、diffusers、bark.cpp 等），支持分布式推理（点对点/联邦）。

提供 30 个替代方案

一款专用下载器，可稳定可靠地从 Hugging Face、Model Scope 和 Civitai 下载您喜爱的 AI 模型文件。

提供 25 个替代方案

面向开发者的开源自主AI代理框架，助力开发者快速可靠地构建、管理和运行实用的自主代理。

提供 39 个替代方案

Haystack 是一个开源的 NLP 框架，可使用 Transformer 模型和大语言模型（如 GPT-4、ChatGPT 等）与您的数据进行交互。Haystack 提供了可用于快速构建复杂决策、问答系统、语义搜索、文本生成等应用的生产就绪工具。

提供 5 个替代方案

AIKit 是一个全面的平台，可帮助您快速启动并托管、部署、构建和微调大语言模型（LLM）。

Dia 是由 Nari Labs 开发的一款 16 亿参数的文本转语音模型，通过 PytorchModelHubMixin 集成推送到 Hub。

Gtk-LLM-Chat 是命令行工具 llm 的图形前端。正如 llm 将大型语言模型集成到命令行界面中一样，Gtk-LLM-Chat 旨在将同样的功能带到桌面环境中。