Open WebUI 是一个可扩展、功能丰富且用户友好的自托管 AI 平台，可完全离线运行。它支持多种 LLM 运行器，如 Ollama 和 OpenAI 兼容 API，并内置 RAG 推理引擎，是一款强大的 AI 部署解决方案。

提供 27 个替代方案

LibreChat 是一个免费的开源 AI 聊天平台。此 Web 界面支持广泛自定义，兼容众多 AI 服务商、服务和集成。在一个界面中提供所有 AI 对话，具备熟悉的操作体验和创新功能，可满足任意数量用户的需求。

提供 91 个替代方案

作为一款完全开源的语言模型，Apertus允许研究人员、专业人士和爱好者基于该模型进行开发，并根据自身需求对其进行调整，同时也可检查训练过程的任何部分。

提供 59 个替代方案

即插即用的 OpenAI 替代方案，本地运行，以本地为优先，可生成文本/图像/语音/音乐等……后端无绑定：（llama.cpp、diffusers、bark.cpp 等），支持分布式推理（点对点/联邦）。

提供 30 个替代方案

LlamaFile 允许你通过一个文件分发和运行大语言模型，提供与 OpenAI 兼容的 API 以及 KoboldAI API。

完整的LLM聊天机器人实现，提供分词、预训练、微调、评估、推理及简易Web界面。可在单个8xH100节点上运行，具备可修改的代码库、轻量依赖设计，并通过脚本自动化完整工作流。