完全私有的LLM聊天机器人，仅需浏览器即可运行，无需服务器支持。支持Mistral和LLama 3。

提供 129 个替代方案

Open WebUI 是一个可扩展、功能丰富且用户友好的自托管 AI 平台，可完全离线运行。它支持多种 LLM 运行器，如 Ollama 和 OpenAI 兼容 API，并内置 RAG 推理引擎，是一款强大的 AI 部署解决方案。

提供 27 个替代方案

KoboldCpp 是一款适用于 GGML 模型的易于使用的 AI 文本生成软件。它是由 Concedo 发布的一个独立的可分发版本，基于 llama.cpp 构建，增加了多功能的 Kobold API 端点、额外的格式支持、向后兼容性以及一个美观的用户界面……

提供 15 个替代方案

LlamaFile 允许你通过一个文件分发和运行大语言模型，提供与 OpenAI 兼容的 API 以及 KoboldAI API。