Open WebUI 是一个可扩展、功能丰富且用户友好的自托管 AI 平台，可完全离线运行。它支持多种 LLM 运行器，如 Ollama 和 OpenAI 兼容 API，并内置 RAG 推理引擎，是一款强大的 AI 部署解决方案。

提供 27 个替代方案

LibreChat 是一个免费的开源 AI 聊天平台。此 Web 界面支持广泛自定义，兼容众多 AI 服务商、服务和集成。在一个界面中提供所有 AI 对话，具备熟悉的操作体验和创新功能，可满足任意数量用户的需求。

提供 91 个替代方案

开源人工智能驱动的答案引擎。

提供 104 个替代方案

适用于任何大语言模型和向量数据库的多用户ChatGPT。一款注重隐私的应用，支持无限文档、消息和存储。现已推出桌面应用程序！

提供 152 个替代方案

Instella 是 AMD 开发的大语言模型工具，凭借开放的模型权重和训练数据，展现出卓越性能，推动了人工智能的发展。它通过超越 Llama-3.2-3B 等竞争对手，弥合了完全开源与仅开放权重模型之间的差距。

提供 47 个替代方案

AIKit 是一个全面的平台，可帮助您快速启动并托管、部署、构建和微调大语言模型（LLM）。

这是一个完全本地运行的搜索引擎，采用LLM智能体。用户提出问题后，系统将使用一系列LLM来寻找答案。用户可以查看智能体的执行进度及最终答案。无需OpenAI或Google API密钥。

嵌入数据库是稀疏向量索引、稠密向量索引、图网络和关系型数据库的结合体。这使得向量搜索支持SQL，同时实现主题建模、检索增强生成等功能。

Axolotl 是一款旨在简化各种 AI 模型微调的工具，支持多种配置和架构。

开源的 Datadog + PostHog，适用于复杂的 LLM 应用。

此 Chrome 扩展由 Ollama 驱动，推理在您的本地设备上完成，无需外部服务器支持。但由于 Chrome 扩展平台的安全限制，该应用仍需依赖本地服务器来运行大语言模型。