Serge
Serge
软件
软件描述
Serge 是一个使用 llama.cpp 编写的聊天界面，用于运行 GGUF 模型。无需 API 密钥，完全自托管！
官方网站
访问软件的官方网站了解更多信息
serge.chat
安全链接HTTPS
什么是 Serge?
Serge 是一个基于 llama.cpp 构建的聊天界面，用于运行 GGUF 模型。无需 API 密钥，完全自托管！
前端使用 SvelteKit
使用 Redis 存储聊天历史和参数
使用 FastAPI + LangChain 提供 API，通过 Python 绑定调用 llama.cpp