Serge
Serge
软件
软件描述
Serge 是一个使用 llama.cpp 构建的聊天界面，用于运行 GGUF 模型。无需 API 密钥，完全自托管！
官方网站
访问软件的官方网站了解更多信息
官方认证
serge.chat
安全链接HTTPS
什么是 Serge?
Serge 是一个使用 llama.cpp 构建的聊天界面，用于运行 GGUF 模型。无需 API 密钥，完全自托管！
SvelteKit 前端
Redis 用于存储聊天记录和参数
FastAPI + LangChain 提供 API，通过 Python 绑定调用 llama.cpp
