Text generation web UI

一个用于大型语言模型的 Gradio 网页界面。 其目标是成为文本生成领域的 AUTOMATIC1111/stable-diffusion-webui。 特性

3 种界面模式：默认（两栏）、笔记本、聊天 多种模型后端：transformers、llama.cpp、ExLlama、ExLlamaV2、AutoGPTQ、GPTQ-for-LLaMa、CTransformers 下拉菜单，快速切换不同模型 LoRA：实时加载和卸载 LoRA，使用 QLoRA 训练新的 LoRA 精确的对话指令模板，包括 Llama-2-chat、Alpaca、Vicuna、WizardLM、StableLM 等多种 通过 transformers 库实现 4 位、8 位及 CPU 推理 使用 llama.cpp 模型配合 transformers 采样器（llamacpp_HF 加载器） 多模态流程，包括 LLaVA 和 MiniGPT-4 扩展框架 自定义聊天角色 高效的文本流式输出 支持 LaTeX 渲染的 Markdown 输出，可用于 GALACTICA 等场景 API 支持，包含 WebSocket 流式传输端点（见示例）