Text generation web UI
Text generation web UI
软件描述
用于大型语言模型的 Gradio 网页界面。支持 transformers、GPTQ、llama.cpp (GGUF)、Llama 模型。
官方网站
访问软件的官方网站了解更多信息
github.com
什么是 Text generation web UI?
一个用于大型语言模型的 Gradio 网页界面。 其目标是成为文本生成领域的 AUTOMATIC1111/stable-diffusion-webui。 特性
3 种界面模式：默认（两栏）、笔记本、聊天 多种模型后端：transformers、llama.cpp、ExLlama、ExLlamaV2、AutoGPTQ、GPTQ-for-LLaMa、CTransformers 下拉菜单，快速切换不同模型 LoRA：实时加载和卸载 LoRA，使用 QLoRA 训练新的 LoRA 精确的对话指令模板，包括 Llama-2-chat、Alpaca、Vicuna、WizardLM、StableLM 等多种 通过 transformers 库实现 4 位、8 位及 CPU 推理 使用 llama.cpp 模型配合 transformers 采样器（llamacpp_HF 加载器） 多模态流程，包括 LLaVA 和 MiniGPT-4 扩展框架 自定义聊天角色 高效的文本流式输出 支持 LaTeX 渲染的 Markdown 输出，可用于 GALACTICA 等场景 API 支持，包含 WebSocket 流式传输端点（见示例）
🔄 替代方案
67 个选择
Apertus
作为一款完全开源的语言模型，Apertus允许研究人员、专业人士和爱好者基于该模型进行开发，并根据自身需求对其进行调整，同时也可检查训练过程的任何部分。
Khoj
Khoj 是一个开源的AI第二大脑，能够从你的笔记（Obsidian、EMACS）、文档中学习，并可访问互联网。它可以替代搜索引擎，帮助你阅读论文，并提供透明、快速的答案。
Private GPT
无需互联网连接即可向您的文档提出问题，利用大语言模型的强大功能。100% 隐私，数据在任何时刻都不会离开您的执行环境。您可以在无互联网连接的情况下导入文档并提出问题！
Brave Leo
Leo 是一款内置在浏览器中的AI智能助手，能够回答问题、协助完成任务等。
Together Chat 是一款下一代消费者应用程序，可让您无缝地与当前最受欢迎的开源模型进行交互，包括免费访问位于北美安全托管的 DeepSeek R1。
Open R1
Open R1 是一个由社区驱动的开源项目，旨在通过透明的方法论复现 DeepSeek-R1 的先进 AI 能力。
提供AI驱动的写作工具、图像生成、Genmoji和记忆影片；通过更深入的上下文和操作增强Siri功能；集成ChatGPT以处理复杂任务；优先采用设备端处理以保障隐私；通过私有云计算在Apple设备间统一功能。
Manus
AI代理连接思维与行动，在个性化旅行、股票分析、保险比较和供应商寻源等工作与生活任务中表现出色，能自主完成任务并提供洞察，让用户得以休息。
