Text generation web UI
Text generation web UI
软件描述
用于大型语言模型的 Gradio 网页界面。支持 transformers、GPTQ、llama.cpp (GGUF)、Llama 模型。
官方网站
访问软件的官方网站了解更多信息
github.com
什么是 Text generation web UI?
一个用于大型语言模型的 Gradio 网页界面。 其目标是成为文本生成领域的 AUTOMATIC1111/stable-diffusion-webui。 特性
3 种界面模式：默认（两栏）、笔记本、聊天 多种模型后端：transformers、llama.cpp、ExLlama、ExLlamaV2、AutoGPTQ、GPTQ-for-LLaMa、CTransformers 下拉菜单，快速切换不同模型 LoRA：实时加载和卸载 LoRA，使用 QLoRA 训练新的 LoRA 精确的对话指令模板，包括 Llama-2-chat、Alpaca、Vicuna、WizardLM、StableLM 等多种 通过 transformers 库实现 4 位、8 位及 CPU 推理 使用 llama.cpp 模型配合 transformers 采样器（llamacpp_HF 加载器） 多模态流程，包括 LLaVA 和 MiniGPT-4 扩展框架 自定义聊天角色 高效的文本流式输出 支持 LaTeX 渲染的 Markdown 输出，可用于 GALACTICA 等场景 API 支持，包含 WebSocket 流式传输端点（见示例）
🔄 替代方案
67 个选择
LoLLMS Web UI
该项目旨在提供一个用户友好的界面，以访问和使用各种大语言模型来完成多种任务。无论您需要写作帮助、编程支持、数据整理、图像生成，还是寻求问题解答，LoLLMS WebUI 都能为您提供支持。
WriteFastly AI：汇聚所有AI模型（ChatGPT、Gemini、DeepSeek、Llama、Perplexity、Qwen和Claude），集成于强大的网页及移动应用中。
Cody AI
Cody AI 是一款专为业务需求定制的数字助手，能够快速响应，协助解答问题、激发创意并生成想法。它可消除重复的关键词搜索，通过迅速整合和分析业务数据来提升效率。
Cosmicup.me
Cosmicup.me 通过单月订阅即可无限访问各种先进的AI模型，支持聊天、图像生成、编程辅助和文档分析。
XCA AI Chat
XCA AI Chat 是一款原生 GNOME 应用程序，可让您与 OpenAI 的 ChatGPT API 进行交互。只需提供您自己的 OpenAI API 密钥即可开始对话。您的 API 密钥将本地存储在您的设备上以确保安全。主要功能包括：
Osaurus
原生仅支持 Apple Silicon 的本地 LLM 服务器。类似于 Ollama，但基于 Apple 的 MLX 构建，以在 M 系列芯片上实现最佳性能。使用 SwiftUI 应用和 SwiftNIO 服务器，提供兼容 OpenAI 的接口。
Alice 是一个使用 Vue.js、Vite 和 Electron 构建的智能桌面 AI 助手应用。具备先进的记忆系统、函数调用、MCP 支持，可选完全本地运行等特性。
Okara
一款功能多样、注重隐私的AI平台，让您掌控一切。通过单一界面与多种AI模型互动，可在GPT-4o、ChatGPT 5、Claude、Gemini等模型间无缝切换，且不会丢失对话上下文。
