Text generation web UI
Text generation web UI
软件描述
用于大型语言模型的 Gradio 网页界面。支持 transformers、GPTQ、llama.cpp (GGUF)、Llama 模型。
官方网站
访问软件的官方网站了解更多信息
github.com
什么是 Text generation web UI?
一个用于大型语言模型的 Gradio 网页界面。 其目标是成为文本生成领域的 AUTOMATIC1111/stable-diffusion-webui。 特性
3 种界面模式：默认（两栏）、笔记本、聊天 多种模型后端：transformers、llama.cpp、ExLlama、ExLlamaV2、AutoGPTQ、GPTQ-for-LLaMa、CTransformers 下拉菜单，快速切换不同模型 LoRA：实时加载和卸载 LoRA，使用 QLoRA 训练新的 LoRA 精确的对话指令模板，包括 Llama-2-chat、Alpaca、Vicuna、WizardLM、StableLM 等多种 通过 transformers 库实现 4 位、8 位及 CPU 推理 使用 llama.cpp 模型配合 transformers 采样器（llamacpp_HF 加载器） 多模态流程，包括 LLaVA 和 MiniGPT-4 扩展框架 自定义聊天角色 高效的文本流式输出 支持 LaTeX 渲染的 Markdown 输出，可用于 GALACTICA 等场景 API 支持，包含 WebSocket 流式传输端点（见示例）
🔄 替代方案
67 个选择
HugstonOne
HugstonOne 企业版 — 强大的AI应用，内置代码编辑器与实时预览 数秒内创建游戏、仪表盘、地图、表格、图表、网页、数据分析、转换工具等。
Jellybox
在本地完全离线运行AI模型。
Word Up
欢迎使用 Word Up，您的 AI 键盘助手，可在任何应用中使用，生成新内容，回答任何问题，翻译50多种语言，纠正拼写和语法错误，更改文本语气使其更专业、友好、自信，功能远不止这些。
Shiori AI
Shiori 是最快的 ChatGPT 替代品——支持 15+ 大语言模型、图像与视频生成、文本转语音、YouTube 摘要功能，价格仅为 ChatGPT Plus 的一半。
SPORTS-5
这款应用是一款由人工智能驱动的体育博彩助手，结合多智能体研究与实时市场背景，提供可审计的分析、可操作的投注建议及清晰的推理过程。通过聊天界面，可请求对阵分析、资金管理策略以及透明的……
CRYPTO5
一个由多智能体驱动、基于AI的加密货币研究平台（只读），可在几分钟内将市场、链上数据、新闻、情绪及开发活动整合为可操作的洞察，并附有可验证的引用。
