Text generation web UI
Text generation web UI
★5
软件描述
用于大型语言模型的 Gradio 网页界面。支持 Transformers、GPTQ、llama.cpp（GGUF）和 Llama 模型。
官方网站
访问软件的官方网站了解更多信息
github.com
安全链接HTTPS
什么是 Text generation web UI?
用于大型语言模型的 Gradio 网页界面。
其目标是成为文本生成领域的 AUTOMATIC1111/stable-diffusion-webui。
功能特点
- 三种界面模式：默认模式（两列布局）、笔记本模式和聊天模式
- 多种模型后端支持：transformers、llama.cpp、ExLlama、ExLlamaV2、AutoGPTQ、GPTQ-for-LLaMa、CTransformers
- 提供下拉菜单，可快速切换不同模型
- LoRA：支持动态加载和卸载 LoRA 模型，可使用 QLoRA 训练新的 LoRA 模型
- 聊天模式下的精确指令模板，包括 Llama-2-chat、Alpaca、Vicuna、WizardLM、StableLM 等多种模板
- 通过 transformers 库支持 4 位、8 位及 CPU 推理
- 可使用 llama.cpp 模型配合 transformers 的采样器（llamacpp_HF 加载器）
- 多模态管道支持，包括 LLaVA 和 MiniGPT-4
- 扩展框架
- 支持自定义聊天角色
- 高效的文本流式输出
- 支持 Markdown 输出并渲染 LaTeX 公式，例如可与 GALACTICA 配合使用
- 提供 API 接口，包括 WebSocket 流式传输端点（详见示例）
🔄 替代方案
62 个选择
Verida AI
Verida AI 是一个平台，旨在帮助开发者创建个性化的人工智能代理，这些代理优先保障用户的数据所有权和隐私。通过利用 Verida 的去中心化基础设施，开发者可以集成安全的数据连接器，建立定制的知识库……
付费 • 专有
查看详情
Word Up
软件
欢迎来到 Word Up，您的智能键盘助手，可在任何应用程序中使用，生成全新内容，回答任何问题，支持超过50种语言翻译，纠正拼写和语法错误，调整文本语气，使其更专业、更友好、更自信，功能远不止于此。
付费 • 专有
查看详情
7 Dollar Chat
提供 llama、nova、mixtral 以及多个版本的 claude 模型。支持 sdxl 和 titan image 进行图像生成。具备出色的界面，内置文档提交和网络搜索等工具。
付费 • 专有
查看详情
AI Chat Assistant
AI聊天助手是一款免费的基于网页的工具，使学生和学习者能够与AI聊天、练习语言、获得即时解释，并提高工作效率。该平台完全在线，并且也提供作为渐进式网页应用（PWA）的版本，因此您可以在手机或……上使用它。
免费增值 • 专有
查看详情