Text generation web UI
Text generation web UI
软件描述
用于大型语言模型的 Gradio 网页界面。支持 transformers、GPTQ、llama.cpp (GGUF)、Llama 模型。
官方网站
访问软件的官方网站了解更多信息
github.com
什么是 Text generation web UI?
一个用于大型语言模型的 Gradio 网页界面。 其目标是成为文本生成领域的 AUTOMATIC1111/stable-diffusion-webui。 特性
3 种界面模式：默认（两栏）、笔记本、聊天 多种模型后端：transformers、llama.cpp、ExLlama、ExLlamaV2、AutoGPTQ、GPTQ-for-LLaMa、CTransformers 下拉菜单，快速切换不同模型 LoRA：实时加载和卸载 LoRA，使用 QLoRA 训练新的 LoRA 精确的对话指令模板，包括 Llama-2-chat、Alpaca、Vicuna、WizardLM、StableLM 等多种 通过 transformers 库实现 4 位、8 位及 CPU 推理 使用 llama.cpp 模型配合 transformers 采样器（llamacpp_HF 加载器） 多模态流程，包括 LLaVA 和 MiniGPT-4 扩展框架 自定义聊天角色 高效的文本流式输出 支持 LaTeX 渲染的 Markdown 输出，可用于 GALACTICA 等场景 API 支持，包含 WebSocket 流式传输端点（见示例）
🔄 替代方案
67 个选择
Private LLM
通过私有大语言模型（Private LLM）体验指尖上的AI力量，这款AI聊天机器人可在你的iPhone、iPad和Mac上离线运行。
Witsy
Witsy 是一个 BYOK（自带密钥）AI 应用：这意味着您需要拥有想要使用的 LLM 服务提供商的 API 密钥。或者，您可以使用 Ollama 在本地免费运行模型，并在 Witsy 中使用它们。
BlacktoothAI 是一个一站式人工智能内容生成平台，支持文本和图像生成。它通过单一订阅即可使用多种AI工具，如ChatGPT、Claude、Gemini等。功能包括高级仪表板、模板与聊天机器人库，以及……
Reflection 70B
Reflection 70B 是基于强大的 Llama 70B 架构构建的先进开源大型语言模型（LLM）。真正使 Reflection 70B 与其他 AI 模型（如 GPT-4）区分开来的，是其突破性的自我修正机制。
TwinTwit: Ai Browser
TwinTwit 是一款多AI浏览器，集成多种AI平台，如 ChatGPT、Gemini AI 和 Perplexity AI——您可通过单一搜索栏快速比较答案。
SlickGPT
SlickGPT 是一个全新的轻量级 Web 客户端，用于 OpenAI API，重点在于 GPT-4 的集成。它完全使用 Vue.js 构建，为与 AI 对话提供现代化的类似 Slack 的界面。
Gab AI
创建并对话AI角色，它们能回答任何问题，并为你生成令人惊叹的图片。
