KoboldCpp

KoboldCpp
软件描述
KoboldCpp 是一款适用于 GGML 模型的易于使用的 AI 文本生成软件。它是由 Concedo 发布的一个独立的可分发版本,基于 llama.cpp 构建,增加了多功能的 Kobold API 端点、额外的格式支持、向后兼容性以及一个美观的用户界面……
官方网站
访问软件的官方网站了解更多信息
github.com
什么是 KoboldCpp?
KoboldCpp 是一款易于使用的 AI 文本生成软件,支持 GGML 模型。它由 Concedo 提供的单一可分发版本,基于 llama.cpp 开发,新增了多功能的 Kobold API 端点、更多格式支持、向后兼容性,以及一个功能丰富的用户界面,包含持久化故事、编辑工具、保存格式、记忆、世界信息、作者笔记、角色、场景等功能,完整涵盖了 Kobold 和 Kobold Lite 的所有特性。
🔄 替代方案
15 个选择GPT4ALL
一个生态系统,包含大量基于清洁助手数据(包括代码、故事和对话)训练的开源聊天机器人。

LM Studio
发现、下载并运行本地大语言模型。

local.ai
🎒 local.ai - 在您的电脑上本地运行AI!

Pinokio
一键安装、运行和控制服务器、机器人、数据库、AI应用、终端应用或计算机上的任何程序。

Onit AI Copilot
Onit AI Copilot 提供全面的桌面端AI聊天助手,支持本地处理和多供应商接入。它通过完全在设备上运行且无需互联网连接,优先保障个性化、可扩展性及用户隐私,确保数据安全。

Text generation web UI
用于大型语言模型的 Gradio 网页界面。支持 transformers、GPTQ、llama.cpp (GGUF)、Llama 模型。

SillyTavern
SillyTavern 是一个可安装在电脑(及安卓手机)上的用户界面,允许您与文本生成型人工智能互动,并与您或社区创建的角色进行聊天/角色扮演。

Rodel Downloader
一款专用下载器,可稳定可靠地从 Hugging Face、Model Scope 和 Civitai 下载您喜爱的 AI 模型文件。

