KoboldCpp

KoboldCpp
软件描述
KoboldCpp 是一款适用于 GGML 模型的易于使用的 AI 文本生成软件。它是由 Concedo 发布的一个独立的可分发版本,基于 llama.cpp 构建,增加了多功能的 Kobold API 端点、额外的格式支持、向后兼容性以及一个美观的用户界面……
官方网站
访问软件的官方网站了解更多信息
github.com
什么是 KoboldCpp?
KoboldCpp 是一款易于使用的 AI 文本生成软件,支持 GGML 模型。它由 Concedo 提供的单一可分发版本,基于 llama.cpp 开发,新增了多功能的 Kobold API 端点、更多格式支持、向后兼容性,以及一个功能丰富的用户界面,包含持久化故事、编辑工具、保存格式、记忆、世界信息、作者笔记、角色、场景等功能,完整涵盖了 Kobold 和 Kobold Lite 的所有特性。
🔄 替代方案
15 个选择
ArgalAI
ArgalAI 是一款离线AI聊天应用,可让你与最新的AI模型对话,完成任务或轻松娱乐。最重要的是,无需每月付费,且你的所有聊天记录都永远不会离开你的设备。

Gai
Gai 是一个对新手友好的 AI 工具包,无需广告、无需注册,也不需要其他权限,仅需互联网连接。

XX.AI
XX.AI 提供了一种简单且经济的解决方案,可无限访问 GPT-4、Claude 3 和 DALL-E 3。通过 Shift + A 等快捷键实现即时激活,您可在任何写作或内容创作任务中发挥人工智能的强大功能。

HugstonOne
HugstonOne 企业版 — 强大的AI应用,内置代码编辑器与实时预览 数秒内创建游戏、仪表盘、地图、表格、图表、网页、数据分析、转换工具等。
Jellybox
在本地完全离线运行AI模型。

Osaurus
原生仅支持 Apple Silicon 的本地 LLM 服务器。类似于 Ollama,但基于 Apple 的 MLX 构建,以在 M 系列芯片上实现最佳性能。使用 SwiftUI 应用和 SwiftNIO 服务器,提供兼容 OpenAI 的接口。

Cloudflare Workers AI
Cloudflare Workers AI 提供无服务器平台,可在其网络中利用 GPU 执行 AI 模型,无需基础设施。可访问 50 多个开源模型,使用 AI Gateway 控制应用,并通过 Vectorize、R2 和 D1 等工具实现全球部署。

