Cactus

软件描述

用于在智能手机上本地部署大语言模型/视觉语言模型/语音合成模型的跨平台框架。

官方网站

访问软件的官方网站了解更多信息

官方认证

cactuscompute.com

安全链接HTTPS

什么是 Cactus?

跨平台框架,可在您的应用中本地部署 LLM/VLM/TTS 模型。

适用于 Flutter 和 React-Native,为跨平台开发者提供支持。 支持您在 Hugging Face 上找到的任意 GGUF 模型;Qwen、Gemma、Llama、DeepSeek 等。 可运行 LLM、VLM、嵌入模型、TTS 模型等。 支持从 FP32 到低至 2 位量化模型,兼顾效率并减轻设备负担。 MCP 工具调用,让 AI 更高效且更具实用性(如设置提醒、图库搜索、回复消息等)。 在复杂任务或设备故障时,可降级至大型云端模型。 支持 Jinja2 的聊天模板及令牌流式传输。

下载与相关链接

安全提示
⚠️

安全提醒

点击下方链接将跳转到第三方网站,请确保来源安全,建议优先从官方网站下载。