Cactus
Cactus
软件描述
用于在智能手机上本地部署大语言模型/视觉语言模型/文本转语音模型的跨平台框架。
官方网站
访问软件的官方网站了解更多信息
官方认证
cactuscompute.com
安全链接HTTPS
什么是 Cactus?
跨平台框架，用于在您的应用中本地部署大语言模型/视觉语言模型/文本转语音模型。
适用于 Flutter 和 React-Native，为跨平台开发者提供支持。
支持您在 Hugging Face 上找到的任何 GGUF 模型；包括 Qwen、Gemma、Llama、DeepSeek 等。
可运行大语言模型、视觉语言模型、嵌入模型、文本转语音模型等。
支持从 FP32 到低至 2 位量化模型，兼顾效率与设备负载。
通过 MCP 工具调用，使 AI 更高效且更具实用性（如设置提醒、图库搜索、回复消息等）。
复杂任务或设备故障时自动降级至大规模云端模型。
支持 Jinja2 的聊天模板及令牌流式传输。
🔄 替代方案
13 个选择
Teammately
Teammately 是 AI AI 工程师——专为 AI 工程师打造的 AI 代理，能够基于大语言模型、提示词、RAG 和机器学习自主构建 AI 产品、模型和代理。
Anus（自治网络化实用系统）是一个强大、灵活且易于使用的开源AI代理框架，旨在彻底改变任务自动化。基于现代人工智能技术和最佳实践构建，Anus代表了下一代AI代理框架，提供……
AGiXT
AGiXT 是一个动态的 AI 代理自动化平台，可无缝协调跨多种 AI 提供商的指令管理和复杂任务执行。
NeuralTrust
NeuralTrust 是安全且可扩展大语言模型应用与智能体的领先平台。它提供市场上速度最快的开源AI网关，实现零信任安全和无缝工具连接，同时具备自动化红队测试以检测漏洞……
Ludwig AI
用于构建自定义大语言模型、神经网络及其他人工智能模型的框架。
