RamaLama

软件

RamaLama 是一款开源的开发工具，它通过容器这一熟悉的语言，简化了从任何来源本地运行 AI 模型的过程，并使其能够在生产环境中用于推理。

Osaurus

大型语言模型（LLM）工具

原生的、仅支持苹果硅芯片的本地大语言模型服务器。类似于 Ollama，但基于苹果的 MLX 构建，以在 M 系列芯片上实现最高性能。提供 SwiftUI 应用程序和基于 SwiftNIO 的服务器，支持与 OpenAI 兼容的接口。

KamuAI

软件

专注于隐私保护的AI聊天助手，兼容Windows、Mac和Linux系统。可完全离线运行，或使用位于欧盟的模型，绝不上传数据，保障聊天安全，支持多标签页、提示词库、组织化的对话以及基于使用情况的灵活计费模式。