OfflineLLM 是专为 Apple 设备（包括 iPhone、iPad、Mac 和 Vision Pro）设计的最快大型语言模型（LLM）引擎。通过 OfflineLLM，用户可以在无需联网的情况下与 AI 聊天机器人进行私密对话，确保敏感和机密数据的安全性。

该应用采用专为 Apple Silicon 优化的自定义执行引擎，充分利用 Metal 3 的全部性能，在消费级设备上实现卓越的运行效率。这项创新技术使 OfflineLLM 在性能上超越基于 llama.cpp 和 MLC 的现有应用，成为追求高效且私密 AI 交互用户的首选方案。

OfflineLLM 还引入了多模态视觉功能，用户可将图片发送给本地 AI 聊天机器人，从而实现更丰富的互动体验。此外，应用还具备实时语音聊天功能，支持与 LLM 进行双向即时沟通，增强了用户参与感，使与 AI 的对话更加生动自然。

该应用支持检索增强生成（RAG）功能，用户可将自身文档和文件导入 LLM，实现更加个性化的体验。

OfflineLLM 适用于所有技术水平的用户，提供初学者模式，帮助新手快速上手，同时也提供专家模式，供希望对 LLM 执行引擎进行精细调优的高级用户使用。支持包括 DeepSeek、Llama、Gemma、Phi 等众多前沿 AI 模型，能够满足不同用户群体的多样化需求。

体验 OfflineLLM 带来的 AI 交互未来——在隐私与性能之间实现完美平衡。