LM Studio

LM Studio
软件描述
探索、下载并运行本地大语言模型。
官方网站
访问软件的官方网站了解更多信息
lmstudio.ai
什么是 LM Studio?
使用 LM Studio,您可以... 🤖 在笔记本电脑上完全离线运行大语言模型(LLMs) 👾 通过应用程序内的聊天界面或兼容 OpenAI 的本地服务器使用模型 📂 从 HuggingFace 🤗 仓库下载任何兼容的模型文件 🔭 在应用程序首页发现新的、值得关注的大语言模型
🔄 替代方案
43 个选择
NVIDIA ChatRTX
ChatRTX 是由英伟达开发的一种本地运行的 AI 聊天机器人,利用 RTX GPU 的强大算力,提供快速、私密且离线的对话式人工智能体验。它可使用 Mistral 或 LLaMA 等模型,并可结合您自己的文档和数据进行定制。

Warden
Warden 是一款极简、简洁且美观的 macOS 智能聊天应用,支持大多数 AI 服务提供商:ChatGPT、Anthropic(Claude)、xAI(Grok)、Google Gemini、Perplexity、Groq、通过 Ollama 的本地 LLM、OpenRouter,以及几乎所有兼容 OpenAI 的 API。

ANIE
使用基于 SwiftUI 的客户端,在 macOS 上体验 AI 聊天功能,该客户端采用 Swift、Core ML 和 BERT 技术,实现原生性能。享受以隐私为核心、直观简洁的聊天体验,拥有智能 AI 响应、个人资料自定义功能,并可通过可编辑的聊天记录和消息回退实现全面控制。

Text generation web UI
用于大型语言模型的 Gradio 网页界面。支持 Transformers、GPTQ、llama.cpp(GGUF)和 Llama 模型。

KoboldCpp
KoboldCpp 是一款适用于 GGML 模型的易用型 AI 文本生成软件。它由 Concedo 提供,基于 llama.cpp 开发,增加了功能丰富的 Kobold API 接口、额外的格式支持、向后兼容性,以及一个精美的用户界面……

Rodel Downloader
A dedicated downloader for downloading AI model files, which can stably and reliably download your favorite models from Hugging Face, Model Scope and Civitai.