LlamaGPT

LlamaGPT 是一款聊天机器人，提供类似 ChatGPT 的体验，且数据不会离开您的设备。
注意：LlamaGPT 的下载大小约为 5.5GB，根据您的网络速度，安装可能需要一些时间。
LlamaGPT 约消耗 5GB 内存，因此不适用于在配备 4GB 内存的 Raspberry Pi 4 上运行 umbrelOS 的用户。为获得最佳用户体验，建议至少配备 8GB 内存。
LlamaGPT 针对 Umbrel Home 进行优化，可实现约每秒生成 3 个词的速度；在配备 8GB 内存的 Raspberry Pi 4 上，生成速度约为每秒 1 个词。实际性能会因您在 Umbrel 上安装的其他应用而异。
LlamaGPT 基于先进的 Nous Hermes Llama 2 7B 语言模型，经过超过 30 万条指令的微调，可提供更长的回答并降低幻觉率。
LlamaGPT 的实现得益于众多开发者和团队的杰出开源工作。我们衷心感谢 Mckay Wrigley 构建了聊天机器人界面，Georgi Gerganov 实现了 llama.cpp，Andrei 开发了 llama.cpp 的 Python 绑定，NousResearch 完成了模型微调，Tom Jobbins 负责模型量化，以及 Meta 将 Llama 2 在宽松许可下开源发布。