发现各种软件替代方案,找到更适合您的选择

完整的LLM聊天机器人实现,提供分词、预训练、微调、评估、推理及简易Web界面。可在单个8xH100节点上运行,具备可修改的代码库、轻量依赖设计,并通过脚本自动化完整工作流。

RamaLama 是一个开源开发工具,可通过熟悉的容器语言,简化从任意来源本地部署 AI 模型并将其用于生产环境推理的过程。