一种可用于对话式人工智能系统中，防范有毒提示和回复的文本分类模型。

ShieldGemma 是一组经过指令微调的模型，用于根据一组既定的安全策略评估文本和图像的安全性。您可以将此模型用作生成式人工智能应用更大系统的一部分，以帮助评估并防止生成式人工智能……

WildGuard 是一个开源、轻量级的 LLM 安全审核工具，旨在实现三个目标：

Llama Guard 是一种基于大语言模型的输入输出防护模型，专为人类与AI对话场景设计。

AI原生应用的代理服务器。Arch 为您处理构建智能体时繁琐的底层工作，例如澄清模糊的用户输入、将提示路由到正确的智能体，并统一访问任何大语言模型——且无需将您锁定在特定框架中。