Glaze and Nightshade

Glaze 是芝加哥大学研究人员开发的一种工具，旨在防止艺术家的作品被未经察觉地抓取并用于训练生成式人工智能模型。它通过向图像应用人眼无法察觉但会干扰人工智能模型解读和学习的细微算法扰动来实现保护。当带有 Glaze 处理痕迹的图像进入 AI 训练流程时，模型会被误导，从而学习到关于艺术家风格的错误表征，这使得 Stable Diffusion 或 Midjourney 等工具在收到“以[艺术家姓名]风格”等提示时，难以复现原始艺术风格。

NightGlaze 是该理念的延伸，针对防护技术与 AI 模型训练之间日益加剧的技术对抗而开发。随着模型越来越多地基于已包含 Glaze 图像的数据集进行训练，存在模型可能适应甚至“看穿”原有隐藏方法的风险。NightGlaze 通过生成更复杂、更具抗性的扰动来应对这一挑战，其对抗性噪声经过对当前 AI 架构如何处理风格与视觉模式的深入理解进行优化，使隐藏机制更具适应性且更难被逆向破解。