https://ruheyun.github.io/tags/membership-inference-attacks/ Recent content in Membership Inference Attacks on RuHeYun Hugo -- gohugo.io en-us RuHeYun Mon, 09 Mar 2026 20:28:16 +0800 https://ruheyun.github.io/p/gsa/ Fri, 13 Feb 2026 16:18:06 +0800 https://ruheyun.github.io/p/gsa/ <p>扩散模型阅读笔记</p> <!-- more --> <h2 id="论文基本信息">论文基本信息 </h2><p><mark>论文标题</mark>：White-box Membership Inference Attacks against Diffusion Models</p> <p><mark>出版期刊</mark>：PoPETs 2025</p> <p><mark>论文作者</mark>：Yan Pang, Tianhao Wang, Xuhui Kang, Mengdi Huai, Yang Zhang</p> <p><mark>学校机构</mark>：University of Virginia, Iowa State University, CISPA Helmholtz Center for Information Security</p> <h2 id="目标贡献">目标/贡献 </h2><p>设计针对<code>扩散模型</code>的<code>白盒成员</code>推理攻击（MIA），利用<code>梯度信息</code>提升攻击效果；</p> <p>提出 GSA 框架及实例，验证梯度作为攻击特征的优越性，多数据集/模型验证有效性</p> <h2 id="研究背景">研究背景 </h2><h3 id="扩散模型现状">扩散模型现状 </h3><p>优势：图像生成性能超 GANs/VAEs，应用于图形设计等领域</p> <p>分类：无条件（DDPM）、条件（Imagen、Stable Diffusion）</p> <p>隐患：依赖敏感训练数据，存在隐私泄露风险</p> <h3 id="成员推理攻击mia基础">成员推理攻击（MIA）基础 </h3><p>定义：一种隐私攻击方法，旨在判断某个特定数据样本是否曾被用于训练目标模型，从而泄露训练数据的隐私信息。</p> <p>现有方法局限：分类模型依赖输出向量，GANs依赖判别器，扩散模型无判别器需新方法</p> <h3 id="黑盒白盒攻击">黑盒/白盒攻击 </h3><p>White-box（白盒）：指攻击者能够完全访问模型的内部参数、结构和训练过程，与“黑盒”（仅能通过输入输出接口交互）相对。</p> <p>我们发现白盒攻击在现实世界中非常适用，目前最有效的攻击是白盒。</p> <h3 id="现有扩散模型-mia-不足">现有扩散模型 MIA 不足 </h3><p>主流攻击模型依赖损失值/阈值，信息单一易误判</p> <p>白盒攻击为当前最有效类型，但现有方法计算成本高</p> <h2 id="攻击方法设计gsa-框架">攻击方法设计（GSA 框架） </h2><h3 id="思想">思想 </h3><p>用梯度替代损失作为攻击特征，梯度含更高维模型响应信息</p> <h3 id="理论基础">理论基础 </h3><p>梯度公式：$∇_θL_t(θ,x) = 2(ε_θ(x_t,t)-εt)⊤∇_θε_θ(x_t,t)$</p> <p>优势：即使损失相同，梯度可通过 $∇θεθ(xt,t)$ 区分成员/非成员样本</p> <h3 id="梯度降维策略">梯度降维策略 </h3><p>时间步层面：等距采样（平衡效果与效率）、有效采样（需预计算黄金区间）、泊松采样（随机）</p> <p>模型层层面：选择性提取各层梯度，聚合有用信息</p> <p>层内梯度层面：将梯度视为集合，避免顺序依赖</p> <h3 id="具体实例">具体实例 </h3><p>本文只实现了时间步层面，并将等距采样作为主要的采样方式，提出以下两个实例：</p> <p>GSA₁：先求多时间步损失均值，再反向传播求梯度（效率高，Imagen耗时&lt;2小时）</p> <p>GSA₂：逐时间步求梯度，再取均值（效果优，耗时约6小时）</p> <img src="image-20260309202735582.png" alt="image-20260309202735582" style="zoom:80%;" /> <h2 id="实验">实验 </h2><p>代码 <a class="link" href="https://github.com/py85252876/GSA" target="_blank" rel="noopener" >Github</a>。</p>