茶年 · 中文维基百科

差分隐私

Wikipedia · 2025-12-07 维基百科 👁 1 阅读

差分隐私（）是一个数据共享手段，可以实现仅分享可以描述数据库的一些统计特征、而不公开具体到个人的信息。差分隐私背后的直观想法是：如果随机修改数据库中的一个记录造成的影响足够小，求得的统计特征就不能被用来反推出单一记录的内容；这一特性可以被用来保护隐私。从另一个角度来理解差分隐私，可以将其视为用于公开统计特征的算法的一个约束条件。该约束条件要求数据库各记录中的隐私信息不被公开。例如，差分隐私的算法被一些政府部门用于公开人口统计信息或其它统计数据，同时保证各被统计对象的回答的保密；又如，一些公司在收集用户行为信息的时候可以籍此控制包括内部人员在内的访问者可以看到的细节。

粗略地讲，若观察者无法分辨一个算法的输出是否使用了某一特定个体的信息，这样的算法就是差分隐私的。讨论差分隐私时，经常会考量数据库中的个体是否可以被分辨出来。尽管定义时没有直接使用攻击的概念，差分隐私的算法通常可以抵御此种攻击。

1979年，、和迈耶施瓦茨（）正式提出了“追踪者”的概念。这里的追踪者是指一个具有使用一系列查询并记录结果的能力、可以通过访问统计数据库来获知保密内容的攻击者。该研究及之后的研究分析了统计数据库输出的隐私性质：追踪记录每条查询对数据库中个体的隐私的影响是NP困难的。

2003年，和的研究显示，对于一个统计数据库，公开任意数量的查询结果而不在此过程中泄露任何隐私信息是不可能的，且仅需进行很少次数的随机查询就可以完全揭示整个数据库的每个记录。这一现象被称为。由此可以推知，在绝大多数情况下，如不注入一定程度的噪声，就无法确保隐私。这一结论引出了差分隐私的研究。

2006年，、、和的研究提出了确保隐私所需的噪声，并提出一个添加噪声的通用机制。

自此以来，后续研究进一步揭示了还有许多可以提供非常准确的统计数据、同时保证高程度隐私的方法。

动机
设想一个受信任的机构持有涉及众多人的敏感个人信息（例如医疗记录、观看记录或电子邮件统计）的数据库，且想提供一个全局性的统计数据。这样的系统被称为统计数据库。尽管表面看来，只有经过处理的统计特征被发布，但这些统计结果也有可能揭示一些涉及个人的信息。例如，当研究人员同时使用两个或多个分别进行过匿名化处理的数据库时，个人信息的匿名化手段仍然可能失效。差分隐私就是为防护这类统计数据库再识别技术而提出的一个概念。

网飞悬赏事件
2006年10月，网飞提出一笔的奖金，以奖励可将其推荐系统改进10%的参与者。为此，网飞发布了一个训练数据集供开发者训练其系统。在发布此数据集时，网飞提供了免责声明：为保护客户的隐私，可用于单个客户的所有个人信息已被删除，并且所有客户ID已用随机生产的ID替代。

然而，网飞不是网络上唯一涉及电影评级的网站。其他很多网站，包括IMDb，亦提供类似的功能：用户可以在IMDb上注册和评价电影，且也可以选择匿名自己的详细资料。德克薩斯州大學奧斯汀分校的研究员和维塔利·什马蒂科夫（）将网飞匿名化后的训练数据库与IMDb数据库（根据用户评价日期）相连，能够网飞数据库中的个人。这表明网飞采取的匿名化手段仍然可以泄露部分用户的身份信息。

马萨诸塞州集团保险委员会（GIC）医疗数据库事件
麻省理工學院的将匿名化的GIC数据库（包含每位患者的出生日期、性别和邮政编码）与选民登记记录相连后，可以找出马萨诸塞州州长的病历。

元数据与流动数据库
MIT的德蒙乔耶（）等人引入了（意为）概念，显示出4个时空点、近似地点和时间就足以唯一性识别一个150万人流动数据库中的95%用户。该研究进一步表明，即使数据集的分辨率较低，这些约束仍然存在，即粗糙或模糊的流动数据集和元数据也只提供很少的匿名性。

ε-差分隐私
2006年德沃克等人的文章和后验抽样则使用一种由需求决定的概率分布来抽样的方法。

灵敏度
令d为一正整数，\mathcal{D}为一组数据库，而f \colon \mathcal{D} \rightarrow \mathbb{R}^d为一函数。把函数f的“灵敏度”，在统计调查中经常使用诸如“你是否满足条件A？”这样的问题。不直接记录回答，而是使用如下方法：

投一枚硬币。

如果正面朝上，则再投一次（忽略投出的结果）。然后如实地回答问题。

如果反面朝上，则再投一次。如果正面朝上，就回答“是”；如果反面朝上，就回答“否”。

（注：第二次投掷看上去是多余的。但该步骤实际上是为了防止以下情况出现：“投硬币”这一动作本身可能会被人观察到，就算投掷结果本身没有被公开）有赖于可证伪性，这样做可以提升每个人的回答的保密程度。

但总体上看，如果回答的数量足够多，最终得到的数据仍然是可用的。因为回答被记录为“是”的人里，可以期望有四分之一的人实际上不满足“条件A”，而四分之三则实际上满足。这样，如果令p表示实际上满足A的人的比例，则期望上，记录中“是”所占的比例应当是(1/4)(1-p) + (3/4)p = (1/4) + p/2 。因此，人们可以从统计结果中估计p的值。

这一方法的另一个好处是，如果“条件A”是指一个非法行为，则根据被记录的回答“是”不能推断回答者有罪，因为不管实际情况如何，所有人都有一定概率回答“是”。

在这样的依赖随机化回答的例子中，（即完全公开每个人回答情况的数据库）或许是可行的。但根据定义，差分隐私仍不允许微观数据公开，只能通过查询（即将多个回答合成为统计数据）进行，因为这样的例子仍不符合差分隐私的要求：每个个体都无法否认自己参与了这一调查（即各记录是否存在于数据库里）。

对变换的稳定性
如果T(A)和T(B)之间的汉明距离至多是c倍的A与B之间的汉明距离，其中A,B是两个数据库，则称一个变换T是c-稳定的。

  • 2015年：谷歌，发布历史流量数据。
  • 2017年：微软，用于Windows中的监测功能。
  • 2020年：领英，用于广告商的查询。

参见
*
*

  • k-匿名性

参考资料
外部链接

#密码学理论 #信息隐私

评论 (0)

  • 还没有评论，来抢沙发吧。