研究总结｜数据隐私与数据治理研究，从零基础到精通，收藏这篇就够了！

第一、数据隐私保护的通用性和实用性挑战。大规模数据收集场景下，本地化差分隐私允许用户直接在本地端对数据进行扰动，而后发送给数据收集者，是故成为当下主流的数据隐私保护方法之一，然而应用场景单一、数据可用性差等弊端依然是该技术面临的不可忽视的问题和挑战。第二、个性化隐私与个性化联邦学习挑战。机器学习场景下，尽管联邦学习框架允许用户将个人数据保留在本地，但依然面临由模型参数导致的训练数据隐私泄露问题。除

程序员_大白

747人浏览 · 2025-02-08 09:30:00

程序员_大白 · 2025-02-08 09:30:00 发布

依托国家自然基金重大研究计划“大数据驱动的管理与决策”重点项目“大数据开放与治理中的隐私保护关键技术研究”和国家自然基金“移动通信安全基础理论与关键技术”专项项目“移动用户隐私保护与数据安全共享理论与方法”，结合当下我国数据隐私和数据治理的实际状况，中国人民大学孟小峰教授团队开展了系统的研究，取得了诸多重要的研究成果。总体而言，当下我国数据隐私和数据治理面临三个挑战问题：

第一、数据隐私保护的通用性和实用性挑战。大规模数据收集场景下，本地化差分隐私允许用户直接在本地端对数据进行扰动，而后发送给数据收集者，是故成为当下主流的数据隐私保护方法之一，然而应用场景单一、数据可用性差等弊端依然是该技术面临的不可忽视的问题和挑战。

第二、个性化隐私与个性化联邦学习挑战。机器学习场景下，尽管联邦学习框架允许用户将个人数据保留在本地，但依然面临由模型参数导致的训练数据隐私泄露问题。除此之外，考虑到个体隐私保护需求的多样性，实现复杂场景下联邦学习的个性化隐私保护是当前机器学习隐私保护领域的一大研究挑战。

第三、数据治理与数据透明挑战。随着大数据技术和人类生产生活的交汇融合，固然大规模数据收集为个人、企业和国家带来巨大的数据价值，但“先予后取”的数据收集模式也带来隐私泄露和决策不可信等问题，表现在大规模数据收集、大规模数据监视和大规模数据操纵三个方面。如何使这些问题得到有效治理,使数据得到正确、合理和规范地使用是大数据发展面临的主要挑战。

**研究思考与展望 (**Keynote speech)

孟小峰教授应邀在第三届中国空间数据智能学术会议SpatialDI2022作题为《对数据隐私和数据治理的认识与思考》的大会特邀报告。报告从一个目标、两个场景、三个转变和四个层次的角度，系统探讨了其对当今数据隐私与数据治理问题的认识与思考。对于其中最为核心的隐私治理问题，孟小峰教授强调了在大规模数据收集与大规模机器学习两大场景下所面临的隐私的实用性与个性化问题。除此之外，报告也对算法公平问题，平台垄断与移动应用程序（APP）治理问题，以及数据透明与溯源问责等其他关键科学问题进行了剖析。

点击链接，查看原文

孟小峰教授在“杭州2050 @ 2019大会新生论坛：大数据与人工智能的伦理挑战”论坛中作报告。当计算机越来越智能，大数据中蕴含的价值被不断开发，我们享受着这些技术带来的生活便利。但同时我们是否也常常困惑于数据被滥用、隐私被泄露、或被大数据杀熟？我们是否已经静默地沦为大数据时代的“塔斯基吉梅毒实验”的实验对象？面对当前数据生态中的伦理问题，我们该如何应对？

报告从三个部分对当前人工智能时代的数据生态伦理进行分析：

 -如何杜绝大数据时代的“塔斯基吉梅毒实验”？

 -“无知之幕”下的人工智能何在？

 -呼之欲出的大数据透明！

点击链接，查看原文

孟小峰教授应邀在《人民论坛》“精品力作”栏目发表题为《破解数据垄断的几种治理模式研究》的观点文章。随着数据的累积，不同科技企业在数据资源的储备量上的差异愈加明显，数据垄断逐渐形成，并催生了“堰塞湖”，导致各企业间的数据难以互通，用户隐私泄露问题随之凸显。因此，通过有效的数据治理来缓解数据垄断形势、促进数据安全与公平的共享流通刻不容缓。一方面应完善当前的数据治理模式，发挥现有治理手段的作用；另一方面要积极开拓透明化的数据治理框架，解决以数据垄断为主的数据伦理问题，构建健康有序的中国大数据生态。

点击链接，查看原文

研究综述（Survey Papers）

数据遗忘研究

机器遗忘综述

论文来源：软件学报 2024 CCF-T1 关键词：隐私保护；遗忘学习

http://www.jos.org.cn/1000-9825/7237.htm

点击链接，查看原文

数据审计研究

数据治理中的隐私审计研究

论文来源：计算机研究与发展 CCF-T1，修改后发表关键词：差分隐私；隐私审计

点击链接，查看原文

混洗差分隐私研究

ESA：一种新型的隐私保护框架

论文来源：计算机研究与发展 2022 CCF-T1 发表；关键词：混洗差分隐私

https://mall.cnki.net/magazine/article/JFYZ202201008.htm

数据治理与数据透明研究

大规模移动应用程序分级治理

论文来源：Frontiers of Engineering Management，发表，关键词：隐私风险，隐私级别，量化，大规模应用程序治理

https://www.cnki.com.cn/Article/CJFDTotal-FOEM202204009.htm

点击链接，查看原文

区块链与数据治理

论文来源：中国科学基金，发表；关键词：隐私保护；区块链；数据治理

https://kns.cnki.net/kcms/detail/11.1730.N.20200313.1004.024.html

研究论文（Research Papers）

混洗差分隐私研究

差分隐私算法本质是数据扰动，会对数据的实用性造成影响。为提高其实用性，我们对以下两类方法——隐私放大方法、差分隐私与密码学的混合方法进行研究。前者通过一些不改变数值的随机化操作提高隐私，后者通过引入密码学增强隐私，他们的目的都是通过对数据进行较小的扰动而保证较强的隐私，从而提高数据可用性，保证算法实用性。实现上述方法的典型框架为ESA框架

EPS2: Privacy Preserving Set-Valued Data Analysis in the Shuffle Model（TKDE）

本文第一作者为实验室博士研究生王雷霞。在保护隐私的情况下收集和分析用户的集值数据是现实生活中的常见场景。然而，现有的LDP解决方案在用户本地扰动数据时会引入大量噪音，导致结果可用性受损严重。混洗差分隐私模型（the shuffle model）在LDP中加入了混洗器（shuffler）对所有扰动值打乱顺序，实现匿名，从而增强隐私性并提升效用。迄今为止，混洗差分隐私模型的研究均考虑每个用户拥有一个值的情景。本文对该模型下集值数据的频率估计和Top-k 频繁项估计进行研究。该问题的关键挑战在于——每个用户集的大小不同，并且可能与域大小d一样大。为解决该挑战，我们将采样与混洗结合起来，提出了Encoding、Padding、Sampling和Shuffling框架，即EPS2。基于该框架，我们针对不同的应用场景提出了三种频率估计协议，然后将它们组装成用于top-k频繁项估计的多阶段协议。我们从理论上对这三个协议的双重隐私放大效应进行分析。并且通过将用户集合的大小设置为1，我们可以将这个放大界限扩展到单值频率估计场景，产生比现有工作更严格的隐私界限。最终，通过在合成数据集和真实数据集上的实验，我们证明了不同数据分布情形下所提协议的有效性。

论文来源：TKDE 2024, vol. 36, no. 11, pp. 6084-6098, CCF-A 发表；关键词：隐私保护；混洗差分隐私

https://ieeexplore.ieee.org/document/10352643

个性化差分隐私研究

针对机器学习场景下由模型训练带来的隐私问题，我们主要关注联邦学习中的个性化隐私保护问题，具体为个性化差分隐私保护的联邦学习、差分隐私保护的个性化联邦学习，以及个性化差分隐私保护的个性化联邦学习问题。

Cross-silo Federated Learning with Record-level Personalized Differential Privacy（CCS 2024 distinguished paper）

本文第一作者为实验室博士研究生刘俊旭。差分隐私增强的联邦学习已成为现阶段备受关注的数据隐私保护方法。不过，现有方法通常采用一刀切的方式，为所有数据提供相同程度的隐私保护，从而无法满足不同个体的个性化隐私需求。为探索如何在联邦学习框架下为不同数据记录提供个性化差分隐私保护，我们提出了一种新的差分隐私联邦学习框架rPDP-FL。该框架通过令不同数据记录具有特定的采样概率，从而使其在模型训练过程中的隐私损失恰好等于其个性化隐私预算ε。其中，一个关键技术难点在于如何为每条记录确定其特定的采样概率q。我们提出一种通用解决方案 SimulationCurveFitting ，通过探索采样概率与隐私损失之间的非线性关系，进而构建一个简洁的数学模型来解决该问题。实验表明，与提供一致隐私保护的传统差分隐私方案相比，个性化隐私保护方案可以实现更好的隐私-可用性权衡。

论文来源：CCS 2024， pp 303-317， CCF-A 发表；关键词：个性化差分隐私；联邦学习

https://dl.acm.org/doi/10.1145/3658644.3670351

本地化差分隐私研究

大规模数据收集场景下，本地化差分隐私是首当其冲的隐私保护方法。该技术的核心问题在于扰动机制将造成数据可用性下降，具体包括关联性、通用性和时序性三个主要挑战。

1. 针对关联性问题，我们考虑在数据收集场景下键值对数据，首次提出了多轮迭代的扰动框架，解决了在数据扰动下保证键与值的关联性问题。

2. 针对通用性问题，我们考虑到在图隐私保护中，高可用性的算法往往仅针对特定图统计任务，我们提出了兼具高可用性的图通用隐私保护框架。

3. 上述两种方法本质上是基于数值扰动的方式，面对5G时代下诸如自动驾驶等对数据可用性要求很高的流数据场景，数值扰动方式并不可取。由此，我们首次提出了数值不变时序变的思路，即采用时序扰动的方法，很好地解决了在保证数据可用性同时用时序扰动保护了隐私。

PriPL-Tree: Accurate Range Query for Arbitrary Distribution under Local Differential Privacy（VLDB 2024）

本文第一作者为实验室博士研究生王雷霞。在本地化差分隐私 (LDP) 背景下回答范围查询是在线分析处理 (OLAP) 中一个被广泛研究的问题。现有的 LDP 解决方案都假设每个域分区内的数据分布均匀。然而，这一假设往往不符合现实场景中的数据分布情况，从而导致其估计结果不够准确。为解决该问题，我们提出一种新型的数据结构——PriPL-Tree。它是一棵隐私保护的分段线性树，将分层树结构与分段线性 (PL) 函数相结合。通常给定任意分布，少量线段辅以少量的结点，即可精确地模拟底层数据分布，从而为范围查询带来更准确的结果。此外，我们将该结构与数据密度自适应的网格相结合，以处理多维范围查询。这些网格基于PriPL-Trees获得的边际分布，自适应地对网格进行分区，高频区域对应密集网格，低频区域对应稀疏网格。相比均匀网格，更加精确的拟合二维的底层数据分布。通过在真实和合成数据集上的大量实验，我们证明了我们所提方案的有效性和优越性，相比当前的最优方案，查询误差可降低10.6%至81.9%。

论文来源：VLDB 2024，vol17，no.11，pp 3031-3044， CCF-A 发表；关键词：本地化差分隐私；范围查询

https://dl.acm.org/doi/10.14778/3681954.3681981

PrivKVM*: Revisiting Key-Value Statistics Estimation With Local Differential Privacy(TDSC 2023)

本文第一作者为实验室博士研究生叶青青。在大数据分析和人工智能中，一个关键因素是从大量人群中收集用户数据。然而，收集用户数据是要付出隐私风险的代价的，不仅是用户，企业也容易受到内部和外部数据泄露的影响。为了解决隐私问题，本地差分隐私（local differential privacy，LDP）被提出，允许不可信的收集者在不访问真实记录的情况下获得对用户敏感数据（如位置、健康和金融数据）的准确统计估计。由于key-value数据是一种非常流行的NoSQL数据模型，已有一些文献研究了基于ldp的key-value数据统计估计。然而，这些工作存在密钥空间小、密钥收集范围固定、填充长度难以选择以及通信开销大等问题。针对基于ldp的键值数据收集和统计估计问题，提出了一种优化的、高度完整的两阶段机制PrivKVM*。通过严格的理论分析和广泛的实验结果验证了其正确性和有效性。

论文来源：TDSC 2023， pp 17-35 CCF-A 发表；关键词：本地化差分隐私；数据收集

https://ieeexplore.ieee.org/document/9524509

LF-GDPR: A Framework for Estimating Graph Metrics With Local Differential Privacy(TKDE)

本文第一作者为实验室博士研究生叶青青。本地差分隐私（LDP）是一种新兴的隐私保护数据收集技术。尽管LDP具有强大的隐私保障，但由于其实现复杂度高、数据可用性低，难以应用于社区发现、中心性分析等现实世界的图分析任务。本文通过提出LF-GDPR来解决这两个问题，这是第一个基于ldp的图分析度量估计框架。它局部地从每个节点收集两个原子图度量：邻接位向量和节点度。LF-GDPR通过为每个步骤提供完整的或参数化的算法，简化了为图度量估计任务实现ldp相关步骤（例如，局部扰动、聚合和校准）的工作。针对LDP数据效用低的问题，在数据收集过程中在两个原子度量之间优化分配隐私预算。为了演示LF-GDPR的用法，展示了两个常见的图分析任务的用例，即聚类系数估计和社区检测。理论分析和实验结果验证了LF-GDPR的隐私性和实用性。

论文来源：TKDE 2023 CCF-A 发表；关键词：本地化差分隐私；图分析

https://ieeexplore.ieee.org/document/10352643

区块链与数据透明研究

目前，移动应用产生的数据由服务提供者收集和存储。然而用户对这些数据失去掌控权，对数据的共享情况不能获知，当发生隐私泄漏时，溯源问责困难。为此，我们提出支持溯源问责的数据共享，旨在增加数据共享过程的透明化。由此，当发生隐私泄漏等问题时，可以据此共享信息进行溯源问责。

Metadata Privacy Preservation for Blockchain-Based Healthcare Systems（DASFAA 2022）

本文第一作者为实验室在读博士研究生刘立新。基于区块链的医疗保健系统提供了一种以患者为中心和负责任的方式来管理和共享电子健康记录。由于其独特的特性，采用区块链来记录元数据并进行访问控制。然而，区块链的透明特性也对这些系统提出了新的挑战。发现存储在区块链上的元数据泄露了医患关系。攻击者可以基于这种关系发起联动攻击，推断出患者信息。因此，有必要对元数据进行隐私保护。然而，强有力的隐私保护可能会降低问责制。在问责制和隐私保护之间取得平衡是区块链及其应用的一个主要挑战。首先阐述了区块链医疗系统中元数据可能泄露患者隐私的原因；在此基础上，针对单医生案例和群体咨询案例两种不同的医疗场景，提出了隐私保护和问责协议。最后，通过理论分析验证了协议的实用性。

论文来源：DASFAA 2022 CCF-B 发表；关键词：隐私保护；区块链

https://link.springer.com/chapter/10.1007/978-3-031-00123-9_33

**中国隐私风险指数与分析报告研究（**Privacy Index and Report）

《中国隐私风险指数分析报告》由孟小峰教授团队（中国人民大学网络与移动数据管理实验室）发布，基于大规模真实用户数据与APP数据，对当前移动应用场景下用户隐私数据被收集的情况进行调研分析。目前该报告从2018年至2020年已连续编纂3年，2020年度相比前两年获取了更大规模的分析数据，包括3670万真实用户数据（2018-2019年度约3000万）和约40万App数据（2018-2019年度约30万），能对当前移动应用场景下用户隐私数据被收集的情况进行更准确的调研分析，同时导出了中国隐私风险指数3年的变化情况。在内容上，该报告继续沿用先前提出的中国隐私风险指数体系，旨在从用户、移动应用程序(Mobile Application，简称App)和数据收集者（即App开发者）三个角度揭示当前用户隐私数据被收集的现状，及其产生的隐私风险状况。

点击链接，查看原文

出版《数据隐私与数据治理》专著（Monograph）

近两年来，数据隐私与数据治理问题备受关注。随着《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《“十四五”数字经济发展规划》等条例的相继出台，数据隐私保护与数据治理不再是模糊不清的法外之地。尤其是在数据要素一词提出后，各种概念如雪花飘来；社会各界也紧随国家战略导向，积极探索。但对这些概念，人们尚缺乏基本的认知体系作为支撑点来做进一步的思考。社会各界都翘首以盼一套系统讲述数据隐私与治理概念与技术的读本！

孟小峰教授以此为目的，依托多年的研究成果，带领团队撰写本书，旨在从概念与技术上对数据隐私与数据治理进行系统的阐述，为人才培养、学术研究、政府管理、企业开发等提供相关的知识体系，为提高公民的数据素养提供相关的读物。历经三年的筹备，《数据隐私与数据治理：概念与技术》于2023年7月由机械工业出版社正式出版！