隐私保护技术实验教程(普通高等教育网络空间安全系列教材)

第1章绪 论 　　1.1引言 　　大数据是信息技术发展的必然产物，更是信息化进程新阶段的标志，它的发展推动了数字经济的形成与繁荣。当前，我国正在进入以数据的深度挖掘和融合应用为主要特 征的智能化阶段。在“人机物”三元融合的大背景下，以“万物均需互联，一切皆可编 程”①为目标，数字化、网络化和智能化呈融合发展新态势。近年来，数据规模呈几何 级数高速增长。据国际数据公司（IDC）的报告，2020年全球数据存储量达到44ZB （1021B），到2030年将达到2500ZB。作为人口大国和制造大国，我国的数据产生能力巨大，大数据资源极为丰富。随着数字中国建设的推进，各行业的数据资源采集、应用 能力不断提升，将会更快地积累更多的数据。 　　然而，大数据作为战略资源发展迅速，大数据应用存在安全与隐私的风险日益凸显。个人数据正在不经意间被企业、他人搜集并使用。企业可以通过数据挖掘和机器学习等 技术从用户数据中获得大量有经济价值的信息。这些数据一旦泄露，将会给用户的隐私 带来极大的危害。自大数据行业诞生以来，已经发生了多起隐私泄露事件。其中，一类是大规模用户信息因保护不当造成的隐私泄露，如美国马萨诸塞州医疗隐私信息泄露事件。该州为推动公共医疗研究，发布了政府雇员的医疗数据，尽管删除了敏感信息，如 姓名、身份证号和家庭住址等，依然被攻击者通过性别、出生日期和邮编等信息确定出某公民的医疗记录。另一类是针对单一用户的隐私攻击案例。例如，2010年，一名中国网友根据某用户的微博、谷歌地图和简单的地理常识，在40mm内推断出该用户的家庭住址。除了上述几个典型的用户隐私泄露事件，大数据行业带来的整体性变革使得个体 用户很难对抗个人隐私被全面暴露的风险，只要用户使用智能手机、上网购物或参与社 交媒体互动，就需要将自己的个人数据提供给服务商以换取服务。更为复杂的是，经过多重交易和第三方渠道的介入，个人数据的权利边界变得模糊不清，公民的个人隐私保护遇到了严峻的挑战。 　　面对频发的隐私泄露事件，人们对隐私保护的认识在不断提升，个人信息隐私保护的立法也不断完善。欧洲联盟（简称欧盟）对于侵犯个人数据行为的处罚措施十分严格，2018年5月欧盟颁布了《通用数据保护条例》（GDPR），该条例界定了个人信息的范围，并明确提出信息安全管理和评估方面的要求，对违法企业的罚金*高可达2000万欧元或者其全球营业额的4%，以高者为准。在我国，2016年11月颁布了《中华人民共和国网络安全法》，其中明确规定了网络运营者应当对其收集的用户信息严格保密，并建立健全 用户信息保护制度；2021年6月颁布了《中华人民共和国数据安全法》，其中规定了任何组织、个人收集数据，应当采取合法、正当的方式，不得窃取或者以其他非法方式获取数据；2021年8月颁布了《中华人民共和国个人信息保护法》，对个人信息和个人信息处理有了更加明确的界定，并明确了自动化决策对数据进行处理的基本规则。这些法律对于保护公民的隐私权具有重要意义。 　　为了保障法律法规的落地，隐私保护技术支撑尤为重要。本书作为信息安全专业的高年级本科生、研究生和隐私保护行业的从业人员的入门实验教程，具体涉及基于左-匿 名模型的隐私保护、基于差分隐私的隐私保护、基于可搜索加密的隐私保护、基于安全 多方计算的隐私保护、基于对抗训练的深度学习隐私保护、多媒体服务中的隐私保护、基于访问控制的隐私保护、隐私侵犯行为的取证与溯源等8个实验。 　　1.2教学内容和目标 　　1.2.1教学内容 　　本书的教学内容主要包括以下8个部分，其各自的特点如下。 　　（1）基于h匿名模型的隐私保护是指对原始待发布的数据进行泛化处理，保证敏感 数据及隐私的泄露风险在可容忍范围内，包括等。 　　（2）基于差分隐私的隐私保护建立在坚实的数学基础之上，对隐私保护效果进行了严格的定义并提供了量化评估方法，可以有效抵御拥有背景知识的攻击者进行的攻击。 　　（3）基于可搜索加密的隐私保护是指在加密的情况下实现搜索功能，还可以在保密的情况下对搜索的文件进行修改。 　　（4）基于安全多方计算的隐私保护是指多个数据持有者在互不信任的情况下，进行 协同计算并输出计算结果，且保证任何一方均无法得到除应得的计算结果之外的其他任 何信息。 　　（5）基于对抗训练的深度学习隐私保护涉及很多领域，本书介绍了一种基于多任务学习和对抗训练的数据特征提取器训练方法。该特征提取器可以在防止发生隐私攻击的情况下，尽可能提升业务分类的准确率。 　　（6）多媒体服务中的隐私保护是指应用图像处理、音频处理、机器学习等方面的理论和方法，构造综合性的防护方案，防止发生多媒体服务中的用户身份和隐私信息的泄露。 　　（7）基于访问控制的隐私保护是指用户根据自身需求来对隐私保护策略进行配置以及进行策略执行，当多个用户主体的隐私保护策略产生冲突时，利用适当的方法对冲突进行消解。 　　（8）隐私侵犯行为的取证与溯源是对隐私侵犯行为进行记录、验证和审计的技术。本书以图片为例，通过添加特定的数字水印，实现二次转发过程中的隐私侵犯行为的取证与溯源。 　　1.2.2教学目标 　　本书的教学目标如下。 　　（1）加深学生对隐私保护相关技术的基本原理、核心思想的理解，使学生掌握隐私保护系统的设计和实现方法。 　　（2）培养学生利用隐私保护理论解决实际问题的能力。针对实验所设场景，综合应用所学知识制定技术方案，通过检索、对比来设计和采纳可行技术路线，完成匿名、差分、加密等隐私保护实践操作，并对实验数据进行整理和检验，从而解决各类应用场景中隐私保护的实际问题。 　　（3）引导学生了解国际上重要的与隐私保护相关的科研项目，培养学生勤奋踏实、刻苦钻研、严谨求实、团队协作等品格，锻炼学生的学习能力、创新能力、动手能力和灵活运用知识能力。 　　基本要求：实验前做好预习，熟悉实验目的、实验要求等，并做好软件环境和隐私保护数据集的安装设置；学生可进行分组，合作完成部分实验，需要分工协作、积极充分地参与讨论，并提供实验报告。 　　1.2.3实验工具 　　本书的实验语言采用Python，大部分实验都可以在个人计算机上进行，在此对本书 实验的基础环境配置进行介绍。 　　1.Python语言 　　Python是一种面向对象的解释型计算机程序设计语言，具有跨平台的特点，可以在Linux、macOS以及Windows系统中搭建环境并使用，此外，Python的应用领域范围广泛，在人工智能、科学计算、Web开发、系统运维、大数据及云计算等方面均有涉及。 　　2.Python语言环境的配置 　　1）实验目的 　　（1）掌握Python语言环境的配置方法。 　　（2）对Python语言环境的配置结果进行测试。 　　2）实验环境 　　本实验使用个人计算机，操作系统可为Windows10、Linux或macOS。需要准备Python3.6.6或者更高版本的安装包。 　　3）实验步骤 　　首先对Python语言的编译环境进行配置，已安装的读者可以跳过。 　　（1）安装Python语言。 　　进入Python的官方网站，如图1-1所示。 　　选择需要的Python版本（图1-2），单击Download按钮，建议选择Python 3.6.6或者以上版本。 　　下载成功后，找到Python安装包路径，根据系统默认/自定义路径进行安装。安装成功后，打开cmd命令行窗口，输入“python”，显示图1-3所示输出则表示Python语言环境搭建成功。 　　图1-1 Python官方网站 　　图1-2 Python下载版本选择 　　图1-3 Python安装结果示意 　　（2）配置PyCharm环境。 　　PyCharm是一种经典的Python IDE （Integrated Development Environment），带有一整套高效的开发工具，包括调试、语法高亮、项目管理、代码跳转、智能提示、自动完成、 单元测试、版本控制等。 　　进入PyCharm的官方网站，如图1-4所示。 　　图1-4 PyCharm官方网站 　　选择合适的版本进行下载，其中专业版是收费的，教育版和社区版是免费的。此处以教育版为例，下载完成之后进行安装，建议不要选择.py复选框（图1-5）。 　　图1-5 PyCharm安装选项 　　安装完成之后，需要添加环境变量。查看bm文件路径是否被添加到系统环境变量中，如果没有添加，会导致创建项目时找不到Python解释器。 　　右击“我的电脑”图标，选择“属性”选项，打开“系统属性”对话框，选择“高级”标签，单击“环境变量”按钮（图1-6）。 　　图1-6添加环境变量 　　（3）Anaconda环境管理器。 　　Anaconda是可以便捷获取包（Package），并对包进行管理的工具。它还可以对环境进行统一管理。Anaconda包含了Conda、Python在内的超过180个科学工具包及其依赖项。 　　进入Anaconda的官方网站（图1-7）下载安装包，根据安装导航进行安装，安装路径不能出现中文字符。Anaconda安装界面如图1-8所示。 　　安装过程中，需要选择Add Anaconda3 to my PATH environment variable复选框（图1-9），默认是没有选择的，如果不选择，则需要在系统设置中自行添加环境变量。 　　安装完成之后，可以打开Anaconda Prompt（anaconda3）-python窗口进行验证