零信任聚合隐私分析：2024年推荐与对比

先说几个核心判断：隐私聚合分析领域，传统方案要么依赖硬件隔离，要么依赖加密协议，各自存在明显短板。Google团队这次推出的新方案，将两者融合——用新型加密协议实现安全聚合，再叠加可信执行环境的透明层，把隐私保护的安全水位又拉高了一个层级。这套架构遵循零信任原则，不信任任何单一实体的安全承诺，真正构建了多层防护体系。

设备端AI的核心优势在于数据永不离开本地。数据在设备上完成处理，既能实现实时告警，又能保护用户隐私。Android内置的SafetyCore系统就是典型实践——它提供设备端的不良内容检测功能，所有判断均在本地执行。但挑战在于：团队需要了解这套系统在数亿台不同设备上的真实表现——每台设备的硬件配置、数据分布、用户习惯差异巨大。如何在不窥探个人数据的前提下，掌握整体趋势？加密安全聚合就是关键组件。与所有加密协议一样，它依靠高级数学工具来确保安全保证。

现在，Google团队为隐私分析服务中的高效加密聚合设立了新标杆。核心思路是零信任：减少对任何环节的信任依赖。通过将加密与硬件保护机制紧密结合，他们设计了一套全新的安全架构。这套方案采用一种创新的加密聚合方法，能够证明——证明Google只能获取群体级别的匿名化聚合洞察。而可信执行环境则负责提供严格的认证与透明层，为整个过程额外加一道保险。

设备端模型部署的挑战

模型部署到设备后，仅知道“它在运行”远远不够。它的实际表现如何？哪些功能使用频率最高？什么场景下会失效？这些问题不解决，模型就是黑箱。隐私分析就像一座桥梁，连接“理解模型行为”与“保护用户隐私”两岸——只输出群体的匿名化趋势，绝不泄露个人数据。

Google团队已经在Pixel录音机、Gboard等产品中使用联邦分析来获取这种聚合洞察。联邦分析需要一个私密聚合通道：各设备的数据在合并成总和之前就必须被保护。目前主流保护范式有两种：基于硬件的隔离（可信执行环境）和加密协议。

基于硬件的隔离

硬件路线以可信执行环境为核心，例如Intel TDX、AMD SEV-SNP等。思路很直接：在处理器和内存中划出一块“安全飞地”，与操作系统其他部分彻底隔离。在这块飞地里，数据可以明文解密并处理——即使操作系统被攻破，或者有恶意虚拟机监控程序干扰，也无法触碰飞地内的数据。

可信执行环境具备一个关键能力：认证（attestation）。通过硬件生成一个加密“指纹”，精确描述飞地中运行的固件和软件状态。用户或审计员可以据此验证：数据确实是由预期的防篡改程序处理，而非冒牌货。Google已在Pixel录音机中使用该机制进行差分隐私聚合，用于计算AI系统的洞察。

然而，可信执行环境并非无懈可击。研究人员隔三差五就能发现侧信道漏洞，削弱这些硬件保证。社区虽然在拼命加固已知漏洞，但新漏洞迟早会再次出现。因此，理想的系统应该为数据叠加多层防护——即使可信执行环境被攻破，数据也不会裸奔。

加密协议的局限性

加密协议走另一条路：纯数学技术提供可证明的保证——个人数据根本无法重建，唯一能看到的只有聚合后的匿名输出。Google已大规模部署两代安全聚合协议。但问题是，这套机制使用起来太麻烦：用户设备必须在线，且参与多轮协议，耗时很长。

单次提交的加密协议

新方案引入了一种新型加密协议，用户设备只需发送一条一次性消息即可安全提交信息，彻底绕过了传统交互式方案要求设备在线反复通信的障碍。设备发完消息即可离线，无需等待与服务器来回交互。

这套协议被集成到Google的机密联邦分析系统中，与可信执行环境的执行层叠加，形成多层防御。这样一来，数据机密性不再完全依赖硬件保护。加密层保证：个人原始数据在任何服务器内存中都不会暴露或重建——即使在硬件保护范围内也一样。唯一一次在设备外处理未加密数据，是在最后阶段，那时数据已经被聚合和匿名化。此外，该方案还利用了可信执行环境的认证机制，为所有参与者提供高保证的可验证证明——证明安全聚合协议确实按预期执行（编译和运行的是正确的公开代码）。

技术实现原理

底层的加密方案由一种创新的基于格的协议驱动。客户端用一种方式加密数据，生成密文的同时还能聚合——不仅聚合底层消息，连加密密钥也一同聚合。要让服务器拿到聚合值，唯一需要的是一个只能解密聚合值的解密密钥。为了实现这个目标，客户端之间会组成小型委员会，这些委员会持有“提示”，帮助解锁添加了额外差分隐私噪声的聚合结果。客户端不经常在委员会中服务（根据可用性轮换），而且任何解密密钥都在多个方之间共享，每个方都保护着加密数据的机密性。

实际应用案例

Android的SafetyCore是一个面向Android 9+系统的服务，专门为安全功能提供设备端的隐私保护支持。但这类工具要持续演进，开发人员必须了解它们在真实世界中的表现——具体来说，哪些威胁被拦截了，哪些地方还有提升空间。而且这一切都不能以牺牲用户隐私为代价。

为了弥合这个鸿沟，Google团队与Android SafetyCore团队合作，用这套最新的隐私分析方案来提升分类器准确性，同时保护隐私。依赖聚合的匿名化洞察至关重要：它允许工程师在全球多样化设备群中测量安全模型的“真阳性率”，而无需看到触发本地警报的私密内容。通过观察这些高层趋势，开发人员可以优化模型阈值、部署更新，更好地保护用户。安全系统对新兴威胁保持有效，但原始数据始终留在设备上，严格与外界隔离。Android SafetyCore将利用零信任隐私分析来评估其工具有效性的元数据，同时坚守隐私承诺——用户内容仅保留在设备上。这项技术帮助Android实现更广泛的使命：在保护用户隐私的同时，保护好用户安全。

未来展望

用于安全计算的加密技术，本身就带有基于数学证明的强有力保证。这次的工作展示了如何设计一种与大规模分布式系统部署兼容的安全聚合协议。最终方案与现有安全机制集成，把隐私分析的安全标准往上拉了一个台阶。接下来，团队还在探索如何在这个模型内扩展更多可以计算的支持集。

Q&A

Q1：什么是零信任聚合隐私分析解决方案？
A：这是一种结合了新型加密协议和可信执行环境的隐私保护技术。它允许在不泄露个人用户数据的情况下，从数百万台设备中获取匿名化的聚合洞察。该方案采用多层防御架构，即使硬件安全模型失效，数据也不会被泄露。

Q2：为什么传统的安全聚合协议使用受限？
A：传统加密协议要求用户设备在长时间的多轮协议中保持在线状态，这在实际应用中很难实现。新方案通过单次消息提交克服了这一障碍，设备只需发送一次性消息即可完成数据提交，无需持续在线。

Q3：Android SafetyCore如何使用这项技术？
A：SafetyCore利用零信任隐私分析来评估其安全工具的有效性元数据，例如测量安全模型的真阳性率，帮助开发人员优化威胁检测能力。整个过程中用户的敏感内容始终保留在设备上，只有匿名化的聚合趋势数据被分析。

来源：互联网