当前位置:数智频道首页 > 产业+ > 正文

在 Siri 延迟中突围:苹果展示 AI 新成果,用户数据隐私始终放在首位

苹果近日公开了其2025年隐私保护机器学习研讨会的演讲录播与研究成果,重点讨论了AI处理中用户数据的安全机制。在这为期两天的活动中,来自苹果、微软、谷歌DeepMind等科技巨头的专家以及各大学府的学者共同探讨了隐私与AI之间的交叉挑战。

在 Siri 延迟中突围:苹果展示 AI 新成果,用户数据隐私始终放在首位

本次活动设置了私有学习与统计、攻击与安全、差分隐私理论基础、大模型与隐私四大议题,旨在推动在保护隐私的同时促进技术创新。会议中多项研究聚焦于用户直接防护机制。例如,谷歌提出的AirGapAgent通过限制数据访问来防止对话代理信息泄露,有效抵御“单次查询上下文劫持攻击”。实验显示,这种攻击可使Gemini Ultra的数据保护率从94%降至45%,但部署AirGapAgent后仍能维持97%的高防护水平。

技术实现方面,苹果介绍了名为Wally的可扩展私有搜索系统,该系统支持高效的语义与关键词查询。传统方案因对每条数据库记录执行高开销加密操作而难以扩展,而Wally通过优化架构实现了更高的吞吐量。其他论文则涵盖了差分隐私的理论改进,如广义二叉树机制和近乎紧致的黑盒审计方法,以及解决状态连续性下隐私预算管理问题的“大象不忘”机制。

热点推送

本周关注

MORE