当前位置:数智频道首页 > 人工智能 > 正文

命中率超 98%:微软披露 Whisper-Leak 侧信道攻击,可窥探你和 AI 聊天内容

微软安全研究团队于11月8日发布博文,披露了一个名为“Whisper Leak”的严重隐私漏洞。该漏洞是一种针对现代AI聊天服务的侧信道攻击。这种攻击技术的核心在于,它不需要破解TLS等主流加密协议,而是通过分析加密网络流量的元数据(如数据包大小、传输时序和序列模式)来推断用户与AI的对话主题。

命中率超 98%:微软披露 Whisper-Leak 侧信道攻击,可窥探你和 AI 聊天内容

由于AI服务为提供流畅体验普遍采用token-by-token流式传输应答,这种行为在网络层留下了独特的“指纹”,使攻击成为可能。研究人员通过训练机器学习模型证明了这种攻击的有效性。他们采集了大量AI应答的加密数据包轨迹,发现不同主题的对话会产生系统性差异的元数据模式。例如,关于“洗钱”等敏感话题的提问,其应答数据包的节奏和大小组合与普通日常对话显著不同。在受控实验环境中,分类器识别特定敏感话题的准确率超过了98%,表明其在现实世界中进行大规模高精度定点监控的潜力。

命中率超 98%:微软披露 Whisper-Leak 侧信道攻击,可窥探你和 AI 聊天内容

此漏洞暴露了广泛的AI聊天服务所面临的系统性风险。互联网服务提供商(ISP)、公共Wi-Fi上的恶意行为者等都可能利用这一漏洞观察用户网络流量,识别并标记敏感对话。这对记者、活动家以及寻求法律或医疗建议的普通用户构成了严重威胁,即使对话内容本身是加密的,对话的主题也可能被暴露,从而引发后续审查或风险。

在微软遵循负责任披露原则通报业界后,多家主流AI供应商已迅速采取行动。现行的缓解措施主要分为三类:一是通过随机填充或内容混淆破坏数据包大小与原文长度的关联性;二是采用tokens批处理,将多个tokens打包后再发送以降低时间精度;三是主动注入虚拟数据包干扰流量模式。这些措施提升了安全性但也带来了延迟增加、带宽消耗增大等问题,迫使服务商在用户体验和隐私保护之间做出权衡。

对普通用户而言,在处理高度敏感信息时优先选择非流式应答模式,并避免在不受信任的网络中进行查询是当前有效的防护手段。

热点推送

本周关注

MORE