当前位置:数智频道首页 > 人工智能 > 正文

向伪造视频开炮,马斯克称 Grok 将具备检测 AI 生成视频的能力

埃隆·马斯克宣布,其人工智能公司 xAI 开发的聊天机器人 Grok 将很快具备分析互联网视频的能力,以检测其中的人工智能生成痕迹,并通过进一步研究追溯这些视频的来源。这一声明是在人们对利用人工智能生成内容进行冒充或发布诽谤性信息的担忧日益加剧时发布的。

向伪造视频开炮,马斯克称 Grok 将具备检测 AI 生成视频的能力

一名X平台用户在帖子中表达了对这种技术滥用的担忧:“在未来一两年内——很可能更早——任何讨厌你的人,都可以生成你做出或说出恶劣言行的虚假视频,而这些视频将与真实录像几乎无法区分,以至于你根本无法证明它是伪造的。目前没有任何措施被采取来阻止这种情况的发生。”

向伪造视频开炮,马斯克称 Grok 将具备检测 AI 生成视频的能力

对此,马斯斯克回应称,Grok即将推出一项新功能,能够分析视频比特流中的人工智能特征,并进一步搜索互联网以评估其来源。Grok AI聊天机器人提供了该功能可能运作方式的更多细节,包括识别视频比特流中的细微AI痕迹,例如压缩异常或生成模式不一致等问题。此外,系统还将通过交叉比对元数据、来源轨迹以及网络足迹,来验证视频的真实性。

向伪造视频开炮,马斯克称 Grok 将具备检测 AI 生成视频的能力

自2023年Grok AI发布以来,马斯克一直依赖这款聊天机器人,在OpenAI和谷歌主导的人工智能竞赛中争取一席之地。今年早些时候,他还将xAI与社交媒体平台X合并,旨在加强两家公司之间的协同整合,使Grok成为该社交网站的核心组成部分。目前,X平台用户已可调用Grok聊天机器人,对平台上发布的帖子进行事实核查。马斯克还计划彻底用Grok取代X现有的内容推荐算法,从而为用户提供更加个性化的信息流。此外,Grok也是马斯克打造维基百科替代品“Grokipedia”的核心工具。

今年早些时候,马斯克向免费及付费用户推出了新版Grok视频生成器,进一步扩展了其AI产品的功能覆盖范围。

热点推送

本周关注

MORE