当前位置:数智频道首页 > 人工智能 > 正文

维基百科严打 AI 生成劣质条目:一经发现立马删除

WikiProject AI Cleanup 的创始成员 Ilyas Lebleu 提到,虽然一些特征如措辞、破折号的使用和加粗标题的项目列表可以帮助辨识 AI 内容,但这些特征并不总是绝对明确。他们不希望因为某段文字听起来像是 AI 生成就误删条目。

维基百科严打 AI 生成劣质条目:一经发现立马删除

AI 内容的泛滥对维基百科构成了“生存威胁”。维基百科的工作流程依赖于冗长的讨论与共识构建,如果没有快速删除机制,AI 可以高效地生成大量虚假内容,这将成为一个严重问题。尽管人类也可以写出糟糕的内容,但速度远不及 AI。维基百科的工具设计初衷是为了处理完全不同的内容产量规模。

为应对这一挑战,维基提出了一种解决方案:对于明显由 AI 生成并符合两个大致条件的条目进行快速删除。第一个条件是条目中包含“面向用户的交流内容”,即含有大语言模型对用户提示的回应语句,如“这是你的维基百科条目……”、“截至我最后的训练更新……”以及“作为一个大语言模型”等。Lebleu 表示,这类语言在识别 AI 生成的社交媒体贴文与科研论文时已被广泛使用。更重要的是,这类语句表明提交者甚至没有通读所贴上的文章内容,这意味着他们根本没有审阅任何内容,只是照搬贴上,这样的条目如同白噪音。

第二个快速删除条件是条目的引文明显错误,这也是大语言模型常见的失误之一。比如所列图书、文章或论文的外部链接根本不存在、无法打开或者链接内容与主题完全无关。

Lebleu 指出,快速删除是一种“权宜之计”,能够处理最显眼的案例,但 AI 问题将持续存在,因为还有大量 AI 内容未必符合这两项删除条件。他补充说,未来 AI 有可能成为一种有益工具,或许能对维基百科产生正面影响。

热点推送

本周关注

MORE