2月20日,今日头条宣布《灵狗》全面升级的消息。除了反色情、反低俗之外,新版《灵狗》还增加了反暴力滥用、反点击诱饵功能。
截至目前,“灵狗”的检测服务已覆盖低俗低质内容的主要类型。
据了解,这是《灵狗》上线近一年后的首次重大更新版本。数据显示,截至目前,“灵狗”用户数已突破240万。这也是国内首个反低俗信息小程序。
检查内容健康水平
这个小程序脱胎于今日头条的反低俗算法模型,用于识别低俗信息。用户可以通过在搜索框中放置文本或文章链接来查询信息的健康程度。
据了解,“灵狗”等技术模型不仅可以被普通网民用来净化网络空间,还可以帮助平台内容创作者完善内容。
与其他平台通常采取人工投诉并随后删除低俗低质量内容的方式不同,“灵狗”作为一种技术手段,可以有效帮助平台提出内容质量检测机制,帮助创作者自查内容是否触发色情内容。和粗俗。暴力滥用和点击诱饵等因素。
不过,在文字检测方面,“灵狗”团队规定,用户输入的字数必须超过10个字才能进行检测。
对此,“灵狗”团队给出了解释:用户提供的上下文、语境等信息越完整,机器的判断准确率就会越高。
2018年3月,刺猬公社参与“灵狗”内测,在“灵狗”上测试了“你饿不饿?下面我喂你”这句话。数据显示,该内容的健康指数为51%,不及格。
2019年2月20日,刺猬公社再次测试,发现该内容健康概率指数为19%,触及反色情低俗模型,“不应该被算法推荐”。
这是什么意思?
《灵狗》就像一个内容审核系统。该系统收集所有被评定为色情低俗内容的关键词。一旦“你饿不饿,我下面喂你吃”这个关键词接触到关键词,内容就会被提取、分词和语义识别,然后按照设定的规则输出相应的分数、评级和结论。
今日头条的做法是将庸俗标准分为两个层次:一个是几乎所有人都认同的标准底线,另一个是因人而异的主观判断。有些试题因人而异,仁者见仁智者见智。
不过,今日头条也表示,新版《灵狗》的发布,伴随着《灵狗》反低俗低质能力的提升。反色情、低俗、暴力滥用模型的整体识别准确率约为85%,反点击诱饵模型的识别准确率约为90%。这些技术模型每天都在不断优化和迭代。
今日头条
今日头条狗
今日头条灵狗功能
精神狗在今日头条中的作用