今日头条推出的“新工具”，真香！

　　作者：Mia

　　设计：瓜瓜

　　‍前两天，收到一个今日头条的朋友发来的新功能内测邀请——灵犬反低俗助手。

　　灵犬诞生于2018年3月，是由今日头条开发的一款反低俗小程序，可以检查文字、图片和语音的健康指数。

　　朋友表示，这次测试是新增了“灵犬反低俗助手”的视频识别功能。

　　支持视频检测后，灵犬反低俗助手对全网内容创作者都会有很大帮助！

　　体验一番后，我发现头条的这个助手小程序确实有点香!

　　下面我们先来聊聊，灵犬到底是什么，为什么对于内容创作者来说真香?

　　01

　　灵犬5.0：低俗终结者？

　　我们知道，对于任何一个内容生态，低俗内容的整治都是巨大的挑战。即便是谷歌、facebook这些老牌大厂们也都养着数量众多的人工内容审核。

　　在国内的很多内容平台，同样有大量的低俗内容泛滥。

　　很多曾经优质的社区都是因为低俗内容泛滥，劣币驱逐良币，最终导致用户体验极差、社区衰落。

　　1）灵犬是今日头条创造的“低俗终结者”

　　像开头提到的，灵犬反低俗助手是脱胎于今日头条的一个审核模型。

　　最初，今日头条为了审核发布内容是否合规，运行了一套算法，后来在 2018 年，又将模型公开。同年 3 月，今日头条在完善这套算法和模型的基础上，上线了“灵犬反低俗助手”小程序，主要用来识别文字的“低俗检测”。到 2019 年 3 月，灵犬使用人次已经突破240万。

　　随后灵犬又在几次改版中陆续增加了图片、语音识别，截至2020年11月底，“灵犬”使用人次已经突破522万。

　　根据头条发布的官方报告显示，截至今年 3 月，灵犬共收到 861 万次内容申请，成功查出低俗内容53万条。

　　可以说，灵犬从被开发出来的第一天起，其角色就是要做“低俗内容终结者”的。

　　2）视频审核上线后，灵犬功能“齐活了”

　　而在今天，灵犬微信小程序5.0 版的视频反低俗功能正式上线。

　　也就是说，灵犬小程序已经可以支持检测视频、文字、图片、语音四类内容形式。

　　几乎涵盖了所有主流内容形式。在对各类内容品类的检测上，称得上齐活了。

　　剩下的工作就是识别准确度提升，而算法优化正是头条系最擅长做的东西。比如灵犬背后的文本分类模型，已经经过 3 次大版本迭代，每一次都是代际升级：

　　第一代灵犬采用词向量技术，简单点理解就是将文字拆解，然后匹配对应的文字库，预测准确率 79%；

　　第二代灵犬采用 LSTM 技术，对长句很好地识别，准确率达到85%；

　　第三代灵犬采用 Bert 半监督技术，直接将准确率提高到 91%

　　02

　　“灵犬”有多香？

　　产品开发侧致力于完备检测品类、不断提高准确率，那么，这个灵犬小程序的使用侧体验到底怎样呢?

　　1）向全网开放的智能检测AI

　　实际上，现在市面上几个优质内容平台都有开发内容检测程序。

　　比如知乎去年上线了专治“答非所问”的机器人瓦力，通过机器学习处理答非所问、辱骂、贴标签等不友善内容，微信也有自己的安全助手小程序。

　　但它们大部分都是平台自审使用。而灵犬则是罕见的面向全网创作者、用户开放的智能检测 AI ，用户在今日头条、微信小程序上直接搜索“灵犬反低俗助手”即可使用。

　　我在文字、图片、语音、视频四个方面都进行了测试：

　　在文字准确度检测测试中，我首先选取了两篇正规权威媒体的热文(一篇为环球网、一篇为新京报)，复制链接到灵犬小程序进行检测。

　　结果一篇 98% 健康概率，一篇为 89% 健康概率，都获得了不错的结果。

　　随后，我又在网上找了两条标题党或隐含色情的标题，输入检测：

　　1. 羞羞!他们尝试了100次后，终于找对了姿势……(暗含色情引导)

　　2. 美军百架战机逼停我舰队，随后我傻眼了!(夸大其辞标题党)

　　第一条暗含色情的文字健康概率被评为 37%，灵犬表示“眉头一皱，觉得有问题”。

　　第二条标题党的文字，灵犬并没有直接识别出来，表示“一时无法确认”(可能是因为单纯的文字太短，无法有效判断)。

　　随后，我又测试了一篇看起来标题有些出格，但实则是环球网发布的正规文章。

　　女子酒后怀孕，丈夫做亲子鉴定后，傻眼了……

　　结果灵犬表示，89% 概率健康。

　　可见，在文字识别方面，灵犬还是很准的。除了少数字数过短且比较隐蔽的文字，大部分都能给出正确的评分。

　　在图片检测环节，我首先找来几张衣着相对较少，但没有明显性暗示的图片测试。

　　结果虽然有两张的分数没那么高，但灵犬依然准确给出了“内容健康”的评价。

　　随后，我又上传了一对男女芭蕾舞演员跳舞的照片。

　　结果显示，“灵犬无法判断是否健康，需要人工审核”。

　　可见，对涉及到诸如男女亲密举动这类有可能打色情擦边球的图片内容，灵犬的算法相对会更为谨慎，在客观检测的基础上，为了避免矫枉过正、草木皆兵的误伤，会触发人工审核，提高审核的准确度。

　　同样的方法，我又测试了几条语音和短视频。也还是很准的，能发现语音里的脏话、粗口，也能简单识别短视频的画面内容是否含有色情低俗、暴力血腥等内容。

　　总体来说，今日头条灵犬做得还是不错的，在检测精度和操作体验方面都相当有竞争力。

　　2）“灵犬”多有用？

　　回到开头的那个问题：对于创作者来说，灵犬又可以起到哪些作用?

　　① 帮创作者自查、提效的助手

　　对于创作者来说，灵犬最直接的作用就是：帮助创作者自查作品是否存在不良信息，避免出现发布后内容不过审、被限流的情况。

　　这一作用对于头条内容生态的创作者来说，绝对是真香的。

　　比如我在头条上就发现一位“育儿领域”的优质创作者曾发布过这样一条微头条：

　　自己认真写的一个回答，但迟迟没有阅读量，也没有被首推;

　　结果用灵犬一查才发现，自己的一张配图被标记为低俗图片;

　　删除问题照片后，很快就获得了流量。

　　甚至还有用户把灵犬当作文章“优化助手”，将一篇阅读量正常只有 2 万的微头条，通过用词、语句优化到 65万+ 阅读量。

　　到了现在灵犬5.0 发布，可以支持短视频检测，对于做抖音和喜欢拍视频的创作者们就非常有用了。

　　再也不用发布视频发现没流量后，盲猜哪里违反了推荐规则，可以直接使用灵犬帮助自己找出问题并优化。

　　虽然现在灵犬5.0 还只支持 15 秒视频的检测，但相信以头条的技术能力，很快就能有新的突破。

　　当然，对于非字节跳动内容生态的创作者来说，灵犬自查一下也能有效避免踩“低俗的坑”，毕竟各大平台几乎都有低俗内容审核机制。

　　② 实现“反低俗内容”审查流程的前置

　　什么叫审查流程的前置呢?

　　简单来说，就是目前主流的内容审查流程是“事后整治”。

　　内容平台通过算法筛除低俗内容，并对账号进行限流、删禁等处罚。

　　但灵犬的推出，是在“事后整治”的基础上，又增加一个事前审查的流程。既帮助一些误加入低俗元素的创作者提前发现作品问题，也能减轻平台事后审查的工作量。

　　03

　　结语

　　当然，目前的灵犬小程序还是有很多不足的。

　　即便是准确率最高的文字审查，也只做到了 91% 的准确率，在互联网海量的数据下，被误判的绝对数量也是不少的。

　　但让我们欣慰的是，随着不断地优化，灵犬反低俗工具能检测的内容种类正越来越多，精确度也越来越高。

　　身为内容创作者，我们在创作内容的时候也可以多尝试下灵犬反低俗助手，对图、文、视频进行检测，以便文章获得更多的流量推荐，也能让我们拥有更好的创作、阅读环境。(点击下方小程序，即可使用)

　　你怎么看“灵犬反低俗助手”？

　　欢迎留言和我们分享

标签： 今日头条 灵犬反低俗助手