今日头条全面升级“灵犬”反低俗，打击低俗低质内容
中国最大的信息聚合平台之一，今日头条，在2月20日宣布了“灵犬”全面升级的消息。新版“灵犬”将使用反暴力谩骂和反标题党能力，不仅是反色情低俗。据了解，“灵犬”是今日头条反低俗算法模型的一部分，用于鉴定低俗信息。用户可以将要检测的文字或文章链接放置到搜索框内，以查询该条信息的健康程度。该技术模型不仅可以为普通网民所用以净化网络空间，同时也有助于平台内容创作者的内容改进。不同于一般平台对低俗低质内容通常采取人工投诉、事后删除的办法，“灵犬”作为技术手段，能够有效帮助平台将内容质量检测的机制前置，帮助创作者自查内容是否触发色情低俗、暴力谩骂和标题党等因素。在文字检测方面，“灵犬”团队规定，用户输入的字数必须超过10个字才能进行检测，这是因为用户给的上下文、语境等信息越充分，机器判断的准确度就会越高。
这款小程序是一个内容审核系统，集纳了被评定为色情低俗内容的所有关键词。一旦内容触碰到这些关键词，该内容将会被提取、分词和语义识别，然后根据设定的规则，输出对应的分数、评级和结论。在我国，传播淫秽色情内容会被依法处置，而虚假宣传、谣言等也会被进行处罚。处理低俗信息的难点在于，人们对于低俗的判断标准具有一定的主观性。为了解决这个问题，今日头条把低俗的标准分为两个层次，即几乎所有人看来都会一致同意的标准底线和因人而异的主观判断。今日头条方面称，“灵犬”新版本发布的背后，伴随着“灵犬”打击低俗低质能力的提升。反色情低俗、反暴力谩骂模型的整体识别准确率约为85%，反标题党模型识别准确率约为90%。这些技术模型每天都在持续优化迭代。
近年来，国内外都在加强对互联网文化内容的治理，包括互联网新闻信息、互联网音频、网络直播等领域，成为监管部门的重点关注目标。为规范行业行为，监管部门出台了不少的监管政策。去年10月，国家网信办会同有关部门，针对自媒体账号存在的一系列乱象问题，开展了集中清理整治专项行动，处置了9800多个自媒体账号。在此次网信办的通报中，指出自媒体账号存在以下五个主要问题：传播政治有害信息，制造谣言，传播低俗色情信息，利用自媒体账号恶意营销，抄袭侵权等。国家网信办依据《网络安全法》相继出台《互联网新闻信息服务管理规定》《互联网用户公众账号信息服务管理规定》等法规性文件，对具有媒体属性和可对公众发布信息的账号及平台作了明确规定。自媒体管理已经纳入法治化、规范化、制度化轨道。头条、微博等自媒体平台因主体责任缺失，疏于管理，放任野蛮生长，也被约谈，提出严重警告。治理低俗低质内容不仅仅是一个平台的事情，而是整个行业的事情。在全球范围内，Facebook也因低俗低质内容而动刀删除账号和页面，Twitter也对敏感内容进行标识。国外社交媒体对低俗低质内容的整治也在不断加强。
在鼓励优质内容、打击低质内容已经成为全球内容平台的共同议题时，今日头条将开放技术模型，和行业一起提高平台生态标准。开放给社会公众，也是希望能通过开放平台技术，促进全行业发展。在2018年11月，今日头条CEO陈林在生机大会上表示：“这种方法在未来肯定会大行其道”，而“灵犬”此次全面升级，无疑验证了这一点。
据了解，今日头条在平台内容治理方面采用了数百个技术模型，以及投入上万人的专业审核编辑团队，通过人工和技术手段保障平台内容的健康。同时，互联网企业需要善用新技术，如大数据和人工智能等，不断提升低俗内容的识别效率，更新内容判定标准，并升级群发检测算法。只有通过技术手段的不断完善，才能让违规内容难以钻空子，同时更好地保护原创内容的版权，防范低俗账号的违规行为。这个建议正在被像今日头条这样的互联网公司实践。王新一认为，这些公司需要同时促进平台产生更多优质信息，尽量减少低俗低质内容的出现。企业主动利用技术手段来做好内容审核工作是一个不错的方法。其他互联网公司也在利用大数据技术做安全审查工作，比如滴滴用技术防御乘客可能遇到的乘车危险。知乎也推出了机器人瓦力，用于识别并处理不友善、辱骂、阴阳怪气、答非所问、色情内容等用户爆照。这种趋势在近两年逐渐明显了起来，越来越多的企业主动或被动去探讨更灵活、更及时、更有效的技术模型，以降低人工成本。王四新预测，这种方法在未来肯定会大行其道，对行业和社会来说是个好事。
免责声明：本内容来源于第三方作者授权、网友推荐或互联网整理，旨在为广大用户提供学习与参考之用。所有文本和图片版权归原创网站或作者本人所有，其观点并不代表本站立场。如有任何版权侵犯或转载不当之情况，请您通过400-62-96871或关注我们的公众号与我们取得联系，我们将尽快进行相关处理与修改。感谢您的理解与支持！
请先 登录后发表评论 ~