网易易盾护航在线阅读，扫除小说中的“不定时炸弹”( 二 ) -案例概括-在线阅读是一座随身

为此，其在业务上亟需一个专业、可靠、值得信赖的数字内容风控商，希望为平台上的完结本带来更有效的审核，快速找出百万字文本中的安全隐患，确保小说对用户无害。
- 解决方案 -
直击痛点，长文本安全一步到位
为了消除后顾之忧，该运营商选择与易盾合作，建立基于“AI+人工”的数字阅读解决方案，对连载、完结小说进行多维度审核。

文章图片

文章图片
01 适应长篇文字的机器审核
易盾采用NLP算法有效理解小说的语义，结合专家策略解读、智能审核平台及人工审核，在机器和人工的配合下，一本长达几十万字的完结小说只需要2-3天即可审核完成。从技术角度来看，易盾在长文本审核上做到了哪些节点上的升级呢？
一书一审更连贯：客户的不少小说正处在连载中，尤其在章节顺序上，怎样保障前后章节的审核标准共享、审核逻辑统一、审核人员不变，面临了巨大的挑战。

文章图片

文章图片
基于智能审核SaaS平台，易盾引入多元ID跟踪体系，为书籍、主题、章节、审核员打造唯一ID标签。同本书各个章节的ID序号就摆在那里，主题和前后顺序一目了然。
ID体系，按章节排序发给审核员，在分配上保持前后章节的一致性，宛如一跟无形的绳索，帮助连载内容在数周、数月后，找到最初的审核大本营。
长文本审核技术：小说的篇幅长，真正的违规内容往往只占若干个零散的片段，分散地隐藏在整篇小说中，并受小说体裁的写作风格影响，给机器审核带来挑战。
客户发现，普通“文本审核”模型，对语意把握不足，导致误判率高，有害信息检出率偏低。这是由于普通模型，通常基于短篇的常规文本数据集进行学习，无法直接处理小说、电子书、漫画等长篇文本。
易盾自研了“长文本审核”技术，使用轻量级的语义检测模型，以长篇小说作为训练数据，以各个章节为单位，进行先分句再合并，实现长短文本系统的通学通用，提升了机器审核对小说的语意理解能力，识别效果更精准。
02 贴近业务的人审服务

文章图片

文章图片
分级监控色情：色情是小说中最常见、最严重的问题之一。客户希望将色情问题分为轻度、中度、重度3个不同等级，分级治理。为此，易盾总结常见色情场景，定制了不同梯度的色情策略，与该运营商定期组织业务复盘，完善各级色情的规则与标准。
方便审核处置：有了易盾的一臂之力，该运营商更便利地实施平台规则。一是，将不通过内容进行内容标记，便于在后续针对不通过内容可进行二次修改。二是，一旦同一本书的章节违规率超过30% ，该运营商可选择直接打回给创作者，极大提高不良内容处置效率。
03 基于SaaS的完整审核流程
智能审核平台，由易盾自主研发，致力于打造一站式审核服务，通过多轮审核、走查、质检、电视墙等功能，支持极速分类审核、多人同审、关联审核、聚类审核模式，极大地减少客户的开发成本，降低了数字内容风控的使用门槛。统一管控、全程溯源、实时审查，轻松掌控潜伏于生态中的内容风险，极大提升人工审核效率。