Skip to main content
Version: v3

文本检测功能介绍

服务简介​

产品概述​

文本检测为昵称、聊天、个性签名等场景，提供实时、智能、个性化的风险文本检测服务。 基于 AI 及多重识别策略，及时、准确、高效地抵御政治、暴恐、色情、辱骂等违规内容风险。

应用场景​

  • 用户资料检测：昵称、公会名、简介、个性签名等。
  • 即时交流检测：聊天室、IM 消息等。
  • 非即时交流检测：帖子、弹幕、评论、动态等。

服务能力​

  • 识别检测：识别政治、色情、暴恐、辱骂、违禁品、犯罪、邪教等敏感违规文本。
  • 控制台：自定义词库、场景识别策略控制、检测记录查询、在线实时检测等。控制台详细介绍参考 控制台操作
  • 词库维护：专业运营持续更新默认词库，紧跟政策要求。

接入方式​

提供便捷灵活的 API 接入方式，详细 API 参考 开发指南

开启文本检测服务​

  1. 开通：点击开发者中心右上角「工单」按钮，「创建问题」时分类选择「游戏服务」-「文本检测」-「开通申请」，填写联系方式，简要描述使用场景。提交后将有专人提供服务开通咨询。
  2. 获取开通资格后，使用管理员账号进入开发者中心对应的游戏。
  3. 点击顶部「游戏服务」菜单。
  4. 若此前未开启游戏服务功能，需先开启。
  5. 找到文本检测服务，点击「开启」，完成服务开启。

后续使用时，通过开发者中心游戏项目内路径：游戏服务 > 云服务 > 文本检测，即可访问服务控制台。

控制台操作​

接下来先介绍文本检测控制台中的核心概念，将有助于你理解控制台的日常配置和使用。

概念定义​

「场景」​

在文本检测中，「场景」是面向业务、模块的，聚合多种检测策略的核心对象。

可以简单理解为文本经过「场景」完成检测，输出检测结果。

业务上，往往一个「场景」对应一类业务场景，比如聊天场景、昵称场景等。相似的业务场景可共用一个「场景」，比如聊天、留言、弹幕、评论等，都可以使用默认提供的「聊天检测」场景。

详细说明请见下文 场景配置

「词库」​

「词库」用于放置需要屏蔽、放通的黑、白名单关键词，「场景」中与词相关的检测逻辑依赖于词库。

「词库」分为默认词库和自定义词库：

  • 默认词库：由专业运营人员持续维护，紧跟最新网络安全要求。

  • 自定义词库：由游戏运营者自定义

详细说明请见下文 自定义词库配置

控制台概览​

在文本检测控制台，可修改检测配置、查看检测统计数据、查询检测记录等。

文本检测控制台顶部功能菜单：

  • 「统计」页：用于查看检测统计数据。
  • 「检测记录」页：用于查询近期检测记录。
  • 「在线检测」页：用于在线输入文本，检测是否违规。
  • 「场景」页：用于配置检测策略，获取场景 ID 用于 API 调用。
  • 「自定义词库」页：用于配置自定义黑、白名单词。

控制台 - 统计​

在该页可查看近期检测核心数据指标。

通过选择场景、日期查询，可查看对应条件下的图表。

  • 「整体检测统计」图表：其中柱表示通过率，折线分别表示检测数、通过数、不通过数。
  • 「不通过识别类型分布统计」图表：其中折线表示各识别类型数量。

控制台 - 检测记录​

在该页可查询近期每一条检测记录详情，包括检测文本、检测结果、识别类型、时间等。

  • 你可以通过多维度的筛选条件，定向查询需要的记录。
  • 将鼠标移至文本上，会显示完整文本气泡，若检测为不通过，则气泡中将以红字显示可能违规的词句。

控制台 - 在线检测​

在该页可在线输入文本，使用所选的场景进行检测，并实时输出检测结果。

  • 在线检测经常用于调整了场景配置后，快速测试场景效果，以及游戏运营公告等官方文本的自检。
  • 在线检测的文本，在记录中将默认带上 admin_000000 的用户标识，你可通过此项来区分记录中哪些是在线检测生成的记录。

控制台 - 场景配置​

在该页可对场景进行策略配置，包括启用的识别类型、使用的词库。此处可获取场景 ID ，用于 API 请求时指定场景进行检测，场景参数详见 开发指南

1. 场景介绍​

开启服务即默认提供两个场景：

  • 「昵称用户资料」场景：推荐用于用户昵称、个性签名、队伍名、公会名、公会宣言等命名、代表角色或团体的文本场景。
  • 「聊天检测」场景：推荐用于用户聊天、留言、评论、邮件、弹幕等广泛的 UGC 文本场景。

由于「聊天检测」场景具备极强的泛用性，大部分情况下，昵称用户资料之外的文本都可以使用「聊天检测」场景进行检测。

2. 修改启用识别类型​

在修改弹窗中，勾选某识别类型，意为将该类敏感词纳入检测范围。若不勾选，则文本中即使出现该类敏感词，也不会识别。

启用所有识别类型，此配置方式几乎适用所有游戏。

3. 修改使用词库​

  • 在修改弹窗中，左侧陈列所有可供使用的词库，其中包含系统提供的默认词库，和自定义词库，勾选即可使用该词库。
  • 弹窗右侧陈列所有已使用的词库，可拖拽修改词库排序。词库排序决定优先级，越前者优先级越高。
  • 优先级决定了：当多个词库中有同一个词时，以优先级高的词库中的词类型为准。

一般将自定义词库优先级配置为高于默认词库

控制台 - 自定义词库配置​

在该页可管理自定义词库。自定义词库在被场景使用后，即可在该场景中发挥作用，识别词库中的词。

1. 管理自定义词库​

目前最大支持同时存在 5 个自定义词库，可以根据运营需要维护多个词库供场景使用。

2. 管理词库中的词​

在增删词弹窗中，可新增词、删除词、修改词的识别类型。

  • 词的识别类型与「场景」配置中的启用识别类型对应，若「场景」不勾选某识别类型，则即使在词库中添加了该类型的词，检测时也不会识别。
  • 新增的词若已存在，同样会新增成功，并替换该词的原识别类型。
  • 当词的识别类型为「健康」时，类似白名单，意为该词无条件通过，请谨慎使用。

注意：「健康」词仅对完整包含其的文本部分起放通作用。

举例：假设有敏感词「武器」「抢夺」，在词库中添加健康词「掉落武器」，则：

  • 句子「怪掉落武器」检测通过；
  • 句子「落武器」检测不通过（因为包含敏感词「武器」，且不完整匹配健康词「掉落武器」）；
  • 句子「抢夺掉落武器」检测不通过（「掉落武器」部分被放通，但「抢夺」为敏感词，因此整句不通过）。

健康词不区分大小写、简繁体，添加时使用小写字母、简体中文即可，对应的大写字母和繁体中文也将被放通。

caution

为保证「健康」词在场景中生效，请确保包含「健康」词的词库，在场景的使用词库配置中，排序优先于系统默认词库。

控制台建议配置方案​

以下配置方案适用于绝大部分游戏，建议初始遵循此配置。后续有精细化运营需要，并充分熟悉系统后，可再逐步调整。

词库配置​

通用、常见、关键的屏蔽词已包含在默认词库中，一般无需在自定义词库中维护大量屏蔽词，建议根据实际使用效果，有选择的添加自定义屏蔽词。

1. 新建词库「白名单」​

所有希望放通的词，均添加至该词库。加词时注意识别类型选择「健康」。

2. 新建词库「通用屏蔽词」​

所有希望额外屏蔽的词，均添加至该词库。加词时根据该词的期望分类选择对应识别类型，合理的识别类型将有助于后续运营管理和追踪数据。

caution

新建词库后，需要在对应场景的「使用词库」勾选才能生效。

场景配置​

1. 配置「昵称用户资料检测」场景​

  1. 「启用识别类型」保持默认全选。
  2. 「使用词库」弹窗左侧，保持两个「默认」词库的勾选，并勾选自定义词库「白名单」「通用屏蔽词」。
  3. 「使用词库」弹窗右侧，将使用词库的排序调整为：白名单 > 通用屏蔽词 > 「默认」昵称词库 > 「默认」基础通用词库。
  4. 提交修改，完成设置。

2. 配置「聊天检测」场景​

  1. 「启用识别类型」保持默认全选。
  2. 「使用词库」弹窗左侧，保持两个「默认」词库的勾选，并勾选自定义词库「白名单」「通用屏蔽词」。
  3. 「使用词库」弹窗右侧，将使用词库的排序调整为：白名单 > 通用屏蔽词 > 「默认」聊天词库 > 「默认」基础通用词库。
  4. 提交修改，完成设置。

场景参数选择​

  • 昵称、个性签名、队伍名、公会名、公会宣言等命名模块，调用服务时，使用「昵称用户资料检测」的场景 ID 作为参数。

  • 以上模块之外的 UGC 文本模块，调用服务时，使用「聊天检测」的场景 ID 作为参数。

详细 API 使用见 开发指南