【安全加密】自定义表情的审核流水线：机审加人审

实战应用：用在哪里

自定义表情是玩家上传的图片内容，也是违规内容的高危入口：色情图、二维码广告、政治敏感图都可能伪装成表情。审核流水线用机审做初筛、人审做终审，双通道的流水线让表情的日均处理量撑起千人级的上传。

机审初筛

---表情上传的机审入口
function emojiMachineReview(imageUrl)
    local resp = httppost("http://audit.internal/image", "url=" .. imageUrl, "")
    local result = json2tbl(resp)
    if result.porn > 0.8 or result.qrcode > 0.9 then
        return "reject", result.tag
    elseif result.porn > 0.5 then
        return "human", result.tag
    end
    return "pass", result.tag
end

机审接口返回多维度评分：色情、二维码、政治类的置信度。高分直接拒绝，中间分数转人审，低分直接通过。机审的阈值按误放行的代价调整：二维码的放行代价最高（导流欺诈），阈值最严。

人审终审

---人审队列：抽检通过样本全覆盖中间样本
function emojiHumanQueue(imageId, tag)
    if tag == "pass" then
        Audit.sample(imageId, 0.05)
    else
        Audit.enqueue(imageId, 4)
    end
end

机审通过的表情按 5% 抽检进人审，抽检发现的漏网样本回灌机审的阈值训练。人审的工单带上下文：上传者的历史违规记录、表情的使用场景，审核员的信息越全判断越准。审核的时效承诺：表情上传后 2 小时内出结果，审核中的表情先在自己客户端可见（灰度），通过后全服生效。

验证与监控

机审与人审的一致率监控，机审的漏放率要求低于千分之三，超标即回调阈值并复检历史样本。

踩坑记录

机审接口的超时曾经阻塞上传流程 30 秒，超时降级为先入人审队列的兜底策略，上传的体验不再依赖外部服务的可用性。表情图片的隐写二维码逃过了首轮机审，二维码检测的模型升级加上了隐写识别的特征。

上线要点

审核的 SLA 对外公示：2 小时出结果，超时的表情自动通过但标记事后复审，复审驳回的追责到使用记录。表情的下架机制：已通过的表情被举报后可紧急下架，使用中的表情全网撤回。审核团队的工单界面带快捷驳回理由，驳回的理由同步给上传者，透明审核减少重复违规。

本文由 996 技术组基于 996 引擎官方知识库与浮生梦老师课程体系整理。团队长期从事传奇类引擎 Lua 后端逻辑、客户端界面与商业版本交付，内容以官方知识库与真实项目为出处，按版本持续修订。