Desert Ant Labs

Moderator.

内容审核封闭测试

设备端 NSFW 检测,在上传前标记裸露内容。仅使用已授权和合成数据训练,可放心用于商业产品。

Moderator 目前处于封闭测试阶段。 模型卡与权重已公开。可申请抢先体验。

上传前标记裸露内容。

存疑的上传根本到不了你的服务器、你的 CDN,也进不了审核员的队列。分数由五项独立检测汇总而成(裸露乳头、生殖器、臀部、裸体和性行为),其中哪几项计入,由你的策略决定。

Moderator 训练用的每一张图都有授权或为合成,因此可以直接进入商业产品,没有版权风险。整个模型不到 8 MB,因此这项检查能在上传开始之前就在手机上完成。

识别 87.8% 的 NSFW 图片。

捕获 87.8%的 NSFW 图片,放行 93.7%的安全图片,误拦率仅 6.3%,约为 NudeNet 的一半,全部来自一个小于 8 MB 的设备端模型。

87.8%
召回率
捕获的 NSFW
93.7%
特异度
放行的 SFW
<8MB
设备端
6-bit Core ML
74%
每个视频帧
1 次裁剪,特异度 97%;抽帧取样可补回召回率

在一个专有留出集上进行的内部评估,而非公开基准。上面的数字来自 8 次裁剪的方案,单张图片应当用这一方案;视频则是每帧只裁一次更省、单帧也更精确,再靠跨帧取样把召回率补回来。MobileNetV4 骨干网络,8.4M 参数。

上传前过滤

在用户的图片上传之前就在手机上完成筛查,存疑内容到不了你的服务器,你团队里也没人需要为此亲眼去看那张图。

策略由你掌控

.standard 策略把五项检测全部计入。.allowTopless 则把裸露乳头排除在评分之外,适用于规则允许的平台。

在选择器就提醒,而不是发布之后

用户一选中图片就打分,并当场提醒。一小时后再去下架,代价是一条客服工单。

模型能做什么

  • 仅用宽松授权和合成图片训练,没有任何抓取来的数据。
  • 在设备上、上传之前,为任意图片或视频帧的裸露程度打分。
  • 五个检测头:裸露乳头、生殖器、臀部、裸体和性行为。
  • 由策略决定哪些计入 NSFW 评分,从 .standard(全部五项)到 .allowTopless(排除裸露乳头)。

规格

准确度
在阈值 0.50 下,召回率 87.8%,特异度 93.7%
模型
MobileNetV4-Conv-Medium @ 384
设备端体积
7 MB(6-bit)到 18 MB(fp16)
平台
iOS 17+、macOS 14+、tvOS 17+、visionOS 1+;浏览器或服务器为 fp32 ONNX

Moderator 是内容审核的辅助工具,而不是法律判定。在拦下任何内容之前,请把每一次标记都交给人工复核。Moderator 只覆盖成人内容;未成年人在设计上就不在范围之内,也已从训练集中排除。

常见问题

Moderator 是什么?

设备端 NSFW 检测,在上传前标记裸露内容。仅使用已授权和合成数据训练,可放心用于商业产品。

Moderator 在设备上运行吗?

是的。Moderator 在设备上运行,不调用任何服务器,因此数据始终留在用户手中。

Moderator 现在可用了吗?

Moderator 目前处于封闭测试阶段。可在本页申请抢先体验。

Moderator 的价格是多少?

每个模型的每个 SDK 均可免费支持最多 10 万台月活跃设备。每位用户调用模型的次数不设上限。 如需定制授权,请联系我们

Moderator 的准确度和速度如何?

捕获 87.8%的 NSFW 图片,放行 93.7%的安全图片,误拦率仅 6.3%,约为 NudeNet 的一半,全部来自一个小于 8 MB 的设备端模型。

抢先体验

告诉我们你正在开发什么,我们会帮你把一切准备就绪。