Moderator.
オンデバイスの NSFW 検出。アップロード前にヌードを検知します。ライセンス済みデータと合成データのみで学習しており、商用でも安心して使えます。
アップロードや表示の前に、ヌードを検知。
問題のあるアップロードが、サーバーにも、CDN にも、モデレーターのキューにも届きません。スコアのもとになるのは 5 つの検出（乳首の露出、性器、臀部、ヌード、性的行為）で、そのうちどれを数えるかはポリシーが決めます。
Moderator が学習した画像はすべてライセンス済みか合成なので、著作権リスクなしに商用プロダクトへ組み込めます。モデル全体は 8MB 未満で、チェックはアップロードが始まる前にスマートフォン上で動きます。
NSFW 画像の 87.8% を捕捉。
NSFW 画像の 87.8% を捕捉し、安全な画像の 93.7% を通過させます。誤ブロック率は 6.3% で NudeNet のおよそ半分。すべて 8MB 未満のオンデバイスモデルによるものです。
独自のホールドアウトセットによる社内評価であり、公開ベンチマークではありません。見出しの数値は 8 クロップで通した場合のもので、1 枚の画像にはこれを使います。動画では 1 フレームにつき 1 クロップのほうが安価で、フレームあたりの精度も高く、フレームをサンプリングすれば再現率が戻ります。MobileNetV4 バックボーン、8.4M パラメータ。
アップロード前のフィルタリング
ユーザーの画像を、アップロード前にスマートフォン上で選別します。問題のあるものがサーバーに届くことはなく、それを確かめるためにチームの誰かが画像を見る必要もありません。
ポリシーは自分で決める
.standard ポリシーは 5 つの検出すべてを数えます。.allowTopless は、そのルールで許容されるプラットフォーム向けに、乳首の露出をスコアから除きます。
投稿後ではなく、選んだその場で警告する
ユーザーが画像を選んだ瞬間に採点し、その場で警告します。1 時間後の削除は、サポートのやり取りひとつぶんの代償になります。
モデルができること
- 寛容なライセンスの画像と合成画像のみで学習し、スクレイピングしたものは一切ありません。
- あらゆる画像や動画フレームのヌード度合いを、アップロード前にデバイス上で採点します。
- 5 つの検出ヘッド：乳首の露出、性器、臀部、ヌード、性的行為。
- NSFW スコアに何を含めるかはポリシーが決めます。
.standard（5 つすべて）から.allowTopless（乳首の露出を除外）まで選べます。
仕様
- 精度
- しきい値 0.50 で再現率 87.8%、特異度 93.7%
- モデル
- MobileNetV4-Conv-Medium @ 384
- オンデバイスサイズ
- 7MB（6-bit）〜18MB（fp16）
- プラットフォーム
- iOS 17+、macOS 14+、tvOS 17+、visionOS 1+。ブラウザやサーバー向けには fp32 ONNX
Moderator はモデレーションの補助であり、法的な判断ではありません。何かをブロックする前に、検出結果は必ず人のレビューに回してください。対象はアダルトコンテンツのみで、未成年は設計上対象外とし、学習データからも除外しています。
FAQ
Moderator とは？
オンデバイスの NSFW 検出。アップロード前にヌードを検知します。ライセンス済みデータと合成データのみで学習しており、商用でも安心して使えます。
Moderator はオンデバイスで動作しますか？
はい。Moderator はデバイス上で動作し、サーバーへの通信は発生しません。データはユーザーの手元に残ります。
Moderator はもう利用できますか？
Moderator はクローズドベータです。このページから早期アクセスをリクエストできます。
Moderator の料金はいくらですか？
すべてのモデルは、SDK ごとに月間アクティブデバイス 100k 台まで無料です。各ユーザーがモデルを実行する回数に制限はありません。 カスタムライセンスについては、お問い合わせください。
Moderator の精度や速度はどれくらいですか？
NSFW 画像の 87.8% を捕捉し、安全な画像の 93.7% を通過させます。誤ブロック率は 6.3% で NudeNet のおよそ半分。すべて 8MB 未満のオンデバイスモデルによるものです。
早期アクセス
開発中のプロダクトについてお聞かせください。セットアップをお手伝いします。