Moderator.
Détection NSFW sur l'appareil qui signale la nudité avant l'envoi, entraînée sur des données sous licence et synthétiques, sûre pour un usage commercial.
Signalez la nudité avant l'envoi ou l'affichage.
Les envois douteux n'arrivent jamais jusqu'à vos serveurs, votre CDN ou la file d'un modérateur. Cinq détections distinctes (mamelons exposés, parties génitales, fesses, nudité et activité sexuelle) alimentent le score, et c'est votre politique qui décide lesquelles comptent.
Chaque image sur laquelle Moderator s'est entraîné est sous licence ou synthétique : il entre donc dans un produit commercial sans risque de droits d'auteur. Le modèle entier fait moins de 8 MB, si bien que le contrôle tourne sur le téléphone avant même le début de l'envoi.
Capture 87,8 % des images NSFW.
Détecte 87,8 % des images NSFW et laisse passer 93,7 % des images sûres, avec un taux de faux blocages de 6,3 %, environ la moitié de celui de NudeNet, depuis un modèle sur l'appareil de moins de 8 MB.
Évaluation interne sur un jeu réservé propriétaire, pas un benchmark publié. Les chiffres mis en avant correspondent à la passe à 8 recadrages, celle à lancer sur une image isolée ; en vidéo, un recadrage par image coûte moins cher et reste plus précis image par image, et l'échantillonnage sur plusieurs images rattrape le rappel. Backbone MobileNetV4, 8,4 M de paramètres.
Filtrage avant envoi
Filtrez l'image d'un utilisateur sur le téléphone avant qu'elle ne parte. Rien de douteux n'atteint vos serveurs, et personne dans votre équipe n'a à regarder l'image pour le savoir.
Une politique que vous maîtrisez
La politique .standard compte les cinq détections. .allowTopless exclut du score les mamelons exposés, pour les plateformes dont les règles les autorisent.
Avertir au sélecteur, pas après la publication
Notez une image dès qu'un utilisateur la choisit, et avertissez-le sur-le-champ. Un retrait une heure plus tard vous coûte un fil de support.
Ce que fait le modèle
- Entraîné uniquement sur des images sous licence permissive et synthétiques, sans rien de récupéré par scraping.
- Attribue un score de nudité à n'importe quelle image, fixe ou tirée d'une vidéo, sur l'appareil, avant l'envoi.
- Cinq têtes de détection : mamelons exposés, parties génitales, fesses, nudité et activité sexuelle.
- Une politique décide de ce qui compte dans le score NSFW, de
.standard(les cinq) à.allowTopless(exclut les mamelons exposés).
Spécifications
- Exactitude
- Rappel 87,8 %, spécificité 93,7 % au seuil 0,50
- Modèle
- MobileNetV4-Conv-Medium @ 384
- Taille sur l'appareil
- 7 MB (6 bits) à 18 MB (fp16)
- Plateformes
- iOS 17+, macOS 14+, tvOS 17+, visionOS 1+ ; ONNX fp32 pour le navigateur ou le serveur
Moderator est une aide à la modération, pas une décision juridique. Envoyez chaque signalement à un modérateur humain avant de bloquer quoi que ce soit.
Moderator couvre uniquement le contenu adulte. Les mineurs sont hors périmètre par conception et exclus du jeu d'entraînement.
FAQ
Qu'est-ce que Moderator ?
Détection NSFW sur l'appareil qui signale la nudité avant l'envoi, entraînée sur des données sous licence et synthétiques, sûre pour un usage commercial.
Moderator fonctionne-t-il sur l'appareil ?
Oui. Moderator s'exécute sur l'appareil, sans appel serveur : les données restent chez l'utilisateur.
Moderator est-il déjà disponible ?
Moderator est en bêta fermée. Demandez un accès anticipé sur cette page.
Combien coûte Moderator ?
Chaque modèle est gratuit jusqu'à 100k appareils actifs mensuels par SDK. Inférence illimitée par utilisateur. Contactez-nous pour des licences sur mesure.
Quelle est la précision ou la vitesse de Moderator ?
Détecte 87,8 % des images NSFW et laisse passer 93,7 % des images sûres, avec un taux de faux blocages de 6,3 %, environ la moitié de celui de NudeNet, depuis un modèle sur l'appareil de moins de 8 MB.
Accès anticipé
Dites-nous ce que vous construisez et nous vous aidons à démarrer.