Moderator.
NSFW-detektering på enheten som flaggar nakenhet före uppladdning, tränad enbart på licensierad och syntetisk data, trygg att lansera kommersiellt.
Flagga nakenhet före uppladdning eller visning.
Tveksamma uppladdningar når aldrig dina servrar, ditt CDN eller en moderators kö. Fem separata detektioner (exponerade bröstvårtor, könsorgan, skinkor, nakenhet och sexuell aktivitet) ligger till grund för poängen, och din policy avgör vilka av dem som räknas.
Varje bild Moderator tränats på är licensierad eller syntetisk, så den går in i en kommersiell produkt utan upphovsrättslig exponering. Hela modellen är under 8 MB, så kontrollen körs på telefonen innan uppladdningen startar.
Fångar 87,8% av NSFW-bilderna.
Fångar 87,8% av NSFW-bilderna och släpper igenom 93,7% av de säkra vid en felblockeringsgrad på 6,3%, ungefär hälften av NudeNets, från en modell på enheten under 8 MB.
Intern utvärdering på en egen avskild uppsättning, inte en publicerad benchmark. Siffrorna i rubriken gäller genomgången med 8 beskärningar, den du kör på en enskild bild; för video är en beskärning per bildruta billigare och mer precis per bildruta, och stickprov över bildrutor återställer recallen. MobileNetV4-backbone, 8,4M parametrar.
Filtrering före uppladdning
Granska en användares bild på telefonen innan den laddas upp. Inget tveksamt når dina servrar, och ingen i ditt team behöver titta på bilden för att ta reda på det.
En policy du styr själv
Policyn .standard räknar alla fem detektioner. .allowTopless lämnar exponerade bröstvårtor utanför poängen, för plattformar vars regler tillåter dem.
Varna vid väljaren, inte efter inlägget
Poängsätt en bild i samma stund en användare väljer den, och varna direkt. En borttagning en timme senare kostar dig en supporttråd.
Vad modellen gör
- Tränad enbart på syntetiska bilder och bilder med tillåtande licens, utan något skrapat från webben.
- Poängsätter nakenhet i vilken bild eller videobildruta som helst, på enheten, före uppladdning.
- Fem detektionshuvuden: exponerade bröstvårtor, könsorgan, skinkor, nakenhet och sexuell aktivitet.
- En policy avgör vad som räknas till NSFW-poängen, från
.standard(alla fem) till.allowTopless(utesluter exponerade bröstvårtor).
Specifikationer
- Träffsäkerhet
- Recall 87,8% och specificitet 93,7% vid tröskel 0,50
- Modell
- MobileNetV4-Conv-Medium @ 384
- Storlek på enheten
- 7 MB (6-bitars) till 18 MB (fp16)
- Plattformar
- iOS 17+, macOS 14+, tvOS 17+, visionOS 1+; fp32 ONNX för webbläsare eller server
Moderator är ett hjälpmedel vid moderering, inte ett rättsligt avgörande. Skicka varje flagga till en mänsklig granskare innan något blockeras.
Moderator täcker enbart vuxeninnehåll. Minderåriga ligger medvetet utanför omfånget och är uteslutna ur träningsdatan.
Vanliga frågor
Vad är Moderator?
NSFW-detektering på enheten som flaggar nakenhet före uppladdning, tränad enbart på licensierad och syntetisk data, trygg att lansera kommersiellt.
Körs Moderator lokalt på enheten?
Ja. Moderator körs på enheten, utan något serveranrop, så att data stannar hos användaren.
Är Moderator tillgänglig än?
Moderator är i stängd beta. Begär tidig åtkomst på den här sidan.
Vad kostar Moderator?
Varje modell är gratis upp till 100k månadsaktiva enheter per SDK. Obegränsad inferens per användare. Kontakta oss för anpassade licenser.
Hur träffsäker eller snabb är Moderator?
Fångar 87,8% av NSFW-bilderna och släpper igenom 93,7% av de säkra vid en felblockeringsgrad på 6,3%, ungefär hälften av NudeNets, från en modell på enheten under 8 MB.
Tidig åtkomst
Berätta vad du bygger, så hjälper vi dig igång.