Moderator.
Rilevamento NSFW on-device che segnala la nudità prima del caricamento, addestrato solo su dati con licenza e sintetici, sicuro da distribuire commercialmente.
Segnala la nudità prima del caricamento o della visualizzazione.
I caricamenti dubbi non arrivano mai ai tuoi server, alla tua CDN o alla coda di un moderatore. Il punteggio nasce da cinque rilevamenti distinti (capezzoli scoperti, genitali, glutei, nudità e attività sessuale), e quali contano lo decide la tua policy.
Ogni immagine su cui Moderator è stato addestrato è con licenza o sintetica, quindi entra in un prodotto commerciale senza esposizione sul copyright. L'intero modello è sotto gli 8 MB, così il controllo gira sul telefono prima che il caricamento inizi.
Coglie l'87,8% delle immagini NSFW.
Individua l'87,8% delle immagini NSFW e lascia passare il 93,7% di quelle sicure con un tasso di falsi blocchi del 6,3%, circa la metà di NudeNet, da un modello on-device sotto gli 8 MB.
Valutazione interna su un set riservato proprietario, non un benchmark pubblicato. I numeri in evidenza si riferiscono al passaggio a 8 ritagli, quello da usare su una singola immagine; per i video, un ritaglio per fotogramma costa meno ed è più preciso sul singolo fotogramma, e il campionamento tra i fotogrammi recupera il recall. Backbone MobileNetV4, 8,4M di parametri.
Filtro prima del caricamento
Controlla l'immagine di un utente sul telefono prima che venga caricata. Niente di dubbio arriva ai tuoi server, e nessuno del tuo team deve guardare l'immagine per scoprirlo.
Una policy che decidi tu
La policy .standard conta tutti e cinque i rilevamenti. .allowTopless tiene i capezzoli scoperti fuori dal punteggio, per le piattaforme le cui regole li consentono.
Avvisa al selettore, non dopo il post
Valuta un'immagine nel momento in cui un utente la sceglie, e avvisalo sul posto. Una rimozione un'ora dopo ti costa un thread di assistenza.
Cosa fa il modello
- Addestrato solo su immagini con licenza permissiva e sintetiche, senza nulla raccolto dal web.
- Assegna a qualsiasi immagine o fotogramma video un punteggio di nudità sul dispositivo, prima del caricamento.
- Cinque teste di rilevamento: capezzoli scoperti, genitali, glutei, nudità e attività sessuale.
- Una policy decide cosa contribuisce al punteggio NSFW, da
.standard(tutti e cinque) a.allowTopless(esclude i capezzoli scoperti).
Specifiche
- Accuratezza
- Recall 87,8%, specificità 93,7% a soglia 0,50
- Modello
- MobileNetV4-Conv-Medium @ 384
- Dimensione sul dispositivo
- da 7 MB (6 bit) a 18 MB (fp16)
- Piattaforme
- iOS 17+, macOS 14+, tvOS 17+, visionOS 1+; ONNX fp32 per browser o server
Moderator è un ausilio alla moderazione, non una determinazione legale. Manda ogni segnalazione a un revisore umano prima di bloccare qualcosa.
Moderator copre solo i contenuti per adulti. I minori sono fuori ambito per scelta progettuale ed esclusi dal set di addestramento.
FAQ
Cos'è Moderator?
Rilevamento NSFW on-device che segnala la nudità prima del caricamento, addestrato solo su dati con licenza e sintetici, sicuro da distribuire commercialmente.
Moderator funziona sul dispositivo?
Sì. Moderator funziona sul dispositivo, senza chiamate a un server, quindi i dati restano con l'utente.
Moderator è già disponibile?
Moderator è in beta chiusa. Richiedi l'accesso anticipato in questa pagina.
Quanto costa Moderator?
Ogni modello è gratuito fino a 100k dispositivi attivi mensili per SDK. Inferenza illimitata per utente. Contattaci per licenze personalizzate.
Quanto è preciso o veloce Moderator?
Individua l'87,8% delle immagini NSFW e lascia passare il 93,7% di quelle sicure con un tasso di falsi blocchi del 6,3%, circa la metà di NudeNet, da un modello on-device sotto gli 8 MB.
Accesso anticipato
Raccontaci cosa stai costruendo e ti aiutiamo a iniziare.