Moderator
Rilevamento NSFW on-device che segnala la nudità prima del caricamento, addestrato solo su dati con licenza e sintetici, sicuro da distribuire commercialmente.
Segnala la nudità prima del caricamento o della visualizzazione.
I caricamenti dubbi non arrivano mai ai tuoi server, alla tua CDN o alla coda di un moderatore. Il punteggio nasce da cinque rilevamenti distinti (capezzoli scoperti, genitali, glutei, nudità e attività sessuale), e quali contano lo decide la tua policy.
Ogni immagine su cui Moderator è stato addestrato è con licenza o sintetica, quindi entra in un prodotto commerciale senza esposizione sul copyright. L'intero modello è sotto gli 8 MB, così il controllo gira sul telefono prima che il caricamento inizi.
Coglie l'87,8% delle immagini NSFW.
Individua l'87,8% delle immagini NSFW e lascia passare il 93,7% di quelle sicure con un tasso di falsi blocchi del 6,3%, circa la metà di NudeNet, da un modello on-device sotto gli 8 MB.
Valutazione interna su un set riservato proprietario, non un benchmark pubblicato. I numeri in evidenza si riferiscono al passaggio a 8 ritagli, quello da usare su una singola immagine; per i video, un ritaglio per fotogramma costa meno ed è più preciso sul singolo fotogramma, e il campionamento tra i fotogrammi recupera il recall. Backbone MobileNetV4, 8,4M di parametri.
Casi d'uso
Segnala la nudità prima del caricamento o della visualizzazione.
Filtro prima del caricamento
Controlla l'immagine di un utente sul telefono prima che venga caricata. Niente di dubbio arriva ai tuoi server, e nessuno del tuo team deve guardare l'immagine per scoprirlo.
Una policy che decidi tu
La policy .standard conta tutti e cinque i rilevamenti. .allowTopless tiene i capezzoli scoperti fuori dal punteggio, per le piattaforme le cui regole li consentono.
Avvisa al selettore, non dopo il post
Valuta un'immagine nel momento in cui un utente la sceglie, e avvisalo sul posto. Una rimozione un'ora dopo ti costa un thread di assistenza.
Cosa fa il modello
- Addestrato solo su immagini con licenza permissiva e sintetiche, senza nulla raccolto dal web.
- Assegna a qualsiasi immagine o fotogramma video un punteggio di nudità sul dispositivo, prima del caricamento.
- Cinque teste di rilevamento: capezzoli scoperti, genitali, glutei, nudità e attività sessuale.
- Una policy decide cosa contribuisce al punteggio NSFW, da
.standard(tutti e cinque) a.allowTopless(esclude i capezzoli scoperti).
Specifiche
- Accuratezza
- Recall 87,8%, specificità 93,7% a soglia 0,50
- Modello
- MobileNetV4-Conv-Medium @ 384
- Dimensione sul dispositivo
- da 7 MB (6 bit) a 18 MB (fp16)
- Piattaforme
- iOS 17+, macOS 14+, tvOS 17+, visionOS 1+; ONNX fp32 per browser o server
Moderator è un ausilio alla moderazione, non una determinazione legale. Manda ogni segnalazione a un revisore umano prima di bloccare qualcosa.
Moderator copre solo i contenuti per adulti. I minori sono fuori ambito per scelta progettuale ed esclusi dal set di addestramento.
FAQ
Cos'è Moderator?
Rilevamento NSFW on-device che segnala la nudità prima del caricamento, addestrato solo su dati con licenza e sintetici, sicuro da distribuire commercialmente.
Moderator funziona sul dispositivo?
Sì. Moderator funziona sul dispositivo, senza chiamate a un server, quindi i dati restano con l'utente.
Moderator è già disponibile?
Moderator è in beta chiusa. Richiedi l'accesso anticipato in questa pagina.
Quanto costa Moderator?
Ogni modello è gratuito fino a 100k dispositivi attivi mensili per SDK. Inferenza illimitata per utente. Contattaci per licenze personalizzate.
Quanto è preciso o veloce Moderator?
Individua l'87,8% delle immagini NSFW e lascia passare il 93,7% di quelle sicure con un tasso di falsi blocchi del 6,3%, circa la metà di NudeNet, da un modello on-device sotto gli 8 MB.
Accesso anticipato
Raccontaci cosa stai costruendo e ti aiutiamo a iniziare.