Moderator.
Deteção NSFW no dispositivo que assinala nudez antes do envio. Treinada só com dados licenciados e sintéticos, segura para comercializar.
Sinalize nudez antes do carregamento ou da exibição.
Os carregamentos duvidosos nunca chegam aos seus servidores, à sua CDN nem à fila de um moderador. Cinco deteções separadas (mamilos expostos, genitais, nádegas, nudez e atividade sexual) alimentam a pontuação, e a sua política decide quais delas contam.
Toda imagem em que o Moderator foi treinado é licenciada ou sintética, então ele entra num produto comercial sem exposição a direitos autorais. O modelo inteiro tem menos de 8 MB, então a verificação corre no telemóvel antes de o carregamento começar.
Captura 87,8% das imagens NSFW.
Deteta 87,8% das imagens NSFW e aprova 93,7% das seguras, com uma taxa de bloqueio indevido de 6,3%, cerca de metade da do NudeNet, a partir de um modelo no dispositivo com menos de 8 MB.
Avaliação interna num conjunto reservado proprietário, não um benchmark publicado. Os números em destaque são os da passagem de 8 recortes, que é a indicada para uma imagem única; em vídeo, um recorte por fotograma sai mais barato e é mais preciso por fotograma, e amostrar ao longo dos fotogramas recupera o recall. Backbone MobileNetV4, 8,4M de parâmetros.
Filtragem antes do carregamento
Analise a imagem de um utilizador no telemóvel antes de ela subir. Nada duvidoso chega aos seus servidores, e ninguém da sua equipa precisa olhar a imagem para descobrir.
Uma política sob o seu controlo
A política .standard conta as cinco deteções. A .allowTopless deixa mamilos expostos fora da pontuação, para plataformas cujas regras os permitem.
Avise no seletor, não depois do post
Pontue uma imagem no momento em que o utilizador a escolhe e avise ali mesmo. Uma remoção uma hora depois custa uma conversa de suporte.
O que o modelo faz
- Treinado apenas com imagens de licença permissiva e sintéticas, sem nada recolhido da web.
- Pontua qualquer imagem ou fotograma de vídeo quanto a nudez no dispositivo, antes do carregamento.
- Cinco cabeças de deteção: mamilos expostos, genitais, nádegas, nudez e atividade sexual.
- Uma política decide o que conta para a pontuação NSFW, de
.standard(as cinco) a.allowTopless(exclui mamilos expostos).
Especificações
- Exatidão
- Recall 87,8%, especificidade 93,7% no limiar 0,50
- Modelo
- MobileNetV4-Conv-Medium @ 384
- Tamanho no dispositivo
- 7 MB (6 bits) a 18 MB (fp16)
- Plataformas
- iOS 17+, macOS 14+, tvOS 17+, visionOS 1+; ONNX fp32 para navegador ou servidor
O Moderator é um apoio à moderação, não uma determinação legal. Encaminhe cada sinalização para um revisor humano antes de bloquear seja o que for.
O Moderator cobre apenas conteúdo adulto. Os menores estão fora do âmbito por decisão de projeto e são excluídos do conjunto de treino.
FAQ
O que é o Moderator?
Deteção NSFW no dispositivo que assinala nudez antes do envio. Treinada só com dados licenciados e sintéticos, segura para comercializar.
O Moderator é executado no dispositivo?
Sim. O Moderator é executado no dispositivo, sem qualquer chamada a servidores, por isso os dados ficam com o utilizador.
O Moderator já está disponível?
O Moderator está em beta fechada. Peça acesso antecipado nesta página.
Quanto custa o Moderator?
Cada modelo é gratuito para até 100 mil dispositivos ativos mensais por SDK. Inferência ilimitada por utilizador. Contacte-nos para licenças personalizadas.
Qual é a precisão ou a rapidez do Moderator?
Deteta 87,8% das imagens NSFW e aprova 93,7% das seguras, com uma taxa de bloqueio indevido de 6,3%, cerca de metade da do NudeNet, a partir de um modelo no dispositivo com menos de 8 MB.
Acesso antecipado
Diga-nos o que está a construir e ajudamo-lo a começar.