Moderator.
온디바이스 NSFW 감지. 업로드 전에 노출을 표시합니다. 라이선스 데이터와 합성 데이터로만 학습해, 상업적으로 안전하게 출시할 수 있습니다.
업로드나 표시 전에 노출을 잡아냅니다.
문제 소지가 있는 업로드가 서버에도, CDN에도, 모더레이터의 대기열에도 닿지 않습니다. 점수에는 다섯 가지 탐지 결과, 즉 노출된 유두, 성기, 둔부, 나체, 성행위가 반영되며, 그중 무엇을 셈에 넣을지는 정책이 정합니다.
Moderator가 학습한 모든 이미지는 라이선스가 확보되었거나 합성된 것이므로, 저작권 부담 없이 상업용 제품에 들어갑니다. 모델 전체가 8MB 미만이라, 업로드가 시작되기 전에 휴대폰에서 검사가 돌아갑니다.
NSFW 이미지의 87.8%를 잡아냅니다.
8MB 미만의 온디바이스 모델로 NSFW 이미지의 87.8%를 잡아내고 안전한 이미지의 93.7%를 통과시키며, 오차단율은 6.3%로 NudeNet의 약 절반입니다.
공개 벤치마크가 아니라 자체 별도 세트에 대한 내부 평가. 대표 수치는 8-크롭 방식으로, 이미지 한 장을 검사할 때 쓰는 방식입니다. 동영상에서는 프레임당 크롭 하나가 더 저렴하고 프레임별로 더 정밀하며, 여러 프레임을 표본으로 뽑으면 재현율이 회복됩니다. MobileNetV4 백본, 8.4M 파라미터.
업로드 전 필터링
사용자의 이미지를 업로드되기 전에 휴대폰에서 걸러냅니다. 문제 있는 것이 서버에 닿지 않고, 그것을 확인하려고 팀의 누군가가 이미지를 들여다볼 일도 없습니다.
정책은 직접 정합니다
.standard 정책은 다섯 가지 탐지 항목을 모두 셉니다. .allowTopless는 규칙상 허용하는 플랫폼을 위해 노출된 젖꼭지를 점수에서 뺍니다.
게시 후가 아니라 선택 화면에서 경고
사용자가 이미지를 고르는 순간 점수를 매겨 그 자리에서 경고하세요. 한 시간 뒤의 삭제는 지원 문의 한 건을 부릅니다.
모델이 하는 일
- 관대한 라이선스 이미지와 합성 이미지만으로 학습했고, 스크래핑한 것은 하나도 없습니다.
- 업로드 전에, 어떤 이미지나 동영상 프레임이든 기기에서 노출 점수를 매깁니다.
- 5개 탐지 헤드: 노출된 유두, 성기, 둔부, 나체, 성행위.
- 무엇을 NSFW 점수에 반영할지는 정책이 정하며,
.standard(5가지 모두)부터.allowTopless(노출된 유두 제외)까지 있습니다.
사양
- 정확도
- 임계값 0.50에서 재현율 87.8%, 특이도 93.7%
- 모델
- MobileNetV4-Conv-Medium @ 384
- 온디바이스 크기
- 7MB (6-bit)부터 18MB (fp16)까지
- 플랫폼
- iOS 17+, macOS 14+, tvOS 17+, visionOS 1+; 브라우저나 서버용 fp32 ONNX
Moderator는 법적 판단이 아니라 모더레이션 보조 도구입니다. 무엇이든 차단하기 전에 표시된 항목은 사람 검토자에게 넘기십시오.
성인 콘텐츠만 다루며, 미성년자는 설계상 범위 밖으로 학습 세트에서 제외되어 있습니다.
자주 묻는 질문
Moderator은(는) 무엇인가요?
온디바이스 NSFW 감지. 업로드 전에 노출을 표시합니다. 라이선스 데이터와 합성 데이터로만 학습해, 상업적으로 안전하게 출시할 수 있습니다.
Moderator은(는) 온디바이스로 실행되나요?
네. Moderator은(는) 서버 호출 없이 기기에서 실행되므로, 데이터는 사용자의 기기에 그대로 남습니다.
Moderator은(는) 지금 사용할 수 있나요?
Moderator은(는) 비공개 베타 단계입니다. 이 페이지에서 얼리 액세스를 요청할 수 있습니다.
Moderator의 비용은 얼마인가요?
모든 모델은 SDK당 월간 활성 기기 10만 대까지 무료입니다. 사용자당 추론은 무제한입니다. 맞춤 라이선스는 문의하기 바랍니다.
Moderator은(는) 얼마나 정확하고 빠른가요?
8MB 미만의 온디바이스 모델로 NSFW 이미지의 87.8%를 잡아내고 안전한 이미지의 93.7%를 통과시키며, 오차단율은 6.3%로 NudeNet의 약 절반입니다.
얼리 액세스
무엇을 만들고 계신지 알려주시면 설정을 도와드리겠습니다.