Moderator
온디바이스 NSFW 감지. 업로드 전에 노출을 표시합니다. 라이선스 데이터와 합성 데이터로만 학습해, 상업적으로 안전하게 출시할 수 있습니다.
업로드나 표시 전에 노출을 잡아냅니다.
문제 소지가 있는 업로드가 서버에도, CDN에도, 모더레이터의 대기열에도 닿지 않습니다. 점수에는 다섯 가지 탐지 결과, 즉 노출된 유두, 성기, 둔부, 나체, 성행위가 반영되며, 그중 무엇을 셈에 넣을지는 정책이 정합니다.
Moderator가 학습한 모든 이미지는 라이선스가 확보되었거나 합성된 것이므로, 저작권 부담 없이 상업용 제품에 들어갑니다. 모델 전체가 Apple에서 9.7MB, 그 외에서는 9.2MB이므로, 업로드가 시작되기 전에 휴대폰에서 검사가 돌아갑니다.
NSFW 이미지의 87.8%를 잡아냅니다.
9.7MB 온디바이스 모델로 NSFW 이미지의 87.8%를 잡아내고 안전한 이미지의 93.7%를 통과시키며, 오차단율은 6.3%로 NudeNet의 약 절반입니다.
공개 벤치마크가 아니라 자체 별도 세트에 대한 내부 평가. 대표 수치는 8-크롭 방식으로, 이미지 한 장을 검사할 때 쓰는 방식입니다. 동영상에서는 프레임당 크롭 하나가 더 저렴하고 프레임별로 더 정밀하며, 여러 프레임을 표본으로 뽑으면 재현율이 회복됩니다.
활용 사례
업로드나 표시 전에 노출을 잡아냅니다.
업로드 전 필터링
사용자의 이미지를 업로드되기 전에 휴대폰에서 걸러냅니다. 문제 있는 것이 서버에 닿지 않고, 그것을 확인하려고 팀의 누군가가 이미지를 들여다볼 일도 없습니다.
정책은 직접 정합니다
.standard 정책은 다섯 가지 탐지 항목을 모두 셉니다. .allowTopless는 규칙상 허용하는 플랫폼을 위해 노출된 젖꼭지를 점수에서 뺍니다.
게시 후가 아니라 선택 화면에서 경고
사용자가 이미지를 고르는 순간 점수를 매겨 그 자리에서 경고하세요. 한 시간 뒤의 삭제는 지원 문의 한 건을 부릅니다.
모델이 하는 일
- 관대한 라이선스 이미지와 합성 이미지만으로 학습했고, 스크래핑한 것은 하나도 없습니다.
- 업로드 전에, 어떤 이미지나 동영상 프레임이든 기기에서 노출 점수를 매깁니다.
- 5개 탐지 헤드: 노출된 유두, 성기, 둔부, 나체, 성행위.
- 무엇을 NSFW 점수에 반영할지는 정책이 정하며,
.standard(5가지 모두)부터.allowTopless(노출된 유두 제외)까지 있습니다.
시작하기
콘텐츠 모더레이션을(를) 몇 줄의 코드로 iOS or macOS, Android or web 앱에 추가하세요. Moderator 문서.
// Swift Package Manager
.package(url: "https://github.com/Desert-Ant-Labs/desert-ant-core", from: "3.5.0")
// target dependency
.product(name: "Moderator", package: "desert-ant-core")Add Moderator from Desert Ant Labs to this Swift project (iOS, macOS). What it does: 이미지와 동영상을 위한 온디바이스 NSFW·노출 탐지. SDK: Swift (iOS, macOS) Repo: https://github.com/Desert-Ant-Labs/desert-ant-core#readme // Swift Package Manager .package(url: "https://github.com/Desert-Ant-Labs/desert-ant-core", from: "3.5.0") // target dependency .product(name: "Moderator", package: "desert-ant-core") Reference: - Model page: https://desertant.com/models/moderator/ - Full catalog and other models: https://desertant.com/llms.txt Add the SDK, then follow its README for the exact API and current version. Do not invent API names or method signatures; confirm them against the README.
// build.gradle.kts (Maven Central)
implementation("ai.desertant:moderator:3.5.0")Add Moderator from Desert Ant Labs to this Kotlin project (Android).
What it does: 이미지와 동영상을 위한 온디바이스 NSFW·노출 탐지.
SDK:
Kotlin (Android)
Repo: https://github.com/Desert-Ant-Labs/desert-ant-core#readme
// build.gradle.kts (Maven Central)
implementation("ai.desertant:moderator:3.5.0")
Reference:
- Model page: https://desertant.com/models/moderator/
- Full catalog and other models: https://desertant.com/llms.txt
Add the SDK, then follow its README for the exact API and current version. Do not invent API names or method signatures; confirm them against the README.
npm i @desert-ant-labs/moderator @litertjs/coreAdd Moderator from Desert Ant Labs to this JavaScript / TypeScript project (Web, Node.js). What it does: 이미지와 동영상을 위한 온디바이스 NSFW·노출 탐지. SDK: JavaScript / TypeScript (Web, Node.js) Repo: https://github.com/Desert-Ant-Labs/desert-ant-core#readme npm i @desert-ant-labs/moderator @litertjs/core Reference: - Model page: https://desertant.com/models/moderator/ - Full catalog and other models: https://desertant.com/llms.txt Add the SDK, then follow its README for the exact API and current version. Do not invent API names or method signatures; confirm them against the README.
사양
- 정확도
- 임계값 0.50에서 재현율 87.8%, 특이도 93.7%
- 모델
- 온디바이스 이미지 분류기
- 온디바이스 크기
- Apple에서 9.7MB (Core ML), 그 외에서는 9.2MB (LiteRT)
- 플랫폼
- iOS, macOS, tvOS, visionOS, Android, Linux, Windows, 브라우저, Node
Moderator는 법적 판단이 아니라 모더레이션 보조 도구입니다. 무엇이든 차단하기 전에 표시된 항목은 사람 검토자에게 넘기십시오.
성인 콘텐츠만 다루며, 미성년자는 설계상 범위 밖으로 학습 세트에서 제외되어 있습니다.
자주 묻는 질문
Moderator은(는) 무엇인가요?
온디바이스 NSFW 감지. 업로드 전에 노출을 표시합니다. 라이선스 데이터와 합성 데이터로만 학습해, 상업적으로 안전하게 출시할 수 있습니다.
Moderator은(는) 온디바이스로 실행되나요?
네. Moderator은(는) 서버 호출 없이 기기에서 실행되므로, 데이터는 사용자의 기기에 그대로 남습니다.
Moderator은(는) 어떤 플랫폼을 지원하나요?
Moderator은(는) Swift, Kotlin, JavaScript / TypeScript용 네이티브 온디바이스 SDK로 제공됩니다.
Moderator의 비용은 얼마인가요?
각 모델은 월간 활성 기기 10만 대까지 무료입니다. 추론은 무제한입니다. 맞춤 라이선스는 문의하기 바랍니다.
Moderator은(는) 얼마나 정확하고 빠른가요?
9.7MB 온디바이스 모델로 NSFW 이미지의 87.8%를 잡아내고 안전한 이미지의 93.7%를 통과시키며, 오차단율은 6.3%로 NudeNet의 약 절반입니다.