Moderator
NSFW-detektering på enheten som flaggar nakenhet före uppladdning, tränad enbart på licensierad och syntetisk data, trygg att lansera kommersiellt.
Flagga nakenhet före uppladdning eller visning.
Tveksamma uppladdningar når aldrig dina servrar, ditt CDN eller en moderators kö. Fem separata detektioner (exponerade bröstvårtor, könsorgan, skinkor, nakenhet och sexuell aktivitet) ligger till grund för poängen, och din policy avgör vilka av dem som räknas.
Varje bild Moderator tränats på är licensierad eller syntetisk, så den går in i en kommersiell produkt utan upphovsrättslig exponering. Hela modellen är 9,7 MB på Apple och 9,2 MB på andra plattformar, så kontrollen körs på telefonen innan uppladdningen startar.
Fångar 87,8% av NSFW-bilderna.
Fångar 87,8% av NSFW-bilderna och släpper igenom 93,7% av de säkra vid en felblockeringsgrad på 6,3%, ungefär hälften av NudeNets, från en modell på 9,7 MB som körs på enheten.
Intern utvärdering på en egen avskild uppsättning, inte en publicerad benchmark. Siffrorna i rubriken gäller genomgången med 8 beskärningar, den du kör på en enskild bild; för video är en beskärning per bildruta billigare och mer precis per bildruta, och stickprov över bildrutor återställer recallen.
Användningsfall
Flagga nakenhet före uppladdning eller visning.
Filtrering före uppladdning
Granska en användares bild på telefonen innan den laddas upp. Inget tveksamt når dina servrar, och ingen i ditt team behöver titta på bilden för att ta reda på det.
En policy du styr själv
Policyn .standard räknar alla fem detektioner. .allowTopless lämnar exponerade bröstvårtor utanför poängen, för plattformar vars regler tillåter dem.
Varna vid väljaren, inte efter inlägget
Poängsätt en bild i samma stund en användare väljer den, och varna direkt. En borttagning en timme senare kostar dig en supporttråd.
Vad modellen gör
- Tränad enbart på syntetiska bilder och bilder med tillåtande licens, utan något skrapat från webben.
- Poängsätter nakenhet i vilken bild eller videobildruta som helst, på enheten, före uppladdning.
- Fem detektionshuvuden: exponerade bröstvårtor, könsorgan, skinkor, nakenhet och sexuell aktivitet.
- En policy avgör vad som räknas till NSFW-poängen, från
.standard(alla fem) till.allowTopless(utesluter exponerade bröstvårtor).
Kom igång
Lägg till innehållsmoderering i din iOS or macOS, Android or web-app med några rader kod. Moderator-dokumentation.
// Swift Package Manager
.package(url: "https://github.com/Desert-Ant-Labs/desert-ant-core", from: "3.5.0")
// target dependency
.product(name: "Moderator", package: "desert-ant-core")Add Moderator from Desert Ant Labs to this Swift project (iOS, macOS). What it does: NSFW- och nakenhetsdetektion på enheten för bild och video. SDK: Swift (iOS, macOS) Repo: https://github.com/Desert-Ant-Labs/desert-ant-core#readme // Swift Package Manager .package(url: "https://github.com/Desert-Ant-Labs/desert-ant-core", from: "3.5.0") // target dependency .product(name: "Moderator", package: "desert-ant-core") Reference: - Model page: https://desertant.com/models/moderator/ - Full catalog and other models: https://desertant.com/llms.txt Add the SDK, then follow its README for the exact API and current version. Do not invent API names or method signatures; confirm them against the README.
// build.gradle.kts (Maven Central)
implementation("ai.desertant:moderator:3.5.0")Add Moderator from Desert Ant Labs to this Kotlin project (Android).
What it does: NSFW- och nakenhetsdetektion på enheten för bild och video.
SDK:
Kotlin (Android)
Repo: https://github.com/Desert-Ant-Labs/desert-ant-core#readme
// build.gradle.kts (Maven Central)
implementation("ai.desertant:moderator:3.5.0")
Reference:
- Model page: https://desertant.com/models/moderator/
- Full catalog and other models: https://desertant.com/llms.txt
Add the SDK, then follow its README for the exact API and current version. Do not invent API names or method signatures; confirm them against the README.
npm i @desert-ant-labs/moderator @litertjs/coreAdd Moderator from Desert Ant Labs to this JavaScript / TypeScript project (Web, Node.js). What it does: NSFW- och nakenhetsdetektion på enheten för bild och video. SDK: JavaScript / TypeScript (Web, Node.js) Repo: https://github.com/Desert-Ant-Labs/desert-ant-core#readme npm i @desert-ant-labs/moderator @litertjs/core Reference: - Model page: https://desertant.com/models/moderator/ - Full catalog and other models: https://desertant.com/llms.txt Add the SDK, then follow its README for the exact API and current version. Do not invent API names or method signatures; confirm them against the README.
Specifikationer
- Träffsäkerhet
- Recall 87,8% och specificitet 93,7% vid tröskel 0,50
- Modell
- Bildklassificerare på enheten
- Storlek på enheten
- 9,7 MB på Apple (Core ML) och 9,2 MB på andra plattformar (LiteRT)
- Plattformar
- iOS, macOS, tvOS, visionOS, Android, Linux, Windows, webbläsare och Node
Moderator är ett hjälpmedel vid moderering, inte ett rättsligt avgörande. Skicka varje flagga till en mänsklig granskare innan något blockeras.
Moderator täcker enbart vuxeninnehåll. Minderåriga ligger medvetet utanför omfånget och är uteslutna ur träningsdatan.
Vanliga frågor
Vad är Moderator?
NSFW-detektering på enheten som flaggar nakenhet före uppladdning, tränad enbart på licensierad och syntetisk data, trygg att lansera kommersiellt.
Körs Moderator lokalt på enheten?
Ja. Moderator körs på enheten, utan något serveranrop, så att data stannar hos användaren.
Vilka plattformar stöder Moderator?
Moderator levereras som en nativ SDK på enheten för Swift, Kotlin, JavaScript / TypeScript.
Vad kostar Moderator?
Varje modell är gratis upp till 100k månadsaktiva enheter. Inferensen är obegränsad. Kontakta oss för anpassade licenser.
Hur träffsäker eller snabb är Moderator?
Fångar 87,8% av NSFW-bilderna och släpper igenom 93,7% av de säkra vid en felblockeringsgrad på 6,3%, ungefär hälften av NudeNets, från en modell på 9,7 MB som körs på enheten.