Moderator
Rilevamento NSFW on-device che segnala la nudità prima del caricamento, addestrato solo su dati con licenza e sintetici, sicuro da distribuire commercialmente.
Segnala la nudità prima del caricamento o della visualizzazione.
I caricamenti dubbi non arrivano mai ai tuoi server, alla tua CDN o alla coda di un moderatore. Il punteggio nasce da cinque rilevamenti distinti (capezzoli scoperti, genitali, glutei, nudità e attività sessuale), e quali contano lo decide la tua policy.
Ogni immagine su cui Moderator è stato addestrato è con licenza o sintetica, quindi entra in un prodotto commerciale senza esposizione sul copyright. L'intero modello è di 9,7 MB su Apple e 9,2 MB altrove, così il controllo gira sul telefono prima che il caricamento inizi.
Coglie l'87,8% delle immagini NSFW.
Individua l'87,8% delle immagini NSFW e lascia passare il 93,7% di quelle sicure con un tasso di falsi blocchi del 6,3%, circa la metà di quello di NudeNet, da un modello on-device di 9,7 MB.
Valutazione interna su un set riservato proprietario, non un benchmark pubblicato. I numeri in evidenza si riferiscono al passaggio a 8 ritagli, quello da usare su una singola immagine; per i video, un ritaglio per fotogramma costa meno ed è più preciso sul singolo fotogramma, e il campionamento tra i fotogrammi recupera il recall.
Casi d'uso
Segnala la nudità prima del caricamento o della visualizzazione.
Filtro prima del caricamento
Controlla l'immagine di un utente sul telefono prima che venga caricata. Niente di dubbio arriva ai tuoi server, e nessuno del tuo team deve guardare l'immagine per scoprirlo.
Una policy che decidi tu
La policy .standard conta tutti e cinque i rilevamenti. .allowTopless tiene i capezzoli scoperti fuori dal punteggio, per le piattaforme le cui regole li consentono.
Avvisa al selettore, non dopo il post
Valuta un'immagine nel momento in cui un utente la sceglie, e avvisalo sul posto. Una rimozione un'ora dopo ti costa un thread di assistenza.
Cosa fa il modello
- Addestrato solo su immagini con licenza permissiva e sintetiche, senza nulla raccolto dal web.
- Assegna a qualsiasi immagine o fotogramma video un punteggio di nudità sul dispositivo, prima del caricamento.
- Cinque teste di rilevamento: capezzoli scoperti, genitali, glutei, nudità e attività sessuale.
- Una policy decide cosa contribuisce al punteggio NSFW, da
.standard(tutti e cinque) a.allowTopless(esclude i capezzoli scoperti).
Per iniziare
Aggiungi moderazione dei contenuti alla tua app iOS or macOS, Android or web in poche righe di codice. Documentazione di Moderator.
// Swift Package Manager
.package(url: "https://github.com/Desert-Ant-Labs/desert-ant-core", from: "3.5.0")
// target dependency
.product(name: "Moderator", package: "desert-ant-core")Add Moderator from Desert Ant Labs to this Swift project (iOS, macOS). What it does: rilevamento on-device di contenuti NSFW e nudità in immagini e video. SDK: Swift (iOS, macOS) Repo: https://github.com/Desert-Ant-Labs/desert-ant-core#readme // Swift Package Manager .package(url: "https://github.com/Desert-Ant-Labs/desert-ant-core", from: "3.5.0") // target dependency .product(name: "Moderator", package: "desert-ant-core") Reference: - Model page: https://desertant.com/models/moderator/ - Full catalog and other models: https://desertant.com/llms.txt Add the SDK, then follow its README for the exact API and current version. Do not invent API names or method signatures; confirm them against the README.
// build.gradle.kts (Maven Central)
implementation("ai.desertant:moderator:3.5.0")Add Moderator from Desert Ant Labs to this Kotlin project (Android).
What it does: rilevamento on-device di contenuti NSFW e nudità in immagini e video.
SDK:
Kotlin (Android)
Repo: https://github.com/Desert-Ant-Labs/desert-ant-core#readme
// build.gradle.kts (Maven Central)
implementation("ai.desertant:moderator:3.5.0")
Reference:
- Model page: https://desertant.com/models/moderator/
- Full catalog and other models: https://desertant.com/llms.txt
Add the SDK, then follow its README for the exact API and current version. Do not invent API names or method signatures; confirm them against the README.
npm i @desert-ant-labs/moderator @litertjs/coreAdd Moderator from Desert Ant Labs to this JavaScript / TypeScript project (Web, Node.js). What it does: rilevamento on-device di contenuti NSFW e nudità in immagini e video. SDK: JavaScript / TypeScript (Web, Node.js) Repo: https://github.com/Desert-Ant-Labs/desert-ant-core#readme npm i @desert-ant-labs/moderator @litertjs/core Reference: - Model page: https://desertant.com/models/moderator/ - Full catalog and other models: https://desertant.com/llms.txt Add the SDK, then follow its README for the exact API and current version. Do not invent API names or method signatures; confirm them against the README.
Specifiche
- Accuratezza
- Recall 87,8%, specificità 93,7% a soglia 0,50
- Modello
- Classificatore di immagini on-device
- Dimensione sul dispositivo
- 9,7 MB su Apple (Core ML) e 9,2 MB altrove (LiteRT)
- Piattaforme
- iOS, macOS, tvOS, visionOS, Android, Linux, Windows, browser e Node
Moderator è un ausilio alla moderazione, non una determinazione legale. Manda ogni segnalazione a un revisore umano prima di bloccare qualcosa.
Moderator copre solo i contenuti per adulti. I minori sono fuori ambito per scelta progettuale ed esclusi dal set di addestramento.
FAQ
Cos'è Moderator?
Rilevamento NSFW on-device che segnala la nudità prima del caricamento, addestrato solo su dati con licenza e sintetici, sicuro da distribuire commercialmente.
Moderator funziona sul dispositivo?
Sì. Moderator funziona sul dispositivo, senza chiamate a un server, quindi i dati restano con l'utente.
Quali piattaforme supporta Moderator?
Moderator è distribuito come SDK nativo on-device per Swift, Kotlin, JavaScript / TypeScript.
Quanto costa Moderator?
Ogni modello è gratuito fino a 100k dispositivi attivi mensili. L'inferenza è illimitata. Contattaci per licenze personalizzate.
Quanto è preciso o veloce Moderator?
Individua l'87,8% delle immagini NSFW e lascia passare il 93,7% di quelle sicure con un tasso di falsi blocchi del 6,3%, circa la metà di quello di NudeNet, da un modello on-device di 9,7 MB.