Moderator
Detecção NSFW no dispositivo que sinaliza nudez antes do envio. Treinada só com dados licenciados e sintéticos, segura para lançar comercialmente.
Sinalize nudez antes do upload ou da exibição.
Uploads duvidosos nunca chegam aos seus servidores, à sua CDN nem à fila de um moderador. Cinco detecções separadas (mamilos expostos, genitais, nádegas, nudez e atividade sexual) alimentam a pontuação, e a sua política decide quais delas contam.
Toda imagem em que o Moderator foi treinado é licenciada ou sintética, então ele entra em um produto comercial sem exposição a direitos autorais. O modelo inteiro tem 9,7 MB em dispositivos Apple e 9,2 MB nos demais, então a verificação roda no celular antes de o upload começar.
Captura 87,8% das imagens NSFW.
Captura 87,8% das imagens NSFW e aprova 93,7% das seguras a uma taxa de falso bloqueio de 6,3%, cerca de metade da taxa do NudeNet, a partir de um modelo no dispositivo de 9,7 MB.
Avaliação interna em um conjunto reservado proprietário, não um benchmark publicado. Os números em destaque são os da passagem de 8 recortes, que é a indicada para uma imagem única; em vídeo, um recorte por quadro sai mais barato e é mais preciso por quadro, e amostrar ao longo dos quadros recupera o recall.
Casos de uso
Sinalize nudez antes do upload ou da exibição.
Filtragem antes do upload
Analise a imagem de um usuário no celular antes de ela subir. Nada duvidoso chega aos seus servidores, e ninguém da sua equipe precisa olhar a imagem para descobrir.
Uma política que você controla
A política .standard conta as cinco detecções. A .allowTopless deixa mamilos expostos fora da pontuação, para plataformas cujas regras os permitem.
Avise no seletor, não depois do post
Pontue uma imagem no momento em que o usuário a escolhe e avise ali mesmo. Uma remoção uma hora depois custa uma conversa de suporte.
O que o modelo faz
- Treinado apenas com imagens de licença permissiva e sintéticas, sem nada extraído da web.
- Pontua qualquer imagem ou quadro de vídeo quanto a nudez no dispositivo, antes do upload.
- Cinco cabeças de detecção: mamilos expostos, genitais, nádegas, nudez e atividade sexual.
- Uma política decide o que conta para a pontuação NSFW, de
.standard(todas as cinco) a.allowTopless(exclui mamilos expostos).
Primeiros passos
Adicione moderação de conteúdo ao seu app iOS or macOS, Android or web em poucas linhas de código. Docs do Moderator.
// Swift Package Manager
.package(url: "https://github.com/Desert-Ant-Labs/desert-ant-core", from: "3.5.0")
// target dependency
.product(name: "Moderator", package: "desert-ant-core")Add Moderator from Desert Ant Labs to this Swift project (iOS, macOS). What it does: detecção de NSFW e nudez no dispositivo para imagens e vídeo. SDK: Swift (iOS, macOS) Repo: https://github.com/Desert-Ant-Labs/desert-ant-core#readme // Swift Package Manager .package(url: "https://github.com/Desert-Ant-Labs/desert-ant-core", from: "3.5.0") // target dependency .product(name: "Moderator", package: "desert-ant-core") Reference: - Model page: https://desertant.com/models/moderator/ - Full catalog and other models: https://desertant.com/llms.txt Add the SDK, then follow its README for the exact API and current version. Do not invent API names or method signatures; confirm them against the README.
// build.gradle.kts (Maven Central)
implementation("ai.desertant:moderator:3.5.0")Add Moderator from Desert Ant Labs to this Kotlin project (Android).
What it does: detecção de NSFW e nudez no dispositivo para imagens e vídeo.
SDK:
Kotlin (Android)
Repo: https://github.com/Desert-Ant-Labs/desert-ant-core#readme
// build.gradle.kts (Maven Central)
implementation("ai.desertant:moderator:3.5.0")
Reference:
- Model page: https://desertant.com/models/moderator/
- Full catalog and other models: https://desertant.com/llms.txt
Add the SDK, then follow its README for the exact API and current version. Do not invent API names or method signatures; confirm them against the README.
npm i @desert-ant-labs/moderator @litertjs/coreAdd Moderator from Desert Ant Labs to this JavaScript / TypeScript project (Web, Node.js). What it does: detecção de NSFW e nudez no dispositivo para imagens e vídeo. SDK: JavaScript / TypeScript (Web, Node.js) Repo: https://github.com/Desert-Ant-Labs/desert-ant-core#readme npm i @desert-ant-labs/moderator @litertjs/core Reference: - Model page: https://desertant.com/models/moderator/ - Full catalog and other models: https://desertant.com/llms.txt Add the SDK, then follow its README for the exact API and current version. Do not invent API names or method signatures; confirm them against the README.
Especificações
- Acurácia
- Recall de 87,8%, especificidade de 93,7% no limiar 0,50
- Modelo
- Classificador de imagens no dispositivo
- Tamanho no dispositivo
- 9,7 MB em dispositivos Apple (Core ML) e 9,2 MB nos demais (LiteRT)
- Plataformas
- iOS, macOS, tvOS, visionOS, Android, Linux, Windows, navegador e Node
O Moderator é um auxílio à moderação, não uma determinação legal. Encaminhe cada sinalização a um revisor humano antes de bloquear qualquer coisa.
O Moderator cobre apenas conteúdo adulto. Menores estão fora do escopo por design e são excluídos do conjunto de treinamento.
FAQ
O que é o Moderator?
Detecção NSFW no dispositivo que sinaliza nudez antes do envio. Treinada só com dados licenciados e sintéticos, segura para lançar comercialmente.
O Moderator roda no dispositivo?
Sim. O Moderator roda no dispositivo, sem chamada a servidor, então os dados ficam com o usuário.
Quais plataformas o Moderator suporta?
O Moderator é distribuído como um SDK nativo no dispositivo para Swift, Kotlin, JavaScript / TypeScript.
Quanto custa o Moderator?
Cada modelo é gratuito para até 100 mil dispositivos ativos mensais. A inferência é ilimitada. Fale conosco para licenças personalizadas.
Qual a precisão e a velocidade do Moderator?
Captura 87,8% das imagens NSFW e aprova 93,7% das seguras a uma taxa de falso bloqueio de 6,3%, cerca de metade da taxa do NudeNet, a partir de um modelo no dispositivo de 9,7 MB.