Moderator
Deteção NSFW no dispositivo que assinala nudez antes do envio. Treinada só com dados licenciados e sintéticos, segura para comercializar.
Sinalize nudez antes do carregamento ou da exibição.
Os carregamentos duvidosos nunca chegam aos seus servidores, à sua CDN nem à fila de um moderador. Cinco deteções separadas (mamilos expostos, genitais, nádegas, nudez e atividade sexual) alimentam a pontuação, e a sua política decide quais delas contam.
Todas as imagens com que o Moderator foi treinado são licenciadas ou sintéticas, por isso entra num produto comercial sem exposição a direitos de autor. O modelo inteiro tem 9,7 MB na Apple e 9,2 MB fora dela, por isso a verificação corre no telemóvel antes de o carregamento começar.
Captura 87,8% das imagens NSFW.
Deteta 87,8% das imagens NSFW e aprova 93,7% das seguras, com uma taxa de bloqueio indevido de 6,3%, cerca de metade da do NudeNet, a partir de um modelo no dispositivo de 9,7 MB.
Avaliação interna num conjunto reservado proprietário, não um benchmark publicado. Os números em destaque são os da passagem de 8 recortes, que é a indicada para uma imagem única; em vídeo, um recorte por fotograma sai mais barato e é mais preciso por fotograma, e amostrar ao longo dos fotogramas recupera o recall.
Casos de uso
Sinalize nudez antes do carregamento ou da exibição.
Filtragem antes do carregamento
Analise a imagem de um utilizador no telemóvel antes de ela subir. Nada duvidoso chega aos seus servidores, e ninguém da sua equipa precisa olhar a imagem para descobrir.
Uma política sob o seu controlo
A política .standard conta as cinco deteções. A .allowTopless deixa mamilos expostos fora da pontuação, para plataformas cujas regras os permitem.
Avise no seletor, não depois do post
Pontue uma imagem no momento em que o utilizador a escolhe e avise ali mesmo. Uma remoção uma hora depois custa uma conversa de suporte.
O que o modelo faz
- Treinado apenas com imagens de licença permissiva e sintéticas, sem nada recolhido da web.
- Pontua qualquer imagem ou fotograma de vídeo quanto a nudez no dispositivo, antes do carregamento.
- Cinco cabeças de deteção: mamilos expostos, genitais, nádegas, nudez e atividade sexual.
- Uma política decide o que conta para a pontuação NSFW, de
.standard(as cinco) a.allowTopless(exclui mamilos expostos).
Primeiros passos
Adicione moderação de conteúdos ao seu app iOS or macOS, Android or web em poucas linhas de código. Docs do Moderator.
// Swift Package Manager
.package(url: "https://github.com/Desert-Ant-Labs/desert-ant-core", from: "3.5.0")
// target dependency
.product(name: "Moderator", package: "desert-ant-core")Add Moderator from Desert Ant Labs to this Swift project (iOS, macOS). What it does: deteção de NSFW e nudez no dispositivo para imagens e vídeo. SDK: Swift (iOS, macOS) Repo: https://github.com/Desert-Ant-Labs/desert-ant-core#readme // Swift Package Manager .package(url: "https://github.com/Desert-Ant-Labs/desert-ant-core", from: "3.5.0") // target dependency .product(name: "Moderator", package: "desert-ant-core") Reference: - Model page: https://desertant.com/models/moderator/ - Full catalog and other models: https://desertant.com/llms.txt Add the SDK, then follow its README for the exact API and current version. Do not invent API names or method signatures; confirm them against the README.
// build.gradle.kts (Maven Central)
implementation("ai.desertant:moderator:3.5.0")Add Moderator from Desert Ant Labs to this Kotlin project (Android).
What it does: deteção de NSFW e nudez no dispositivo para imagens e vídeo.
SDK:
Kotlin (Android)
Repo: https://github.com/Desert-Ant-Labs/desert-ant-core#readme
// build.gradle.kts (Maven Central)
implementation("ai.desertant:moderator:3.5.0")
Reference:
- Model page: https://desertant.com/models/moderator/
- Full catalog and other models: https://desertant.com/llms.txt
Add the SDK, then follow its README for the exact API and current version. Do not invent API names or method signatures; confirm them against the README.
npm i @desert-ant-labs/moderator @litertjs/coreAdd Moderator from Desert Ant Labs to this JavaScript / TypeScript project (Web, Node.js). What it does: deteção de NSFW e nudez no dispositivo para imagens e vídeo. SDK: JavaScript / TypeScript (Web, Node.js) Repo: https://github.com/Desert-Ant-Labs/desert-ant-core#readme npm i @desert-ant-labs/moderator @litertjs/core Reference: - Model page: https://desertant.com/models/moderator/ - Full catalog and other models: https://desertant.com/llms.txt Add the SDK, then follow its README for the exact API and current version. Do not invent API names or method signatures; confirm them against the README.
Especificações
- Exatidão
- Recall 87,8%, especificidade 93,7% no limiar 0,50
- Modelo
- Classificador de imagens no dispositivo
- Tamanho no dispositivo
- 9,7 MB na Apple (Core ML) e 9,2 MB fora dela (LiteRT)
- Plataformas
- iOS, macOS, tvOS, visionOS, Android, Linux, Windows, navegador e Node
O Moderator é um apoio à moderação, não uma determinação legal. Encaminhe cada sinalização para um revisor humano antes de bloquear seja o que for.
O Moderator cobre apenas conteúdo adulto. Os menores estão fora do âmbito por decisão de projeto e são excluídos do conjunto de treino.
FAQ
O que é o Moderator?
Deteção NSFW no dispositivo que assinala nudez antes do envio. Treinada só com dados licenciados e sintéticos, segura para comercializar.
O Moderator é executado no dispositivo?
Sim. O Moderator é executado no dispositivo, sem qualquer chamada a servidores, por isso os dados ficam com o utilizador.
Que plataformas suporta o Moderator?
O Moderator é distribuído como um SDK nativo no dispositivo para Swift, Kotlin, JavaScript / TypeScript.
Quanto custa o Moderator?
Cada modelo é gratuito para até 100 mil dispositivos ativos mensais. A inferência é ilimitada. Contacte-nos para licenças personalizadas.
Qual é a precisão ou a rapidez do Moderator?
Deteta 87,8% das imagens NSFW e aprova 93,7% das seguras, com uma taxa de bloqueio indevido de 6,3%, cerca de metade da do NudeNet, a partir de um modelo no dispositivo de 9,7 MB.