Moderator
オンデバイスの NSFW 検出。アップロード前にヌードを検知します。ライセンス済みデータと合成データのみで学習しており、商用でも安心して使えます。
アップロードや表示の前に、ヌードを検知。
問題のあるアップロードが、サーバーにも、CDN にも、モデレーターのキューにも届きません。スコアのもとになるのは 5 つの検出（乳首の露出、性器、臀部、ヌード、性的行為）で、そのうちどれを数えるかはポリシーが決めます。
Moderator が学習した画像はすべてライセンス済みか合成なので、著作権リスクなしに商用プロダクトへ組み込めます。モデル全体は Apple で 9.7MB、それ以外では 9.2MB なので、チェックはアップロードが始まる前にスマートフォン上で動きます。
NSFW 画像の 87.8% を捕捉。
NSFW 画像の 87.8% を捕捉し、安全な画像の 93.7% を通過させます。誤ブロック率は 6.3% で NudeNet のおよそ半分。9.7MB のオンデバイスモデルによるものです。
独自のホールドアウトセットによる社内評価であり、公開ベンチマークではありません。見出しの数値は 8 クロップで通した場合のもので、1 枚の画像にはこれを使います。動画では 1 フレームにつき 1 クロップのほうが安価で、フレームあたりの精度も高く、フレームをサンプリングすれば再現率が戻ります。
ユースケース
アップロードや表示の前に、ヌードを検知。.
アップロード前のフィルタリング
ユーザーの画像を、アップロード前にスマートフォン上で選別します。問題のあるものがサーバーに届くことはなく、それを確かめるためにチームの誰かが画像を見る必要もありません。
ポリシーは自分で決める
.standard ポリシーは 5 つの検出すべてを数えます。.allowTopless は、そのルールで許容されるプラットフォーム向けに、乳首の露出をスコアから除きます。
投稿後ではなく、選んだその場で警告する
ユーザーが画像を選んだ瞬間に採点し、その場で警告します。1 時間後の削除は、サポートのやり取りひとつぶんの代償になります。
モデルができること
- 寛容なライセンスの画像と合成画像のみで学習し、スクレイピングしたものは一切ありません。
- あらゆる画像や動画フレームのヌード度合いを、アップロード前にデバイス上で採点します。
- 5 つの検出ヘッド：乳首の露出、性器、臀部、ヌード、性的行為。
- NSFW スコアに何を含めるかはポリシーが決めます。
.standard（5 つすべて）から.allowTopless（乳首の露出を除外）まで選べます。
はじめに
コンテンツモデレーション を、数行のコードで iOS or macOS, Android or web アプリに追加。 Moderator のドキュメント.
// Swift Package Manager
.package(url: "https://github.com/Desert-Ant-Labs/desert-ant-core", from: "3.5.0")
// target dependency
.product(name: "Moderator", package: "desert-ant-core")Add Moderator from Desert Ant Labs to this Swift project (iOS, macOS). What it does: Moderator：画像と動画向けのオンデバイス NSFW・ヌード検出. SDK: Swift (iOS, macOS) Repo: https://github.com/Desert-Ant-Labs/desert-ant-core#readme // Swift Package Manager .package(url: "https://github.com/Desert-Ant-Labs/desert-ant-core", from: "3.5.0") // target dependency .product(name: "Moderator", package: "desert-ant-core") Reference: - Model page: https://desertant.com/models/moderator/ - Full catalog and other models: https://desertant.com/llms.txt Add the SDK, then follow its README for the exact API and current version. Do not invent API names or method signatures; confirm them against the README.
// build.gradle.kts (Maven Central)
implementation("ai.desertant:moderator:3.5.0")Add Moderator from Desert Ant Labs to this Kotlin project (Android).
What it does: Moderator：画像と動画向けのオンデバイス NSFW・ヌード検出.
SDK:
Kotlin (Android)
Repo: https://github.com/Desert-Ant-Labs/desert-ant-core#readme
// build.gradle.kts (Maven Central)
implementation("ai.desertant:moderator:3.5.0")
Reference:
- Model page: https://desertant.com/models/moderator/
- Full catalog and other models: https://desertant.com/llms.txt
Add the SDK, then follow its README for the exact API and current version. Do not invent API names or method signatures; confirm them against the README.
npm i @desert-ant-labs/moderator @litertjs/coreAdd Moderator from Desert Ant Labs to this JavaScript / TypeScript project (Web, Node.js). What it does: Moderator：画像と動画向けのオンデバイス NSFW・ヌード検出. SDK: JavaScript / TypeScript (Web, Node.js) Repo: https://github.com/Desert-Ant-Labs/desert-ant-core#readme npm i @desert-ant-labs/moderator @litertjs/core Reference: - Model page: https://desertant.com/models/moderator/ - Full catalog and other models: https://desertant.com/llms.txt Add the SDK, then follow its README for the exact API and current version. Do not invent API names or method signatures; confirm them against the README.
仕様
- 精度
- しきい値 0.50 で再現率 87.8%、特異度 93.7%
- モデル
- オンデバイスの画像分類器
- オンデバイスサイズ
- Apple で 9.7MB（Core ML）、それ以外で 9.2MB（LiteRT）
- プラットフォーム
- iOS、macOS、tvOS、visionOS、Android、Linux、Windows、ブラウザ、Node
Moderator はモデレーションの補助であり、法的な判断ではありません。何かをブロックする前に、検出結果は必ず人のレビューに回してください。対象はアダルトコンテンツのみで、未成年は設計上対象外とし、学習データからも除外しています。
FAQ
Moderator とは？
オンデバイスの NSFW 検出。アップロード前にヌードを検知します。ライセンス済みデータと合成データのみで学習しており、商用でも安心して使えます。
Moderator はオンデバイスで動作しますか？
はい。Moderator はデバイス上で動作し、サーバーへの通信は発生しません。データはユーザーの手元に残ります。
Moderator はどのプラットフォームに対応していますか？
Moderator は Swift, Kotlin, JavaScript / TypeScript 向けのネイティブなオンデバイス SDK として提供されます。
Moderator の料金はいくらですか？
各モデルは月間アクティブデバイス 100k 台まで無料です。推論は無制限です。 カスタムライセンスについては、お問い合わせください。
Moderator の精度や速度はどれくらいですか？
NSFW 画像の 87.8% を捕捉し、安全な画像の 93.7% を通過させます。誤ブロック率は 6.3% で NudeNet のおよそ半分。9.7MB のオンデバイスモデルによるものです。