Tongue:设备端语言识别
设备端语言识别,读取一小段文本并说出它的语言,覆盖 84 种语言,只需几十微秒。
Tongue 读取一个词、一个短语或一句话,返回它所用的语言,从德语的 "kann ich das haben" 到韩语的 "안녕하세요"。它针对短文本调校,例如搜索框、聊天消息和键盘输入,这是设备端语言检测中最难也最有用的场景。
工作分两步完成。一个零参数的文字系统路由器直接判定只属于一种语言的文字:谚文、希腊文、泰文等 25 种文字无需模型即可定论。对于多语言共用的文字,经哈希的字符 n-gram 输入一个 2 MB 的 int8 模型。没有分词器、没有词表文件、没有推理运行时;当短输入确实存在歧义时,Tongue 会明确说不确定,而不是乱猜。
演示
性能
仅凭 2 MB,就能与体积最高达 130 倍的检测器一较高下。
在三个公开基准上以实际发布的 int8 权重测得,其他检测器在完全相同的数据行和语言子集上运行。完整表格与失败模式见模型卡片。
应用场景
按语言路由文本
从用户输入的前几个词就选对翻译模型、分析器或客服队列,完全在设备上完成。
键盘与输入
在句子中途检测语言,切换自动纠错、联想或键盘布局,每次按键只花几十微秒。
搜索与内容管线
在索引或审核之前为短字符串标注语言,无需网络往返,也无需按请求计费的服务。
诚实的不确定性
"la casa" 在意大利语和西班牙语中读起来完全一样。Tongue 会报告平局而不是强行选出一个,让产品可以请用户多输入一些文本。
功能
- 84 种语言:59 种由模型解码,25 种仅凭文字系统即可判定。
- 2 MB int8 权重,随包内置;无需任何下载。
- 每次检测只需几十微秒,可在主线程运行。
- Swift、Kotlin 和 JavaScript 三端答案完全一致,由共享的黄金向量测试约束。
- 报告可靠度与难分伯仲的平局,而不是乱猜。
平台与安装
// Swift Package Manager
.package(url: "https://github.com/Desert-Ant-Labs/tongue", from: "0.1.2")
import Tongue
let tongue = try Tongue()
tongue.detect("kann ich das haben").language
// "de"
// build.gradle.kts (Maven Central)
implementation("ai.desertant:tongue:0.1.2")
import ai.desertant.tongue.Tongue
val tongue = Tongue.bundled(context)
tongue.detect("kann ich das haben").language
// "de"
npm i @desert-ant-labs/tongue
import { Tongue } from "@desert-ant-labs/tongue";
const tongue = await Tongue.load();
tongue.detect("kann ich das haben").language;
// "de"
Add Tongue from Desert Ant Labs to this project.
设备端语言识别,读取一小段文本并说出它的语言,覆盖 84 种语言,只需几十微秒。
SDKs (use the one that matches this project's platform):
Swift (iOS, macOS)
Repo: https://github.com/Desert-Ant-Labs/tongue
// Swift Package Manager
.package(url: "https://github.com/Desert-Ant-Labs/tongue", from: "0.1.2")
Kotlin (Android)
Repo: https://github.com/Desert-Ant-Labs/tongue
// build.gradle.kts (Maven Central)
implementation("ai.desertant:tongue:0.1.2")
JavaScript / TypeScript (Web, Node.js)
Repo: https://github.com/Desert-Ant-Labs/tongue
npm i @desert-ant-labs/tongue
Reference:
- Model page: https://desertant.com/models/tongue/
- Full catalog and other models: https://desertant.com/llms.txt
Add the SDK that matches this project's platform, then follow its README for the exact API and current version. Do not invent API names or method signatures; confirm them against the README.
规格
- 语言
- 84 种,覆盖 31 种文字系统
- 设备端体积
- 2.1 MB int8 权重,内置于包中
- 延迟
- 每次检测几十微秒
- 方法
- 文字系统路由器加哈希字符 n-gram,接入 int8 线性头
常见问题
Tongue是什么?
设备端语言识别,读取一小段文本并说出它的语言,覆盖 84 种语言,只需几十微秒。
Tongue在设备上运行吗?
是的。Tongue完全在设备上运行:推理在本地完成,不调用任何服务器,因此数据不会离开设备。
Tongue支持哪些平台?
Tongue以原生设备端SDK的形式提供,支持Swift, Kotlin, JavaScript / TypeScript。
Tongue的价格是多少?
每个模型的每个SDK均可免费支持最多10万台月活跃设备。每位用户可无限次推理。 如需定制授权,请联系我们。
Tongue的准确度和速度如何?
仅凭 2 MB,就能与体积最高达 130 倍的检测器一较高下。