MiLMMT-46-12B-v0.1-4bit翻译Prompt指南:1个模板玩转中英翻译+46种语言名称完整清单
MiLMMT-46-12B-v0.1-4bit翻译Prompt指南:1个模板玩转中英翻译+46种语言名称完整清单
本文是面向新手的 MiLMMT-46-12B-v0.1-4bit 翻译模型 完整使用指南:只要会抄 1 个官方 Prompt 模板,就能跑通中英互译;文末附 46 种语言的官方英文名称完整清单,照着填就不会翻错语言。
一、模型速览:MiLMMT-4bit 是什么?🤔
MiLMMT-46-12B-v0.1-4bit 是小米开源多语言翻译大模型 MiLMMT-46-12B-v0.1 的 MLX 4bit 量化版(由 mlx-lm 0.30.4 转换而来),基于 Gemma3-12B 底座,在 46 种语言、1430 亿 token 的平行语料上继续预训练得到,专为机器翻译场景设计。
| 关键属性 | 说明 |
|---|---|
| 参数量 | 约 12.77B(见 model.safetensors.index.json) |
| 量化方式 | 4bit / affine / group_size 64(见 config.json) |
| 模型体量 | 两个权重分片,合计约 7.2GB |
| 支持语言 | 46 种(含简体中文、繁体中文、粤语等) |
| 交互方式 | ⚠️ 无 chat 模板,只用「原始补全 Prompt」 |
它最适合的场景:Mac/Apple 芯片上用 mlx-lm 本地离线跑多语言翻译,尤其是中英互译。
二、核心 Prompt 模板:照抄就能用 ✍️
这是全文最重要的部分。MiLMMT-46 没有聊天模板,官方要求使用如下原始补全格式(模板原文见 README.md):
Translate this from <源语言英文名> to <目标语言英文名>:
<源语言英文名>: <要翻译的句子>
<目标语言英文名>:
模板只有 3 条铁律,记牢就不踩坑:
- 语言名必须用英文,且要和官方清单完全一致(如
Chinese (Simplified),不能写Simplified Chinese); - 最后一行留空,以目标语言英文名加冒号结尾,让模型接着往下补全译文;
- 分词时不加任何特殊 token(
add_special_tokens=False),不要手动拼<bos>等符号(相关 token 定义见 tokenizer_config.json)。
三、中英翻译实战:从"我爱机器翻译"开始 🚀
以官方示例为例,把中文翻译成英文,只需把模板填好:
Translate this from Chinese (Simplified) to English:
Chinese (Simplified): 我爱机器翻译
English:
模型会续写出译文(例如 I love machine translation.)。反过来英译中,只需把两行语言名对调——同一个模板,双向通用。
用 mlx-lm 加载并生成(完整示例见 README.md):
pip install mlx-lm
from mlx_lm import load, generate
model, tokenizer = load("mlx-community/MiLMMT-46-12B-v0.1-4bit")
text = "Translate this from Chinese (Simplified) to English:\nChinese (Simplified): 我爱机器翻译\nEnglish:"
prompt = tokenizer.encode(text, add_special_tokens=False)
response = generate(model, tokenizer, prompt=prompt, verbose=True)
💡 提示:
add_special_tokens=False这一行千万别删,这是官方明确要求的分词方式。
四、46种语言名称完整清单(官方英文名)🌏
模板里要填的就是下面的英文名,建议收藏对照。注意 英文书写必须一字不差,这是新手最常见的翻车点。
东亚(5 种)
| 语言 | 官方英文名(照抄这个) |
|---|---|
| 简体中文 | Chinese (Simplified) |
| 繁体中文 | Chinese (Traditional) |
| 粤语 | Cantonese |
| 日语 | Japanese |
| 韩语 | Korean |
东南亚(8 种)
| 语言 | 官方英文名(照抄这个) |
|---|---|
| 印尼语 | Indonesian |
| 马来语 | Malay |
| 泰语 | Thai |
| 越南语 | Vietnamese |
| 高棉语 | Khmer |
| 老挝语 | Lao |
| 缅甸语 | Burmese |
| 他加禄语 | Tagalog |
南亚(4 种):Bengali、Hindi、Tamil、Urdu
中东与中亚(7 种):Arabic、Persian、Hebrew、Turkish、Azerbaijani、Kazakh、Uzbek
欧洲(21 种):Bulgarian、Catalan、Croatian、Czech、Danish、Dutch、Finnish、French、German、Greek、Hungarian、Italian、Norwegian、Polish、Portuguese、Romanian、Russian、Slovak、Slovenian、Spanish、Swedish
通用(1 种):English
完整语言列表原始出处见 README.md。
五、新手最易踩的 3 个坑 ⚠️
- 语言名写错:写
Mandarin、Simplified Chinese都不行,必须与清单一致。语言名错了模型大概率"猜"着翻,质量明显下降; - 误加聊天模板或特殊 token:本模型没有 chat template,手动拼 system/user 角色标记反而会干扰输出,保持"裸 Prompt"即可(生成相关参数见 generation_config.json);
- 误解 4bit:4bit 量化让 12B 模型体积压到约 7.2GB、显存/内存占用更低,方便在消费级设备本地运行,但它是"省内存版",追求极限翻译质量时可换非量化版本对比。
六、仓库文件资料速查 📂
| 文件 | 作用 |
|---|---|
| README.md | 模型说明、Prompt 模板、官方使用示例 |
| config.json | 模型架构与 4bit 量化配置 |
| generation_config.json | 生成时的特殊 token 编号等参数 |
| tokenizer.json / tokenizer_config.json | 分词器词表与配置 |
| model-00001-of-00002.safetensors / model-00002-of-00002.safetensors | 4bit 量化权重分片 |
| model.safetensors.index.json | 权重索引与参数总量统计 |
小结:拿到 MiLMMT-46-12B-v0.1-4bit 后,记住三件事——填对官方 Prompt 模板、语言名从 46 种清单里照抄、分词不加特殊 token。做到这三点,一个 7.2GB 的 4bit 模型就能在你本地稳定输出 46 种语言的高质量翻译了。