MiLMMT-46-12B-v0.1-4bit翻译Prompt指南:1个模板玩转中英翻译+46种语言名称完整清单

原创2026-10-21 23:16:231,718 阅读

MiLMMT-46-12B-v0.1-4bit翻译Prompt指南:1个模板玩转中英翻译+46种语言名称完整清单

本文是面向新手的 MiLMMT-46-12B-v0.1-4bit 翻译模型 完整使用指南:只要会抄 1 个官方 Prompt 模板,就能跑通中英互译;文末附 46 种语言的官方英文名称完整清单,照着填就不会翻错语言。

一、模型速览:MiLMMT-4bit 是什么?🤔

MiLMMT-46-12B-v0.1-4bit 是小米开源多语言翻译大模型 MiLMMT-46-12B-v0.1 的 MLX 4bit 量化版(由 mlx-lm 0.30.4 转换而来),基于 Gemma3-12B 底座,在 46 种语言、1430 亿 token 的平行语料上继续预训练得到,专为机器翻译场景设计。

关键属性 说明
参数量 约 12.77B(见 model.safetensors.index.json)
量化方式 4bit / affine / group_size 64(见 config.json)
模型体量 两个权重分片,合计约 7.2GB
支持语言 46 种(含简体中文、繁体中文、粤语等)
交互方式 ⚠️ 无 chat 模板,只用「原始补全 Prompt」

它最适合的场景:Mac/Apple 芯片上用 mlx-lm 本地离线跑多语言翻译,尤其是中英互译。

二、核心 Prompt 模板:照抄就能用 ✍️

这是全文最重要的部分。MiLMMT-46 没有聊天模板,官方要求使用如下原始补全格式(模板原文见 README.md):

Translate this from <源语言英文名> to <目标语言英文名>:
<源语言英文名>: <要翻译的句子>
<目标语言英文名>:

模板只有 3 条铁律,记牢就不踩坑:

  1. 语言名必须用英文,且要和官方清单完全一致(如 Chinese (Simplified),不能写 Simplified Chinese);
  2. 最后一行留空,以目标语言英文名加冒号结尾,让模型接着往下补全译文;
  3. 分词时不加任何特殊 token(add_special_tokens=False),不要手动拼 <bos> 等符号(相关 token 定义见 tokenizer_config.json)。

三、中英翻译实战:从"我爱机器翻译"开始 🚀

以官方示例为例,把中文翻译成英文,只需把模板填好:

Translate this from Chinese (Simplified) to English:
Chinese (Simplified): 我爱机器翻译
English:

模型会续写出译文(例如 I love machine translation.)。反过来英译中,只需把两行语言名对调——同一个模板,双向通用。

用 mlx-lm 加载并生成(完整示例见 README.md):

pip install mlx-lm
from mlx_lm import load, generate

model, tokenizer = load("mlx-community/MiLMMT-46-12B-v0.1-4bit")

text = "Translate this from Chinese (Simplified) to English:\nChinese (Simplified): 我爱机器翻译\nEnglish:"
prompt = tokenizer.encode(text, add_special_tokens=False)
response = generate(model, tokenizer, prompt=prompt, verbose=True)

💡 提示:add_special_tokens=False 这一行千万别删,这是官方明确要求的分词方式。

四、46种语言名称完整清单(官方英文名)🌏

模板里要填的就是下面的英文名,建议收藏对照。注意 英文书写必须一字不差,这是新手最常见的翻车点。

东亚(5 种)

语言 官方英文名(照抄这个)
简体中文 Chinese (Simplified)
繁体中文 Chinese (Traditional)
粤语 Cantonese
日语 Japanese
韩语 Korean

东南亚(8 种)

语言 官方英文名(照抄这个)
印尼语 Indonesian
马来语 Malay
泰语 Thai
越南语 Vietnamese
高棉语 Khmer
老挝语 Lao
缅甸语 Burmese
他加禄语 Tagalog

南亚(4 种):Bengali、Hindi、Tamil、Urdu

中东与中亚(7 种):Arabic、Persian、Hebrew、Turkish、Azerbaijani、Kazakh、Uzbek

欧洲(21 种):Bulgarian、Catalan、Croatian、Czech、Danish、Dutch、Finnish、French、German、Greek、Hungarian、Italian、Norwegian、Polish、Portuguese、Romanian、Russian、Slovak、Slovenian、Spanish、Swedish

通用(1 种):English

完整语言列表原始出处见 README.md。

五、新手最易踩的 3 个坑 ⚠️

  1. 语言名写错:写 Mandarin、Simplified Chinese 都不行,必须与清单一致。语言名错了模型大概率"猜"着翻,质量明显下降;
  2. 误加聊天模板或特殊 token:本模型没有 chat template,手动拼 system/user 角色标记反而会干扰输出,保持"裸 Prompt"即可(生成相关参数见 generation_config.json);
  3. 误解 4bit:4bit 量化让 12B 模型体积压到约 7.2GB、显存/内存占用更低,方便在消费级设备本地运行,但它是"省内存版",追求极限翻译质量时可换非量化版本对比。

六、仓库文件资料速查 📂

文件 作用
README.md 模型说明、Prompt 模板、官方使用示例
config.json 模型架构与 4bit 量化配置
generation_config.json 生成时的特殊 token 编号等参数
tokenizer.json / tokenizer_config.json 分词器词表与配置
model-00001-of-00002.safetensors / model-00002-of-00002.safetensors 4bit 量化权重分片
model.safetensors.index.json 权重索引与参数总量统计

小结:拿到 MiLMMT-46-12B-v0.1-4bit 后,记住三件事——填对官方 Prompt 模板、语言名从 46 种清单里照抄、分词不加特殊 token。做到这三点,一个 7.2GB 的 4bit 模型就能在你本地稳定输出 46 种语言的高质量翻译了。

登录后查看全文
MiLMMT-46-12B-v0.1-4bit