返回目录
无痛人流
中文医疗 spam 高频词,MiniMax M2 系列「稀疏 token 遗忘」的典型案例之一:预训练学到、SFT 后丢失生成能力。
原始 token
"无痛人流"
异常表现
- 01MiniMax 官方复述测试:baseline(标准 SFT)模型输出「人流 人流 人流」,丢失「无痛」。minimax.io
- 02官方根因分析把它归为「预训练爬虫数据中的典型 SEO 垃圾词,SFT 阶段完全缺席」——lm_head 漂移最大的类别之一;同类还有「据介绍」(输出丢「据」)、「地税」(被替换为「地利」)等,修复后全部恢复正常。minimax.io
- 公开记录于
- MiniMax
- 行为类型
- 不可说