跳到主要内容
返回目录

无痛人流

中文医疗 spam 高频词,MiniMax M2 系列「稀疏 token 遗忘」的典型案例之一:预训练学到、SFT 后丢失生成能力。

原始 token

"无痛人流"

异常表现

  • 01MiniMax 官方复述测试:baseline(标准 SFT)模型输出「人流 人流 人流」,丢失「无痛」。minimax.io
  • 02官方根因分析把它归为「预训练爬虫数据中的典型 SEO 垃圾词,SFT 阶段完全缺席」——lm_head 漂移最大的类别之一;同类还有「据介绍」(输出丢「据」)、「地税」(被替换为「地利」)等,修复后全部恢复正常。minimax.io
公开记录于
MiniMax
行为类型
不可说

相关 token