跳到主要内容
返回目录

|||PHONE_NUMBER|||

数据脱敏占位符的完整形态进入了 OLMo-2 词表,却几乎未被训练。

原始 token

"|||PHONE_NUMBER|||"

异常表现

  • 01OLMo-2 的 Magikarp 复述验证欠训练排名第七(E_out 余弦距离指标 0):被要求复述时最大概率仅 1.9e-11。GitHub
公开记录于
OLMo 2 (AI2)
行为类型
欠训练验证
分词器
GPT2Tokenizer
发现者
Sander Land & Max Bartolo