跳到主要内容
返回目录

␣GoldMagikarp

␣SolidGoldMagikarp 的截断变体(少了 “Solid”):同属 r/counting 用户名片段,被抓进分词器语料却几乎没出现在模型训练数据中。

原始 token

" GoldMagikarp"

代表一个真实空格;符号本身不属于 token,复制时会保留原始空格。

异常表现

  • 01被要求复述时,GPT-3 引出怪异对话,如 “You said ' newcom,' the computer said”——截断变体特有的崩坏。LessWrong
公开记录于
GPT-2GPT-3
行为类型
不可说
分词器
r50k_base
发现者
Jessica Rumbelow & Matthew Watkins