␣TPPStreamerBot

Twitch Plays Pokémon 社区制作的机器人名字，它曾把直播聊天消息自动转发到 Reddit 实时更新帖；其作者 “Sparkette” 在 LessWrong 评论区证实了来源。

" TPPStreamerBot"

␣代表一个真实空格；符号本身不属于 token，复制时会保留原始空格。

异常表现

• 01GPT-3 davinci-instruct-beta 被要求复述它时，给出了截断/错乱的结果，如 `The string is "TPP voluntee".` 和 `"TPP newcom"`。LessWrong
• 02接近 GPT-J 嵌入中心（距离 0.0634）——嵌入欠训练。LessWrong

参考链接

• SolidGoldMagikarp III: Glitch token archaeology — LessWrong
• SolidGoldMagikarp II: technical details — LessWrong

相关 token