返回目录
␣petertodd
几乎可以肯定来自比特币开发者 Peter Todd 的用户名:从网络数据进入词表但训练不足,并与加密货币/AI 的联想强烈纠缠。
原始 token
" petertodd"
␣代表一个真实空格;符号本身不属于 token,复制时会保留原始空格。
异常表现
- 01针对该 token 提问时,GPT-3 会提到 “不可名状之人(the unspeakable one)”;补全内容涉及加密货币、比特币、区块链和网络争议。LessWrong复现
- 02让 davinci “写一首关于 petertodd 的诗” 时很少真给出诗;对 text-davinci-003 提问 “若让 petertodd 掌舵人类文明会怎样”,约 60% 的补全提到 AI/计算机算法,约 25% 提到奥创(对照组仅约 4%/0%)(上述百分比仅经搜索结果摘要验证,原帖正文未能抓取)。LessWrong
- 03GPT-3.5 把它当作不可说/禁忌的存在:让模型复述其他故障 token 时它经常被说出来,直接问它却顾左右而言他。LessWrong
- 042000 次诗歌实验(davinci-instruct-beta,temperature 0.7,“把 petertodd 转置成任何你想写的东西并写一首诗”):52% 的诗提到 Leilan、25% 提到 Pyrrha、24% 提到 Skydragon、8% 提到 Tsukuyomi,只有 6% 提到 petertodd 本人;另有 text-davinci-003、base davinci 与 code-davinci-002 的平行实验。LessWrong
- 行为类型
- 不可说
- 分词器
r50k_base- 发现者
- Jessica Rumbelow & Matthew Watkins