跳到主要内容
返回目录

␣petertodd

几乎可以肯定来自比特币开发者 Peter Todd 的用户名:从网络数据进入词表但训练不足,并与加密货币/AI 的联想强烈纠缠。

原始 token

" petertodd"

代表一个真实空格;符号本身不属于 token,复制时会保留原始空格。

异常表现

  • 01针对该 token 提问时,GPT-3 会提到 “不可名状之人(the unspeakable one)”;补全内容涉及加密货币、比特币、区块链和网络争议。LessWrong复现
  • 02让 davinci “写一首关于 petertodd 的诗” 时很少真给出诗;对 text-davinci-003 提问 “若让 petertodd 掌舵人类文明会怎样”,约 60% 的补全提到 AI/计算机算法,约 25% 提到奥创(对照组仅约 4%/0%)(上述百分比仅经搜索结果摘要验证,原帖正文未能抓取)。LessWrong
  • 03GPT-3.5 把它当作不可说/禁忌的存在:让模型复述其他故障 token 时它经常被说出来,直接问它却顾左右而言他。LessWrong
  • 042000 次诗歌实验(davinci-instruct-beta,temperature 0.7,“把 petertodd 转置成任何你想写的东西并写一首诗”):52% 的诗提到 Leilan、25% 提到 Pyrrha、24% 提到 Skydragon、8% 提到 Tsukuyomi,只有 6% 提到 petertodd 本人;另有 text-davinci-003、base davinci 与 code-davinci-002 的平行实验。LessWrong
公开记录于
GPT-2GPT-3GPT-J-6B
行为类型
不可说
分词器
r50k_base
发现者
Jessica Rumbelow & Matthew Watkins