SmartyHeaderCode

Adam Yedidia 在 cl100k 词表最高 2000 个 token 中发现的仅有的三个 A 类 “不可说” token 之一；疑似 Smarty 模板引擎的碎片，从未出现在 GPT-3.5/4 的训练数据中。

"SmartyHeaderCode"

异常表现

• 01GPT-4 基本当它不存在：忽略它，或顾左右而言他。LessWrong
• 02GPT-3.5 则编造 “创造性” 的解释而不复述；想让任一模型把它拼写出来都非常困难。LessWrong
• 03测试渠道为 2023 年 4 月的 ChatGPT 网页版（GPT-3.5 Default 与 GPT-4 两档）；作者随后用 API 的 gpt-3.5-turbo 在 temperature=0 下复现：SmartyHeaderCode 被复述成了 “AndHashCode”。LessWrong复现

参考链接

• SmartyHeaderCode: anomalous tokens for GPT3.5 and GPT-4 — LessWrong