跳到主要内容
返回目录

\tTokenNameIdentifier

制表符(Tab)开头的 .NET Selenium 文档碎片,Llama-3 词表中嵌入最小的 token 之一。

原始 token

"\tTokenNameIdentifier"

异常表现

  • 01Magikarp 验证中 Llama-3-8B 欠训练榜单头部:输入 embedding L2 范数约 1.66e-21,几乎为零。GitHub
  • 02在 Qwen2.5-7B 上其输入 embedding 完全为零(指标 ind=0)。GitHub
公开记录于
Llama 3Qwen
行为类型
欠训练验证
分词器
Llama-3 BPE / Qwen2Tokenizer
发现者
Sander Land & Max Bartolo