词表突破：Claude 的小型分词器

据报道，Claude 当前的分词器词汇量仅约 1.5 万条，远低于行业普遍追求更大词表的趋势。有观点认为 Anthropic 是在规避最终 softmax 层带来的瓶颈，这一取舍可能影响模型训练效率与行为表现。