跳到正文
Simon Willison·· 7 小时前

ttok 1.0:默认分词器调整至 GPT-5/GPT-6

ttok 1.0

研究任务与主要进展

Simon Willison 发布 ttok 1.0,将默认分词器从 GPT-4 调整为 GPT-5/GPT-6。William Liu 的实验称 7 个 GPT 模型在 31 个测试样本上均报告 44,794 tokens,且 GPT-6 未增加输入计数;但 OpenAI 尚未确认 GPT-6 是否沿用 GPT-5 系列分词器。

阶段、条件与复现 · 深读核对

  • 新能力对应什么具体任务与最小输入输出?
  • 代码、模型、数据、许可与可用入口是否明确?
  • 效果、总成本、失效条件与实际工作流如何验证?

这些是阅读核对问题;材料未说明的条件保留未知。请阅读原文核验。

来源:Simon Willison · simonwillison.net