LLM 文本分割器

20,000 Token 的文本按 8,000 Token 的上限拆分,至少需要 3 部分(20,000 ÷ 8,000,向上取整),段落和句末留下空隙时会再多几部分。粘贴你的文本即可看到实际的分段和 Token 数。

问题解决了吗?

使用方法

  1. 粘贴文本。从预设(常用大小或模型上下文窗口)中选上限,或自己输入,并为指令和回复预留一些 Token。
  2. 想让每部分以“Part 1/N”开头,就打开页眉,你和模型都不会弄乱顺序。
  3. 逐段复制,或一次下载为一个 TXT 文件,或每部分一个文件的 ZIP。

计算方法

每部分最多容纳“Token 上限减去预留 Token”。Token 在浏览器里用 js-tiktoken 的 o200k_base 表(GPT-4o、GPT-4.1、GPT-5 系列)计数。

在放得下的最大自然边界处切分:先是段落间的空行,再是换行,然后是句末(. ! ? 以及中日韩标点),最后是词间空格。相邻片段被装进同一部分,直到下一片放不下,并核对拼接后文本的真实 Token 数。

打开页眉后,每部分前面会加一行“Part i/N”和一个空行,并计入上限。最长页眉所需的位置会先预留,所以不会有部分超限。

只有比整个上限还长的单个词才会被从中间切开,常见于 base64 或网址这类很长的无空格字符串。工具会告诉你发生了几次。

ZIP 在浏览器里生成,不压缩,每部分一个 TXT 文件。

常见问题

为什么要为 LLM 拆分文本?

提示词连同回复必须放进上下文窗口。文本太长时,可以加上“Part 1/3”这样的页眉分批发送,并请模型收齐所有部分后再回答。

Part 页眉怎么用?

先发一条说明,例如:“我会把一段长文分成 N 部分发送。在我说发完之前,只回复 OK。”然后按顺序粘贴各部分。页眉能让顺序一目了然。

对 Claude 或 Gemini 也精确吗?

只有 OpenAI 的 o200k_base 是精确的。Claude 和 Gemini 的分词方式不同,也没有公开离线分词器,数字可能有出入。可用“预留 Token”留出余量。

各部分之间会重叠吗?

不会。各部分依次相接,不重复文字。需要用于检索的重叠窗口时,请用 RAG 分块计算器。

我的文本会被上传吗?

不会。拆分、计数和下载都在浏览器内完成,只有分词表会从本站下载一次。