文本处理
文本分块器
这是什么:把一段长文本切成大小合适的若干块,可设重叠,并尽量在句子结尾处断开。
使用步骤
- 粘贴长文本。把要切分的文本放进输入框。
- 设置大小和重叠。选择按字符还是按估算 Token 计量,填写每块大小和重叠长度。
- 复制各块。逐块点“复制”,或点“复制全部(JSON)”。
使用提示
- 程序会优先在句号、问号、感叹号和换行处断开,只有超长的句子才会被硬切。
- 重叠为 0 时,所有块按顺序拼接就是原文。
- 按 Token 计量时使用估算公式,不是真实的分词结果。
关于这个工具
做检索增强或分段处理长文档时,需要先把文本切成大小合适的块。重叠可以让相邻两块共享一小段内容,减少在边界处丢失上下文。