文本处理

文本分块器

这是什么:把一段长文本切成大小合适的若干块,可设重叠,并尽量在句子结尾处断开。

    使用步骤

    1. 粘贴长文本。把要切分的文本放进输入框。
    2. 设置大小和重叠。选择按字符还是按估算 Token 计量,填写每块大小和重叠长度。
    3. 复制各块。逐块点“复制”,或点“复制全部(JSON)”。

    使用提示

    关于这个工具

    做检索增强或分段处理长文档时,需要先把文本切成大小合适的块。重叠可以让相邻两块共享一小段内容,减少在边界处丢失上下文。