[中文|English]
BytePiece是一个Byte-based的Unigram分词器，纯Python实现，更加易读和易拓展。由于采用了新的训练算法，所以压缩率通常比现有Tokenizer更高，同时支持多进程加速训练。此外，它直接操作文本的UTF-8 Bytes，几乎不进行任何的预处理，所以更加纯粹和语言无关。
博客：
理想的Tokenizer及其训练算法，应该具备以下特点：
- 无损重构
- 高压缩率
- 语言无关
- 数据驱动
- 训练友好
目前主流的SentencePiece，事实上已经基本具备以上特性，但仍存在一些问题。比如：它支持BPE和Unigram两种算法，BPE压缩率往往更高一些，但训练极慢，而且非常耗内存；它还是对文本进行了少许语言相关的预处理的，所以“语言无关”这一点也不够纯粹。此外，它是用C++写的，对于多数用户来说就是黑箱，因此也不利于研究和修改。
BytePiece构思了新的基于 Byte-based N-gram Language Model（BNLM） 的训练方式，能获得更高压缩率的词表，同时支持多进程训练，同等语料下相比SentencePiece的BPE训练有明显的加速。代码是纯Python，方便大家阅读和二次修改。此外，BytePiece还提供了比Subword Regularization更加高效的随机分词算法。
BytePiece并非单纯基于Byte-based和多进程来重写已有的Unigram模型，而是为Unigram设计了新的训练方案，这是它压缩率更高的关键原因之一。
新的训练方案基于N-gram语言模型的新词发现算法，首次提出于笔者7年前的博客《【中文分词系列】 5. 基于语言模型的无监督分词》，细节请移步阅读。
至于新的随机分词算法，则可以参考《随机分词浅探：从Viterbi Decoding到Viterbi Sampling》和《随机分词再探：从Viterbi Sampling到完美采样算法》。
BytePiece只能运行在Python3上，使用了pyahocorasick来加速训练过程。由于BytePiece是Byte-based的，而PyPi上的pyahocorasick是Unicode-based的，所以不能直接用，需要参考如下方式安装Byte-based版的pyahocorasick：
# 如果已经安装，请先卸载
pip uninstall pyahocorasick
# 直接从git编译安装，注意要传入环境变量AHOCORASICK_BYTES
AHOCORASICK_BYTES=1 pip install git+https://github.com/WojciechMula/pyahocorasick.git然后安装Cython：
pip install Cython安装完之后，就可以用pip安装BytePiece了：
pip install bytepiece==0.6.3BytePiece的所有源码其实也就是单文件，包含Trainer和Tokenizer两个类，分别对应训练和分词。
训练Tokenizer只需要引入Trainer类：
from bytepiece import Trainer然后准备训练语料。BytePiece支持不一次性将所有语料读进内存中，但由于BytePiece训练需要过两遍数据，所以不支持Generator输入，而是要写成Iterator的形式，例如：
import json
class corpus:
def __iter__(self):
f = 'data_sample.json'
with open(f) as f:
for l in f:
yield json.loads(l)['text'] # 每次返回一个Unicode然后就可以正式训练了：
trainer = Trainer(order=6, max_vocab_size=100000, min_count=32)
trainer.train(corpus(), workers=64, batch_size=1000)
trainer.save('bytepiece.model')这里的order就是n-gram语言模型的阶，推荐默认order=6就好；max_vocab_size是词表最大尺寸，注意由于去冗的原因，最后得到的词表不一定精确等于max_vocab_size，而是有可能会略少于；min_count则是token最低出现频数，数据量大时可以适当调大，一般不会明显影响训练结果；workers是并行训练的进程数，可以跑满机器的所有核心；batch_size是批大小，不会影响训练结果，一般情况下不用改，如果发现CPU利用率不满可以适当调大。
此外，0.4.1版本开始新增isolate_digits参数，默认为False，当改为True时，保证将所有阿拉伯数字都切分为单个字符：
trainer = Trainer(order=6, max_vocab_size=100000, min_count=32, isolate_digits=True)0.6.0版本开始新增ensure_unicode参数，能够保证所有的多字节token都可以还原为unicode，由于目前结果显示启用ensure_unicode后，训练得到的模型压缩率通常还高一些，所以默认为True，当改为False时（等价于0.6.0之前的版本），多字节token可能需要decode(errors='ignore')才能还原为unicode：
trainer = Trainer(order=6, max_vocab_size=100000, min_count=32, ensure_unicode=True)训练完成后，参考使用方式：
from bytepiece import Tokenizer
tokenizer = Tokenizer('bytepiece.model')
text = '今天天气不错'
tokens = tokenizer.tokenize(text) # 返回bytes的list
print(b' '.join(tokens).decode(errors='ignore')) # 可视化分词结果
ids = tokenizer.encode(text) # 返回tokens对应的ids
print(tokenizer.decode(ids)) # 重新将ids解码为unicode文本
ids = tokenizer.encode(text, iter=True) # 返回ids的generator
tokens = tokenizer.tokenize(text, alpha=0.2) # 随机tokenize
print(b' '.join(tokens).decode(errors='ignore')) # 可视化分词结果小数据量对比：
| 训练时间↓ | 最大内存占用↓ | 压缩率↑ | 分词速度↑ | |
|---|---|---|---|---|
| SP-BPE | 55.3分钟 | 5.2GB | 4.80 | 5.47 |
| SP-Unigram | 1.6分钟 | 2.5GB | 4.73 | 7.84 |
| BytePiece | 6.5分钟 | 4.3GB | 5.05 | 2.50 |
大数据量对比：
| 训练时间↓ | 最大内存占用↓ | 压缩率(同源)↑ | 压缩率(异源)↑ | 分词速度↑ | |
|---|---|---|---|---|---|
| SP-BPE | 19.21小时 | 97GB | 4.52 | 4.46 | 1.27 |
| SP-Unigram | 2.02小时 | 384GB | 4.51 | 4.48 | 5.55 |
| BytePiece | 2.24小时 | 51GB | 5.39 | 4.51 | 1.92 |
压缩率的单位是“bytes/token”，即平均每个token对应的字节数；速度的单位是“M bytes/second”，即平均每秒可以切分的字节数（以百万为单位）。其他细节请参考这里。
第一个表格的数据集平均长度较短，BytePiece同时慢于SP-BPE和SP-Unigram；在第二个表格中，语料的平均长度普遍更长，出现了BytePiece的速度优于SP-BPE的结果。这说明BPE的分词速度受长度影响比较明显，也说明经过Cython加速的BytePiece分词速度，速度上已经可以跟SentencePiece相比较。
下载开源的BytePiece模型请移步到models。
0.6.2版开始引入convert_to_sentencepiece方法，支持将ensure_unicode版模型转为sentencepiece模型，并用sentencepiece加载：
from bytepiece import Tokenizer
tokenizer1 = Tokenizer('bytepiece.model')
tokenizer1.convert_to_sentencepiece('bytepiece_sp.model')
import sentencepiece as spm
tokenizer2 = spm.SentencePieceProcessor('bytepiece_sp.model')
tokenizer1.encode('今天天气不错')
tokenizer2.encode('今天天气不错')对于大部分输入，两个版本的模型都能够获得相同的分词结果和相同的编码ids。但无论如何，bytepiece和sentencepiece的处理逻辑不完全一样，bytepiece更加纯粹一些，而sentencepiece加了很多莫须有的预处理操作，这导致两个版本的模型无法完全对齐。目前已知的问题之一是，当输入包含多个连续换行符(\n)时，分词结果可能会有分歧。
@misc{bytepiece2023,
title={BytePiece: A more pure and effective tokenizer},
author={Jianlin Su},
year={2023},
howpublished={\url{https://github.com/bojone/bytepiece}},
}
QQ群：67729435，微信群请加机器人spaces_ac_cn