Chonky:一个完全基于神经网络的文本分块工具
Chonky:一个完全基于神经网络的文本分块工具。它能将文本智能分割成有意义的语义块,帮助你更高效地处理和理解长文本。
亮点:
使用Transformer模型,精准分块;支持RAG系统,拓展应用范围;一行代码即可完成安装,简单易用。
参考文献:[1] https://github.com/mirth/chonky[2] https://huggingface.co/mirth/chonky_distilbert_base_uncased_1
关注公众号:拾黑(shiheibook)了解更多
[广告]赞助链接:
四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/

随时掌握互联网精彩
赞助链接
排名
热点
搜索指数
- 1 中央军委主席习近平签署命令 7904607
- 2 释小龙父亲任职的少林武校被执行 7809483
- 3 儿童票“量身高”不如“看年龄” 7713435
- 4 多预警齐发 这些区域谨慎前往 7619165
- 5 《黑太阳731》在港重映满座售罄 7521307
- 6 全球第二网红将于9月开启中国行 7427826
- 7 上海闹“蝉灾”给山东人急得团团转 7329238
- 8 全网最高调的炫富叫“东北独生女” 7237910
- 9 从诱导到得手仅3步学生被骗近9000元 7142921
- 10 沙特游乐场“大摆锤”突然断裂 7047777