Lookahead Decoding

简介:

打破LLM推理的顺序依赖性

功能:

打破LLM推理的顺序依赖性

提高推理效率

支持LLaMA和Greedy Search两种模型

需求人群:

"用户可以在自己的代码中导入Lookahead Decoding库,使用Lookahead Decoding改进代码的推理效率。"

浏览量:220

打开站点

类似产品

© 2025     AIbase    备案号:闽ICP备08105208号-14

隐私政策

用户协议

意见反馈 网站地图