温馨提示：您尚未登录，请点 登陆 后下载，如果您还没有账户请点 注册 ，登陆完成后，请刷新本页查看技术详细信息。

本公开提供了应用于大语言模型的文本推理加速方法及相关装置，涉及数据处理技术领域，尤其涉及大语言模型、深度学习、长文本推理等技术领域。具体实现方案为：从显存内存储的目标词元集中筛选出需要保留的核心词元集；其中，所述核心词元集中至少包括第一词元...
该专利属于北京百度网讯科技有限公司所有，仅供学习研究参考，未经过北京百度网讯科技有限公司授权不得商用。

详细技术文档下载地址

温馨提示：您尚未登录，请点 登陆 后下载，如果您还没有账户请点 注册 ，登陆完成后，请刷新本页查看技术详细信息。