温馨提示：您尚未登录，请点 登陆 后下载，如果您还没有账户请点 注册 ，登陆完成后，请刷新本页查看技术详细信息。

本发明公开了一种大语言模型的推理方法、装置、设备及存储介质，包括：获取用户输入的原始模型，对推理引擎进行初始化配置，通过预设的集成训练工具，根据推理引擎对应的当前优化策略，对原始模型中的模型层与算子进行替换，同时对原始模型进行切分，并将多个...
该专利属于北京潞晨科技有限公司所有，仅供学习研究参考，未经过北京潞晨科技有限公司授权不得商用。

详细技术文档下载地址

温馨提示：您尚未登录，请点 登陆 后下载，如果您还没有账户请点 注册 ，登陆完成后，请刷新本页查看技术详细信息。