下载一种基于LLM模型的推理计算方法和装置的技术资料

文档序号:43129200

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

一种基于LLM模型的推理计算方法,应用于部署了目标LLM模型的服务设备;其中,基于所述目标LLM模型进行的推理计算包含具有预设的执行顺序的多项子计算;所述方法包括:获取用户通过加密的数据通道上传至所述服务设备搭载的TEE的推理数据;按照所述...
该专利属于蚂蚁科技集团股份有限公司所有,仅供学习研究参考,未经过蚂蚁科技集团股份有限公司授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。