温馨提示：您尚未登录，请点 登陆 后下载，如果您还没有账户请点 注册 ，登陆完成后，请刷新本页查看技术详细信息。

本发明涉及大模型技术领域，公开了大模型推理优化方法、装置、计算机设备及介质，该方法包括：接收当前输入请求，并判断当前输入请求是否存在于端侧缓存中；如果当前输入请求存在于所述端侧缓存中，则确定所述端侧缓存中与当前输入请求对应的输出结果为基于当...
该专利属于广西桂云通科技有限公司所有，仅供学习研究参考，未经过广西桂云通科技有限公司授权不得商用。

详细技术文档下载地址

温馨提示：您尚未登录，请点 登陆 后下载，如果您还没有账户请点 注册 ，登陆完成后，请刷新本页查看技术详细信息。