温馨提示：您尚未登录，请点 登陆 后下载，如果您还没有账户请点 注册 ，登陆完成后，请刷新本页查看技术详细信息。

本发明公开了一种大语言模型内存调度管理方法、系统和存储介质。本发明的大语言模型内存调度管理方法包括：在内存中给权重存储区分配内存；将内存中除去权重存储区部分后的剩余部分内存用作键值缓存和激活值存储区；对键值缓存和激活值存储区实施统一分页调度...
该专利属于上海交通大学所有，仅供学习研究参考，未经过上海交通大学授权不得商用。

详细技术文档下载地址

温馨提示：您尚未登录，请点 登陆 后下载，如果您还没有账户请点 注册 ，登陆完成后，请刷新本页查看技术详细信息。