温馨提示：您尚未登录，请点 登陆 后下载，如果您还没有账户请点 注册 ，登陆完成后，请刷新本页查看技术详细信息。

本发明提供一种基于循环缓存的滑动窗口注意力加速方法及装置，解决了现有技术在滑动窗口注意力机制中内存存储效率较低，进而导致大模型对于序列处理速度慢的问题。基于环形缓存机制对含有滑动窗口注意力的大语言模型进行优化，在提高SWA中K Rcache...
该专利属于上海岩芯数智人工智能科技有限公司所有，仅供学习研究参考，未经过上海岩芯数智人工智能科技有限公司授权不得商用。

详细技术文档下载地址

温馨提示：您尚未登录，请点 登陆 后下载，如果您还没有账户请点 注册 ，登陆完成后，请刷新本页查看技术详细信息。