专利查询
首页
专利评估
登录
注册
李皓霖专利技术
李皓霖共有1项专利
用于大语言模型分布式推理的计算任务分配系统及方法技术方案
本发明公开了一种用于大语言模型分布式推理的计算任务分配系统,包括环境部署模块、模型分割模块、计算任务分配模块和子模型运行模块。本发明通过模型拆分、流水线式推理和线性规划,能够在手机端实现分布式的运行大语言模型进行推理等工作,充分调用边缘...
1
科研机构数量排行前10
华为技术有限公司
133944
珠海格力电器股份有限公司
99092
中国石油化工股份有限公司
87105
浙江大学
81097
三星电子株式会社
68155
中兴通讯股份有限公司
67282
国家电网公司
59735
清华大学
56382
腾讯科技深圳有限公司
54182
华南理工大学
51642
最新更新发明人
北京天玛智控科技股份有限公司
689
中铁二局第一工程有限公司
352
康键信息技术深圳有限公司
1106
新疆维吾尔自治区农业科学院
183
西安聚能超导线材科技有限公司
187
深圳库犸科技有限公司
558
杭州弘通线缆有限公司
12
中国工商银行股份有限公司
21447
昆山龙腾光电股份有限公司
1878
东莞市蓝科数控技术有限公司
1