杭州丝起科技有限公司专利技术

杭州丝起科技有限公司共有1项专利

  • 本申请提供一种边缘自组网的大语言模型协同推理方法及系统,包括:S1.在局域网内通过点对点协议发现至少一个可用的推理机并获取所述推理机的性能参数,所述性能参数包括计算能力和可用内存;S2.根据所述推理机的数量和所述性能参数,动态选择并行策...
1