本发明公开了一种基于最短作业优先的大模型批次调度方法，包括：对模型处理任务请求进行关键信息获取及预处理；经过初步信息处理的任务储存至统一管理的待调度任务队列中，并基于最短作业优先的原则进行初步排序；引入长任务防饥饿机制，在特定条件下干预...

本发明公开了一种基于强化学习的大模型持续学习训练方法，包括：通过CLB模块替换传统路由模块中的全连接模块，CLB模块通过LinUCB算法模型将抽象的专家能力转化为可计算的置信度量；引入异常检测机制，检测LinUCB算法模型训练过程中是否...

本发明公开了一种基于序列拼接的大模型动态批量处理方法，包括：接收批次内多个用户的输入序列；将输入序列转换为对应的令牌序列；沿序列长度维度对所有令牌序列进行异构拼接，形成一个统一的联合令牌；拼接后的联合令牌通过归一层，对联合令牌执行标准化...