【技术实现步骤摘要】
本专利技术涉及电数字数据处理领域，具体涉及一种多模态大模型的自适应训练与推理性能优化系统。
技术介绍
1、随着人工智能技术的发展，各种大模型训练系统逐渐应用于各类场合，在现有技术中，通过训练大模型能够自动对模型中的参数进行优化，实现最终的模型功能，但针对模型本身框架的优化，仍需要人为进行，因此，需要一种能够对模型框架进行优化的系统，通过与训练系统的对接来自动化完成模型优化，提高训练系统的训练效率。
2、
技术介绍
的前述论述仅意图便于理解本专利技术。此论述并不认可或承认提及的材料中的任一种公共常识的一部分。
3、现在已经开发出了很多模型优化系统，经过大量的检索与参考，发现现有的模型优化系统有如公开号为cn116561542b所公开的系统，这些系统方法一般包括：数据采集模块基于数据采集配置获取多模态数据；数据评估模块基于为不同模态数据匹配的模型评估标准配置，确定多模态数据与大语言模型之间的匹配程度得到数据质量评估报告；模型训练模块根据数据质量评估报告，调整大语言模型的模型结构和/或训练超参数，生成模型训练需求信息；模型...
【技术保护点】
1.一种多模态大模型的自适应训练与推理性能优化系统，其特征在于，包括多模态数据监测模块、模型框架解析模块、对接协议模块和推理优化模块；
2.如权利要求1所述的一种多模态大模型的自适应训练与推理性能优化系统，其特征在于，所述数据监测单元包括初始监测处理器、训练监测处理器和数据复制处理器，所述初始监测处理器用于与训练系统的数据输入接口进行对接并对输入的数据进行监测，所述训练检测处理器用于与训练模型的数据输入接口进行对接并对输入的数据进行监测，所述数据复制处理器用于对监测的数据进行复制。
3.如权利要求2所述的一种多模态大模型的自适应训练与推理性能优...
【技术特征摘要】
1.一种多模态大模型的自适应训练与推理性能优化系统，其特征在于，包括多模态数据监测模块、模型框架解析模块、对接协议模块和推理优化模块；
2.如权利要求1所述的一种多模态大模型的自适应训练与推理性能优化系统，其特征在于，所述数据监测单元包括初始监测处理器、训练监测处理器和数据复制处理器，所述初始监测处理器用于与训练系统的数据输入接口进行对接并对输入的数据进行监测，所述训练检测处理器用于与训练模型的数据输入接口进行对接并对输入的数据进行监测，所述数据复制处理器用于对监测的数据进行复制。
3.如权利要求2所述的一种多模态大模型的自适应训练与推理性能优化系统，其特征在于，所述推理分析单元包括数据解析处理器、性能评...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。