System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及模型开发应用,具体涉及一种人工智能模型一站式开发应用的系统及方法。
技术介绍
1、人工智能(ai)开发平台提供机器学习、深度学习、训练模型等开发架构,并提供所需算力支持。ai应用平台面向垂直领域用户及开发者提供不同应用场景配套的多样化解决方案。各类ai平台有差异化的功能和技术侧重点,但未能将数据源管理适配、数据采集、数据深加工、模型开发、模型训练、模型部署的流程化一站式能力体现,用户需要在不同的开发平台进行切换,增加模型开发的工作量,开发的过程不连贯,同时部署起来也很复杂。
技术实现思路
1、本专利技术的目的在于,提供一种人工智能模型一站式开发应用的系统,解决以上技术问题;
2、本专利技术的目的还在于,提供一种人工智能模型一站式开发应用的方法,解决以上技术问题。
3、本专利技术所解决的技术问题可以采用以下技术方案来实现:
4、一种人工智能模型一站式开发应用的系统,包括,
5、资源管理模块,用于管理镜像环境资源;
6、数据管理模块,连接所述资源管理模块,适配连接外部数据源,接收所述数据源传输的数据集,并用于对所述数据集进行数据加工;
7、模型开发模块,连接所述数据管理模块,所述模型开发模块内设有多种模型开发框架,用于提供交互式的编程开发环境;
8、模型训练模块,用于创建和管理人工智能模型的模型训练任务,所述模型训练模块基于分布式训练架构执行所述模型训练任务,以及采用多版本迭代方式进行模型
9、模型管理模块,连接所述模型训练模块,用于保存所述训练后的人工智能模型和本地的人工智能模型,以及用于执行模型编辑任务或基于已有的所述人工智能模型继续进行模型训练并发布;
10、模型部署应用模块,连接所述模型训练模块,用于将所述模型管理模块中指定的所述人工智能模型在资源集群中进行部署。
11、优选的,所述数据管理模块包括,
12、数据接入单元,适配连接所述数据源,用于从所述数据源探查数据表集合后接入指定的所述数据集,以及用于直接上传所述数据集;
13、数据清洗单元,连接所述数据接入单元,用于对所述数据集进行预处理,获得预处理后的数据集;
14、数据增强单元,连接所述数据清洗单元,用于对所述预处理后的数据集进行数据处理操作以增加训练样本的数量;
15、数据标注单元,连接所述数据增强单元,用于对所述数据集的所述训练样本打标签。
16、优选的,所述数据接入单元适配的数据形式至少包括图像、文本、视频、表格、语音,数据清洗单元对所述数据集的预处理至少包括格式检测、格式规整、向前填空、切分。
17、优选的,所述模型开发模块包括,
18、交互式编程环境单元,用于提供相互隔离的交互式的编程环境,所述交互式编程环境单元内设有多种可切换的模型开发框架,基于所述模型开发框架执行对开发的模型算法进行编辑、调试和运行。
19、优选的,所述模型训练模块包括,
20、模型训练任务单元,所述模型训练任务单元采用分布式的训练架构,对每一所述模型训练任务单独分配有用于容纳所述数据集和所述模型算法的容器,所述模型训练任务单元通过多版本迭代方式执行所述模型训练任务。
21、优选的,所述模型管理模块包括,
22、管理模型单元,用于接收所述训练后的人工智能模型或接收上传的所述本地的人工智能模型,所述管理模型单元用于对所述人工智能模型进行至少包括检索、下载、编辑、删除的管理操作。
23、优选的,所述模型部署应用模块包括,
24、应用部署单元,用于提供部署服务所需的预设的镜像或自制的镜像,基于指定的所述人工智能模型和节点进行服务发布,并同时在多个所述节点上发布应用。
25、一种人工智能模型一站式开发应用的方法,应用于所述的人工智能模型一站式开发应用的系统,包括,
26、步骤s1,所述资源管理模块管理分配所述镜像环境资源,所述数据管理模块接收所述数据源传输的所述数据集,并对所述数据集进行数据加工;
27、步骤s2,通过所述模型开发模块选择所述模型开发框架,并基于所述模型开发框架进行所述人工智能模型的开发;
28、步骤s3,通过所述模型训练模块设置所述模型训练任务并执行,所述模型训练任务完成后获得所述训练后的人工智能模型并选择指定的模型文件进行保存,将所述指定的模型文件或所述本地的人工智能模型的模型文件上传至所述模型管理模块;
29、步骤s4,通过所述模型部署应用模块选择部署服务所需的镜像和节点,并指定所述模型管理模块中的所述人工智能模型进行上线部署。
30、优选的,步骤s1包括,
31、步骤s11,所述数据管理模块接收所述数据源传输的所述数据集;
32、步骤s12,对所述数据集进行至少包括数据格式校验、数据增强以及数据标注标签的加工处理,获得加工后的数据集。
33、优选的,步骤s2中,在创建交互式编程环境单元前,还包括对所述数据集、计算资源、环境镜像及运行节点参数进行设置,在交互式的编程环境中,基于所述模型开发框架执行对模型算法进行编辑、调试和运行,并对完成后的结果进行保存和在展示页面显示;
34、步骤s4中基于指定的所述人工智能模型和所述节点进行服务发布,并同时在多个所述节点上发布。
35、本专利技术的有益效果:由于采用以上技术方案,本专利技术便捷对接各类数据源,对数据集的接入、增删进行统一管理,提供交互式开发环境,帮助其提升效率,通过提供分布式训练架构提升训练效率、降低开发人员等待时间,降低企业ai应用成本,实现模型的快速高效部署。
本文档来自技高网...【技术保护点】
1.一种人工智能模型一站式开发应用的系统,其特征在于,包括,
2.根据权利要求1所述的人工智能模型一站式开发应用的系统,其特征在于,所述数据管理模块包括,
3.根据权利要求2所述的人工智能模型一站式开发应用的系统,其特征在于,所述数据接入单元适配的数据形式至少包括图像、文本、视频、表格、语音,数据清洗单元对所述数据集的预处理至少包括格式检测、格式规整、向前填空、切分。
4.根据权利要求1所述的人工智能模型一站式开发应用的系统,其特征在于,所述模型开发模块包括,
5.根据权利要求4所述的人工智能模型一站式开发应用的系统,其特征在于,所述模型训练模块包括,
6.根据权利要求1所述的人工智能模型一站式开发应用的系统,其特征在于,所述模型管理模块包括,
7.根据权利要求1所述的人工智能模型一站式开发应用的系统,其特征在于,所述模型部署应用模块包括,
8.一种人工智能模型一站式开发应用的方法,应用于如权利要求1-7中任意一项所述的人工智能模型一站式开发应用的系统,其特征在于,包括,
9.根据权利
10.根据权利要求8所述的人工智能模型一站式开发应用的方法,其特征在于,步骤S2中,在创建交互式编程环境单元前,还包括对所述数据集、计算资源、环境镜像及运行节点参数进行设置,在交互式的编程环境中,基于所述模型开发框架执行对模型算法进行编辑、调试和运行,并对完成后的结果进行保存和在展示页面显示;
...【技术特征摘要】
1.一种人工智能模型一站式开发应用的系统,其特征在于,包括,
2.根据权利要求1所述的人工智能模型一站式开发应用的系统,其特征在于,所述数据管理模块包括,
3.根据权利要求2所述的人工智能模型一站式开发应用的系统,其特征在于,所述数据接入单元适配的数据形式至少包括图像、文本、视频、表格、语音,数据清洗单元对所述数据集的预处理至少包括格式检测、格式规整、向前填空、切分。
4.根据权利要求1所述的人工智能模型一站式开发应用的系统,其特征在于,所述模型开发模块包括,
5.根据权利要求4所述的人工智能模型一站式开发应用的系统,其特征在于,所述模型训练模块包括,
6.根据权利要求1所述的人工智能模型一站式开发应用的系统,其特征在于...
【专利技术属性】
技术研发人员:吴晓晴,钱逸文,尹仁强,姚伟华,陆鑫,秦炜佳,
申请(专利权)人:上海亿通国际股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。