System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及计算机,尤其涉及一种图像生成方法、装置、设备及存储介质。
技术介绍
1、以stable diffusion模型为代表的文生图的应用正越来越受到用户的关注,但是stable diffusion模型较高的算力需求和内存需求,阻碍了其技术落地与进一步发展。在实际中,量化技术作为一种常用的模型压缩方式,可以极大的降低模型业务部署的算力需求与内存需求。
2、目前,现有的模型量化方法,通常采用单一时序点上的数据特征作为量化依据,但是,stable diffusion模型具有典型的时序特征,即在不同的时序点上,stable diffusion模型中的数据分布差异较大,现有技术会引入较大的误差,导致模型精度下降严重;而如果针对不同的时序点采用不同的量化参数,又会在模型部署时,严重降低模型推理效率。
技术实现思路
1、本专利技术提供了一种图像生成方法、装置、设备及存储介质,可以实现对具有时序特性的文生图模型的精准量化,可以在模型部署时提升模型推理效率。
2、根据本专利技术的一方面,提供了一种图像生成方法,包括:
3、获取预训练的文生图模型;
4、基于预设训练样本集对所述文生图模型进行离线量化,获取固定量化参数和多个可变量化参数;
5、通过预设推理引擎,根据所述固定量化参数和所述多个可变量化参数,对输入文本进行在线推理,以获取目标图像,并将所述目标图像进行可视化展示。
6、根据本专利技术的另一方面,提供了一种图像生成
7、模型获取模块,用于获取预训练的文生图模型;
8、参数获取模块,用于基于预设训练样本集对所述文生图模型进行离线量化,获取固定量化参数和多个可变量化参数;
9、图像获取模块,用于通过预设推理引擎,根据所述固定量化参数和所述多个可变量化参数,对输入文本进行在线推理,以获取目标图像,并将所述目标图像进行可视化展示。
10、根据本专利技术的另一方面,提供了一种电子设备,所述电子设备包括:
11、至少一个处理器;以及
12、与所述至少一个处理器通信连接的存储器;其中,
13、所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本专利技术任一实施例所述的图像生成方法。
14、根据本专利技术的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的图像生成方法。
15、本专利技术实施例的技术方案,通过获取预训练的文生图模型,并基于预设训练样本集对文生图模型进行离线量化,获取固定量化参数和多个可变量化参数;最后,通过预设推理引擎,根据固定量化参数和多个可变量化参数,对输入文本进行在线推理,以获取目标图像,并将目标图像进行可视化展示,通过将文生图模型的模型参数,分别离线量化为无需调整的固定量化参数,以及与时序特征相关的可变量化参数,可以实现对具有时序特性的文生图模型的精准量化,可以在模型部署时提升模型推理效率。
16、应当理解,本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征,也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
本文档来自技高网...【技术保护点】
1.一种图像生成方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,基于预设训练样本集对所述文生图模型进行离线量化,获取固定量化参数和多个可变量化参数,包括:
3.根据权利要求2所述的方法,其特征在于,根据各所述二维运算算子对应的时序点、算子输入值和算子输出值之间的关联关系,进行输入量化处理和输出量化处理,获取量化输入参数和量化输出参数,包括:
4.根据权利要求2所述的方法,其特征在于,根据各所述二维运算算子对应的权重值进行权重量化处理,获取量化权重参数,包括:
5.根据权利要求4所述的方法,其特征在于,根据所述量化输入参数、所述量化输出参数和所述量化权重参数,获取量化全局参数,包括:
6.根据权利要求2所述的方法,其特征在于,通过预设推理引擎,根据所述固定量化参数和所述多个可变量化参数,对输入文本进行在线推理,以获取目标图像,包括:
7.根据权利要求2-6中任一项所述的方法,其特征在于,二维运算算子包括线性算子和/或卷积算子。
8.一种图像生成装置,其特征在于,包括:
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的图像生成方法。
...【技术特征摘要】
1.一种图像生成方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,基于预设训练样本集对所述文生图模型进行离线量化,获取固定量化参数和多个可变量化参数,包括:
3.根据权利要求2所述的方法,其特征在于,根据各所述二维运算算子对应的时序点、算子输入值和算子输出值之间的关联关系,进行输入量化处理和输出量化处理,获取量化输入参数和量化输出参数,包括:
4.根据权利要求2所述的方法,其特征在于,根据各所述二维运算算子对应的权重值进行权重量化处理,获取量化权重参数,包括:
5.根据权利要求4所述的方法,其特征在于,根据所述量化输入参数、所述量化输出参...
【专利技术属性】
技术研发人员:李迎,张克俭,张亚林,
申请(专利权)人:北京燧原智能科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。