一种图像生成方法、装置、设备及存储介质制造方法及图纸

技术编号:41137657 阅读:28 留言:0更新日期:2024-04-30 18:08
本发明专利技术涉及计算机技术领域,公开了一种图像生成方法、装置、设备及存储介质。该方法包括:获取预训练的文生图模型,并基于预设训练样本集对文生图模型进行离线量化,获取固定量化参数和多个可变量化参数;通过预设推理引擎,根据固定量化参数和多个可变量化参数,对输入文本进行在线推理,以获取目标图像,并将目标图像进行可视化展示。本实施例的技术方案,通过将文生图模型的模型参数,分别离线量化为无需调整的固定量化参数,以及与时序特征相关的可变量化参数,可以实现对具有时序特性的文生图模型的精准量化,可以在模型部署时提升模型推理效率。

【技术实现步骤摘要】

本专利技术涉及计算机,尤其涉及一种图像生成方法、装置、设备及存储介质


技术介绍

1、以stable diffusion模型为代表的文生图的应用正越来越受到用户的关注,但是stable diffusion模型较高的算力需求和内存需求,阻碍了其技术落地与进一步发展。在实际中,量化技术作为一种常用的模型压缩方式,可以极大的降低模型业务部署的算力需求与内存需求。

2、目前,现有的模型量化方法,通常采用单一时序点上的数据特征作为量化依据,但是,stable diffusion模型具有典型的时序特征,即在不同的时序点上,stable diffusion模型中的数据分布差异较大,现有技术会引入较大的误差,导致模型精度下降严重;而如果针对不同的时序点采用不同的量化参数,又会在模型部署时,严重降低模型推理效率。


技术实现思路

1、本专利技术提供了一种图像生成方法、装置、设备及存储介质,可以实现对具有时序特性的文生图模型的精准量化,可以在模型部署时提升模型推理效率。

2、根据本专利技术的一方面,提供了一本文档来自技高网...

【技术保护点】

1.一种图像生成方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,基于预设训练样本集对所述文生图模型进行离线量化,获取固定量化参数和多个可变量化参数,包括:

3.根据权利要求2所述的方法,其特征在于,根据各所述二维运算算子对应的时序点、算子输入值和算子输出值之间的关联关系,进行输入量化处理和输出量化处理,获取量化输入参数和量化输出参数,包括:

4.根据权利要求2所述的方法,其特征在于,根据各所述二维运算算子对应的权重值进行权重量化处理,获取量化权重参数,包括:

5.根据权利要求4所述的方法,其特征在于,根据所述量化输入参数...

【技术特征摘要】

1.一种图像生成方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,基于预设训练样本集对所述文生图模型进行离线量化,获取固定量化参数和多个可变量化参数,包括:

3.根据权利要求2所述的方法,其特征在于,根据各所述二维运算算子对应的时序点、算子输入值和算子输出值之间的关联关系,进行输入量化处理和输出量化处理,获取量化输入参数和量化输出参数,包括:

4.根据权利要求2所述的方法,其特征在于,根据各所述二维运算算子对应的权重值进行权重量化处理,获取量化权重参数,包括:

5.根据权利要求4所述的方法,其特征在于,根据所述量化输入参数、所述量化输出参...

【专利技术属性】
技术研发人员:李迎张克俭张亚林
申请(专利权)人:北京燧原智能科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1