当前位置: 首页 > 专利查询>扬州大学专利>正文

基于生成对抗和卷积神经网络的UI生成Web代码的方法技术

技术编号:22387029 阅读:60 留言:0更新日期:2019-10-29 06:25
本发明专利技术公开了一种基于生成对抗和卷积神经网络的UI生成Web代码的方法,包括:构建HTML元素显示效果与其源代码的映射关系;识别图片I中HTML元素的位置;生成I完整的HTML代码;求取人工编写的HTML代码与生成的HTML代码的相似度Sim1;求取图片I与经生成的HTML代码生成的图片I1的相似度Sim2;将Sim1和Sim2平衡为Sim0,判别Sim0与阈值t的关系,若Sim0小于t,重复上述过程,反之,执行下一步;经过上一步训练,获得图片到HTML代码的生成模型M,将待处理的UI图片输入模型M即得到相应的HTML代码。本发明专利技术方法能够获得图片到HTML代码的生成模型M,对M输入待处理的UI图片,便能生成相应的HTML代码,普适性和通用性更强,可以取代实际开发中的部分环节,使实际使用成本更低、应用领域更广。

A method of generating web code from UI based on generating antagonism and convolutional neural network

【技术实现步骤摘要】
基于生成对抗和卷积神经网络的UI生成Web代码的方法
本专利技术属于软件开发领域,特别是一种基于生成对抗和卷积神经网络的UI生成Web代码的方法。
技术介绍
由于软件产品的规模和复杂性爆炸式增长,快速开发软件变得越来越具有挑战性,尤其在软件开发的初期阶段,设计师设计好原型图,将原型图用代码实现出来,这个工作量非常繁重且效率极低。通过研究软件代码的自动生成,开发人员可以在开发过程中,加速自己的开发进度,更快速的实现软件功能,最终迅速的推出自己的软件产品。因此,对自动软件代码生成的研究越来越重要。目前针对自动代码生成有很多技术,包括基于模板的Freemarker、XSLT、velocity,基于模型驱动的MDA、MDD,基于对象关系映射的ORM、MVC,基于文档注释的Annotation、XDoclet,以及基于代理动态类的AOP、PROXY、ASM,这些自动代码生成方法都只是在软件开发过程中起着局部的辅助作用,并不能取代软件开发的某个环节,对提高软件开发速度的作用相当有限。此外,这些自动代码生成方法,都需要先进行相关领域的学习,再掌握了这些方法后才可在实际开发中进行应用,其使用门槛较高本文档来自技高网...

【技术保护点】
1.一种基于生成对抗和卷积神经网络的UI生成Web代码的方法,其特征在于,包括以下步骤:步骤1、构建HTML元素显示效果与其源代码的映射关系;步骤2、对UI图片I进行目标识别,识别I中HTML元素的位置;步骤3、结合步骤1的映射关系和步骤2的HTML元素的位置,生成图片I完整的HTML代码;步骤4、针对上述UI图片I,求取人工编写的HTML代码与生成的HTML代码的相似度Sim1;步骤5、求取UI图片I与经所述生成的HTML代码生成的图片I1的相似度Sim2;步骤6、步骤2、3构成生成对抗网络GAN中的生成网络G,步骤4、5构成GAN中的判别网络D,对G和D进行极小极大博弈,在所有可能的G和D...

【技术特征摘要】
1.一种基于生成对抗和卷积神经网络的UI生成Web代码的方法,其特征在于,包括以下步骤:步骤1、构建HTML元素显示效果与其源代码的映射关系;步骤2、对UI图片I进行目标识别,识别I中HTML元素的位置;步骤3、结合步骤1的映射关系和步骤2的HTML元素的位置,生成图片I完整的HTML代码;步骤4、针对上述UI图片I,求取人工编写的HTML代码与生成的HTML代码的相似度Sim1;步骤5、求取UI图片I与经所述生成的HTML代码生成的图片I1的相似度Sim2;步骤6、步骤2、3构成生成对抗网络GAN中的生成网络G,步骤4、5构成GAN中的判别网络D,对G和D进行极小极大博弈,在所有可能的G和D中,求出平衡解,即使得G生成与人工编写的HTML代码具有相同分布的HTML代码,所述平衡解将步骤4中的Sim1和步骤5中的Sim2平衡为Sim0,之后判别Sim0是否大于设定的阈值t,若Sim0小于t,重复步骤2至步骤5,反之,执行步骤7;步骤7、经过步骤6的训练,根据最终获得的GAN的生成网络G和判别网络D即获得图片到HTML代码的生成模型M,将待处理的UI图片输入模型M即得到相应的HTML代码。2.根据权利要求1所述的基于生成对抗和卷积神经网络的UI生成Web代码的方法,其特征在于,步骤1所述构建HTML元素显示效果与其源代码的映射关系,具体为:利用卷积神经网络CNN提取HTML元素的特征图,将HTML元素的特征图与HTML代码一一对应。3.根据权利要求1或2所述的基于生成对抗和卷积神经网络的UI生成Web代码的方法,其特征在于,步骤2所述对UI图片I进行目标识别,识别I中HTML元素的位置,具体包括:步骤2-1、利用卷积神经网络CNN提取UI图片I的特征图,具体为:利用卷积层convolution、池化层pooling、修正线性单元ReLU三层提取特征图,在卷积时进行扩边处理,以保证多次卷积后不改变输入和输出的矩阵大小;步骤2-2、利用候选框网络RPN生成目标候选框;步骤2-3、由池化层pooling中的候选框池化RoIPooling层提取所述目标候选框对应的候选特征图;步骤2-4、结合目标候选框对应的候选特征图,由分类层检测目标候选框最终的精确位置即UI图片I中HTML元素的位置。4.根据权利要求3所述的基于生成对抗和卷积神经网络的UI生成Web代码的方法,其特征在于,步骤2-2所述利用候选框网络RPN生成目标候选框,具体为:步骤2-2-1、在原图I中设置个候选锚点,其中,SW为原图宽的缩放比例,SH为原图高的缩放比例,Z为整数;步骤2-2-2、利用CNN判断哪些锚点为有目标的前景点,哪些为没目标的背景点;步骤2-2-3、对有目标的前景点进行边框回归处理,由此获得其对应的目标候选框。5.根据权利要求4所述的基于生成对抗和卷积神经网络的UI生成W...

【专利技术属性】
技术研发人员:孙小兵徐勇李斌
申请(专利权)人:扬州大学
类型:发明
国别省市:江苏,32

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1