一种基于大模型的形式化定理证明生成方法及系统技术方案

技术编号:42875002 阅读:41 留言:0更新日期:2024-09-30 15:01
本发明专利技术公开了一种基于大模型的形式化定理证明生成方法及系统,属于人工智能技术领域。本方法获取第一训练数据,第一训练数据为包括形式化定理命题、证明该形式化定理命题的全部证明步骤的文本数据;获取第二训练数据,第二训练数据为包括数学领域知识的数据;基于第二训练数据对大模型进行预训练,得到预训练完毕的大模型;基于第一训练数据对预训练完毕的大模型进行参数调整,得到调整后的大模型;将待生成定理证明步骤的形式化定理命题作为输入数据输入所述调整后的大模型,生成所述待生成定理证明步骤的形式化定理的证明步骤;本方法可以大大降低自动生成定理证明的复杂度,还可以显著提高模型推理期间的硬件利用率。

【技术实现步骤摘要】

本专利技术属于人工智能,尤其是涉及一种基于大模型的形式化定理证明生成方法及系统


技术介绍

1、形式化定理证明需要大量先验知识进行模式匹配,其证明过程通常依赖于计算机科学家将复杂的数学论述转化为结构化的形式语言并由交互式定理证明程序验证。然而,手动编写定理证明是一项劳动密集型且成本高昂的任务。因此,最近的研究集中在自动证明合成上,这可以实现形式化定理证明的完全自动化。使用启发式搜索可能的证明空间来尝试生成一个证明步骤面临着搜索空间的组合爆炸问题,导致非平凡的定理证明超出了目前已有的计算能力限制。

2、现有的进行形式化定理证明的方案有以下几种。

3、(一)交互式定理证明器

4、交互式定理证明器提供人机交互界面,在具体的形式化定理证明构造过程中给出验证结果,用户可以分别在错误消息和局部证明状态的指导下纠正错误或继续编写证明中的空白。lean提供了一个依赖类型理论的小型可信内核,通过将自动化工具放置在支持用户交互的定理证明框架中,使得实现定理证明的引用或独立类型检查器的任务更加简单。isabelle提供了一个交互式的环境,并使本文档来自技高网...

【技术保护点】

1.一种基于大模型的形式化定理证明生成方法,其特征在于,所述方法包括如下步骤:

2.如权利要求1所述的方法,其特征在于,将所述第二训练数据作为待处理的数据输入所述大模型,所述大模型对所述待处理的数据进行如下处理:

3.如权利要求2所述的方法,其特征在于,所述大模型包括依次相连的嵌入编码层、位置编码层、第一均方层、注意力计算层、第二均方层、前馈神经网络层以及输出层,嵌入编码层将数字编码转换为嵌入编码,位置编码层用于将所述嵌入编码转换为位置编码,第一均方层将所述嵌入编码和位置编码进行融合,对生成的融合编码进行层归一化处理,生成经过归一化的融合编码向量,将所述融合编码向...

【技术特征摘要】

1.一种基于大模型的形式化定理证明生成方法,其特征在于,所述方法包括如下步骤:

2.如权利要求1所述的方法,其特征在于,将所述第二训练数据作为待处理的数据输入所述大模型,所述大模型对所述待处理的数据进行如下处理:

3.如权利要求2所述的方法,其特征在于,所述大模型包括依次相连的嵌入编码层、位置编码层、第一均方层、注意力计算层、第二均方层、前馈神经网络层以及输出层,嵌入编码层将数字编码转换为嵌入编码,位置编码层用于将所述嵌入编码转换为位置编码,第一均方层将所述嵌入编码和位置编码进行融合,对生成的融合编码进行层归一化处理,生成经过归一化的融合编码向量,将所述融合编码向量输入注意力计算层,所述注意力计算层获取所述融合编码向量关于形式化定理命题和证明步骤之间的注意力分值,将所述注意力分值与所述融合编码向量进行融合,得到融合有注意力信息的融合编码向量;基于各个融合有注意力信息的融合编码向量,生成所述待处理的...

【专利技术属性】
技术研发人员:张龙郑兴建樊瑜
申请(专利权)人:中国人民解放军军事科学院系统工程研究院
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1