【技术实现步骤摘要】
本专利技术涉及数据增强和多语言对齐，具体地，涉及一种针对富文本文档解析的多语言对齐方法和系统。
技术介绍
1、本专利技术涉及多语言富文本文档理解任务以及跨语言的文本对齐。富文本文档理解(vrdu)是一种针对富文本文档进行理解并抽取其中结构化信息的技术。富文本文档包含大量的文本、布局、格式信息，是人们日常生活中十分常用且重要的文件形式，例如贸易单据、小票、物流单、证照等。然而处理这类文档需要耗费大量的人力与时间成本，比如提取信息、数据比对等等任务。因此引发了众多利用神经网络进行自动化富文本文档解析的探索。本专利技术针对富文本文档理解中的命名实体识别任务(ner)提出，即解析文档并识别其中的标题、问题及相应的回答，例如小票中的“订单号”、“交易日期”等等字段。
2、富文本文档常以图片或者pdf等类似的格式存储，且与常规自然语言处理不同，富文本文档中往往没有大段的自然文本，文本之间的位置信息对解析任务也是十分重要的信息。因此仅仅使用文本作为输入效果较差，目前业界效果比较好的方案是layoutlm及其变种，这类方案联合建模了文档图像...
【技术保护点】
1.一种针对富文本文档解析的多语言对齐方法，其特征在于，包括：
2.根据权利要求1所述的针对富文本文档解析的多语言对齐方法，其特征在于，多语言词典构建过程为：
3.根据权利要求1所述的针对富文本文档解析的多语言对齐方法，其特征在于，数据增强以边界框为单位进行增强，对于文档数据的文本模态，先进行提取并清洗，后经过多语言分词器，保持相同的分词策略和粒度，此时边界框中的文本为词汇列表的形式，按照预设比例阈值在列表中随机选取词汇，在多语词典查询待替换词，查询过程中优先域内词典，若在域内词典中查询失败，再去通用词典中查询，若通用词典中查询仍失败，则继续去...
【技术特征摘要】
1.一种针对富文本文档解析的多语言对齐方法，其特征在于，包括：
2.根据权利要求1所述的针对富文本文档解析的多语言对齐方法，其特征在于，多语言词典构建过程为：
3.根据权利要求1所述的针对富文本文档解析的多语言对齐方法，其特征在于，数据增强以边界框为单位进行增强，对于文档数据的文本模态，先进行提取并清洗，后经过多语言分词器，保持相同的分词策略和粒度，此时边界框中的文本为词汇列表的形式，按照预设比例阈值在列表中随机选取词汇，在多语词典查询待替换词，查询过程中优先域内词典，若在域内词典中查询失败，再去通用词典中查询，若通用词典中查询仍失败，则继续去词汇列表中随机选取，直至满足比例阈值要求或者词汇列表中所有查询成功的词汇全部取出；在词表查询之后，针对待替换词将得到多个多语言同义词，在这些同义词中进行随机选取并替换原词；
4.根据权利要求1所述的针对富文本文档解析的多语言对齐方法，其特征在于，对数据增强后的文档数据，利用通用的文档编码器针对边界框进行编码，针对每一个边界框，编码的结果是一个1×768维的向量表征，记为hi，表达式为：
5.根据权利要求4所述的针对富文本文档解析的多语言对齐方法，其特征在于，通过对比学习构建正负例，设计对比学习损失函数，将正例对的表征拉近，将负例对的表征拉远，以此实现跨语言的表征对齐，表达式为：
...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。