【技术实现步骤摘要】
本专利技术涉及一种引入大语言模型的文本隐写方法、相关方法及装置。
技术介绍
1、语言隐写术通过语言结构、语法或语境在交流中嵌入秘密信息,广泛应用于军事、情报和商业等领域。文本隐写术是其中常见的形式,分为生成式和修改式两类。生成式文本隐写利用生成模型将信息嵌入文本中,使其隐蔽且安全。随着大语言模型的发展,生成式文本隐写已成为主流。传统生成式隐写使用循环神经网络(recurrent neural network,rnn)、变分自编码器(variational autoencoder,vae)等深度学习模型,生成的文本自然度较低,但随着大语言模型的出现,文本质量显著提高,这得益于transformer架构和深度学习的进步。
2、2017年提出的transformer架构提高了生成模型对长距离依赖的建模能力,为大语言模型奠定基础。2018年提出的gpt模型,开启了预训练时代。2019年,bert等大规模模型的出现标志着参数规模的突破,显著提升了自然语言处理任务的表现。
3、知识图谱(knowledge graph)是一种
...【技术保护点】
1.一种引入大语言模型的文本隐写方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述基于所述秘密信息比特流与所述预设分段长度,分别计算得到候选数据量和补充数据量,并收集对应数量的知识图谱,得到候选数据库和补充数据库,包括:
3.根据权利要求2所述的方法,其特征在于,所述根据所述候选数据量和所述补充数据量,分别收集对应数量的知识图谱,得到候选数据库和补充数据库,包括:
4.根据权利要求1所述的方法,其特征在于,将所述选定知识图谱输入使用大型语言模型构建的预设知识图谱文本生成模型,得到所述首个分段比特流对应的隐写文本
...
【技术特征摘要】
1.一种引入大语言模型的文本隐写方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述基于所述秘密信息比特流与所述预设分段长度,分别计算得到候选数据量和补充数据量,并收集对应数量的知识图谱,得到候选数据库和补充数据库,包括:
3.根据权利要求2所述的方法,其特征在于,所述根据所述候选数据量和所述补充数据量,分别收集对应数量的知识图谱,得到候选数据库和补充数据库,包括:
4.根据权利要求1所述的方法,其特征在于,将所述选定知识图谱输入使用大型语言模型构建的预设知识图谱文本生成模型,得到所述首个分段比特流对应的隐写文本,包括:
5.根据权利要求1所述的方法,其特征在于,所述预设知识图谱文本生成模型是通过下述方式得到的...
【专利技术属性】
技术研发人员:李亚敏,曹文力,赵一鸣,陈侃松,付柳,曾晨,琚豪锋,
申请(专利权)人:湖北大学,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。