【技术实现步骤摘要】
本专利技术涉及人工智能领域的大语言模型领域，尤其涉及适用于金融证券行业可高效与表格数据交互的大型语言模型领域，具体是指一种实现高效处理表格数据功能的垂直领域金融大模型系统及其方法。
技术介绍
1、1.1大语言模型(llms)：
2、大语言模型经历了从ml(machine learning,机器学习)到gpt(generative pre-training,生成式预训练)，再到大语言模型(llm,large language model)的发展历程。openai于2022年11月30日发布的交互式大语言模型chatgpt，标志着大语言模型领域取得的一个重要里程碑，也意味着大语言模型迈出了大规模推广应用的重要一步。从2019年的谷歌t5到openai gpt系列，参数量爆炸的大模型不断涌现，llms的研究在学界和业界都得到了很大的推进。以chatgpt为代表的llms所展现的涌现能力是llm与以前的plm区分开来的最显著特征之一。当出现这种新的能力时，它引入了一个显著的特征：当规模达到一定水平时，模型可以展现出色的上下文学习、指...
【技术保护点】
1.一种实现高效处理表格数据功能的垂直领域金融大模型系统，其特征在于，所述的系统包括表编码器和大语言模型，所述的表编码器的输出端与大语言模型相连接，所述的表编码器用于从输入表中提取信息，生成一种全局表格表示形式，与用户文本查询被馈送到大语言模型中进行推理；所述的大语言模型用于识别用户的查询意图，将复杂的需求任务拆解为若干个简单的任务，并生成命令链和文本回复的输出。
2.根据权利要求1所述的实现高效处理表格数据功能的垂直领域金融大模型系统，其特征在于，所述的表编码器为级联表编码器，联合从元数据和整个数字条目中获取知识信息，所述的级联表编码器将表数据中的信息分...
【技术特征摘要】
1.一种实现高效处理表格数据功能的垂直领域金融大模型系统，其特征在于，所述的系统包括表编码器和大语言模型，所述的表编码器的输出端与大语言模型相连接，所述的表编码器用于从输入表中提取信息，生成一种全局表格表示形式，与用户文本查询被馈送到大语言模型中进行推理；所述的大语言模型用于识别用户的查询意图，将复杂的需求任务拆解为若干个简单的任务，并生成命令链和文本回复的输出。
2.根据权利要求1所述的实现高效处理表格数据功能的垂直领域金融大模型系统，其特征在于，所述的表编码器为级联表编码器，联合从元数据和整个数字条目中获取知识信息，所述的级联表编码器将表数据中的信息分为学习表的元数据表示和学习表格的数字信息表示。
3.根据权利要求1所述的实现高效处理表格数据功能的垂直领域金融大模型系统，其特征在于，所述的表编码器包括set transformer模型，基于注意力机制处理数据集中的每个元素，用于建模集合类型的数据，捕捉元素间的交互关系。
4.根据权利要...
【专利技术属性】
技术研发人员：俞枫，赵俊博，黄韦，梅继雄，吴鑫涛，时煜坤，王越，
申请(专利权)人：国泰君安证券股份有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。