System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种基于区块链的智能模型分布式部署系统及方法技术方案_技高网

一种基于区块链的智能模型分布式部署系统及方法技术方案

技术编号:42677422 阅读:15 留言:0更新日期:2024-09-10 12:28
本发明专利技术属于人工智能、大数据服务技术领域,涉及一种基于区块链的智能模型分布式部署系统及方法。所述系统包括:云端服务器及边缘节点集群;所述云端服务器包含数据处理和训练模块;所述边缘节点集群,包括含推理、区块链及控制模块的边缘节点;所述控制模块调用区块链和推理模块完成边缘节点任务,使用顺序判断和顺序值按序更新的方式实现执行顺序控制,调用链下数据传输单元,采用基于哈希值校验的数据重传机制实现链下数据安全传输。所述方法,包括准备、推理及结束阶段,完成所述系统的功能。本发明专利技术实现了智能模型自适应分割、有序集群推理及基于哈希值校验的推理结果链下存储,有效防止数据在传输过程中被恶意篡改且降低了区块链的交易成本。

【技术实现步骤摘要】

本专利技术属于人工智能、大数据服务,涉及一种基于区块链的智能模型分布式部署系统及方法


技术介绍

1、随着人工智能和卫星通信技术的发展,智能模型被广泛应用,并逐步在各种卫星上部署。然而,在实际的卫星通信场景中,智能模型往往会受到算力和存储资源的限制。传统解决方法的流程如下:首先,开发人员将智能模型部署在地面或高轨云服务器上,通常这些服务器具有强大的计算能力和存储资源,能满足各种应用的需求;其次,地面或空中的用户将其数据上传到云服务器上,以便云服务器上的智能模型进行处理和分析;最后,将智能模型计算的结果返回给用户。然而,由于高轨云服务器距离地面用户较远,传输数据时会产生比较严重的时延,而低轨卫星具有链路损耗小、时延低及多颗卫星可以实现全球覆盖的特点,将计算任务卸载到边缘低轨卫星上执行,可以加快计算速度并节约能耗,实现高效率的任务调度,有效提升低轨卫星网络的分析和决策能力。

2、在低轨卫星的计算任务中,通常一个典型的智能模型由包含数千个神经元的多个网络层组成,这需要大量的存储和计算资源。模型分割技术是将一个复杂的智能模型拆分成多个独立的子模块,每个子模块负责实现特定的任务或功能,其核心思想是通过模块化设计,降低智能模型维护的复杂度。将分割的子模块部署在资源受限的低轨边缘卫星上,可以降低边缘卫星节点的计算能耗、提高计算效率。为了保证边缘节点能够提供的上限资源大于推理智能模型所需的资源,需要设计智能模型分割点的位置。另外,如果一个边缘卫星节点发生故障,云端服务器重新进行智能模型分割;智能模型被分割后,再进行onnx(openneural network exchange,开放式神经网络交换格式)导出并部署到其余正常工作的边缘卫星节点,一定程度上保证了系统的稳定性。

3、然而,多个低轨边缘卫星节点之间频繁的数据传输容易产生安全问题。区块链是一种分布式账本技术,它通过加密原理保证访问和数据传输的安全性,另外,它具有去中心化、透明公开、数据不可修改等显著特点,存储的数据由网络内边缘节点共同维护和监督,实现数据的分布式存储、记录与更新。区块链技术的应用场景多种多样,涵盖了各个行业和领域:最典型的区块链应用是数字货币。区块链在低轨卫星通信中的应用前景也十分广泛:首先,区块链可以用于确保卫星通信的安全性和隐私性;其次,区块链可以用于管理卫星网络中的各种资源,包括卫星带宽、频谱资源、卫星轨道等,实现资源的有效管理和分配,确保网络的稳定运行;另外,区块链中的智能合约可以管理卫星通信服务的订阅、授权访问、动态路由等功能。

4、首先,在云端服务器部署智能模型,将大量数据上传到云服务器可能会导致较高的数据传输成本。所以,尽管云端服务器具有较大的算力资源和存储容量,常用方法仍然是将计算任务卸载到边缘端上进行,这样可大大提升网络中计算资源的利用率,但训练或推理复杂的大模型需要较大的存储资源和计算资源,不适合在单个边缘节点上进行。

5、其次,传统的分布式推理存在一些隐患,在传输过程中数据可能受到恶意攻击,边缘节点接收到受破坏的数据,推理出的结果会产生错误。

6、此外,在区块链分布式账本结构中,区块和交易的容量有限,将大量数据上传区块链的方式不可取:首先,区块链中的每个区块都有一个固定的大小限制,只能容纳有限数量的交易和数据,如果大量数据被上传到区块链中,将会迅速消耗区块的存储容量,这可能导致区块链网络的拥堵和性能下降;其次,如果大量数据被上传到区块链中,将会增大网络的开销和处理压力,进而影响整个区块链网络的扩展性和性能。


技术实现思路

1、本专利技术的目的是针对当前智能模型的规模和复杂度不断增加、在单个边缘节点上的智能模型部署和推理会由于硬件资源限制变得昂贵且不可行的问题,提出了一种基于区块链的智能模型分布式部署系统及方法,将智能模型和推理任务分配到多个边缘节点上,依托多个边缘节点上的分布式推理使得各边缘节点间频繁地交互数据,提供了智能模型从训练到依托区块链技术的分布式推理,所述系统或方法为分布式部署提供可追溯性和透明度,使得系统的运行更加可信,不仅保障了数据传输的安全性,还避免了数据传输过程被恶意窃取和篡改的风险,确保数据的隐私和完整性得到充分保障,在现实场景中更加可行和实用。

2、为了实现上述目的,本专利技术采取如下技术方案:

3、作为本专利技术的第一方面,提出了一种基于区块链的智能模型分布式部署系统,包括:云端服务器及边缘节点集群;

4、所述云端服务器,负责数据集的处理并输出处理好的数据集,还负责训练智能模型,包含数据处理模块和模型训练模块;

5、所述模型训练模块训练智能模型并综合智能模型参数量和边缘节点显存分割训练好的智能模型后导出;

6、所述边缘节点集群,包括一组能支持一定复杂度智能模型推理的边缘节点;所述边缘节点集群中的每个边缘节点,包含推理模块、区块链模块和控制模块;所述区块链模块负责将边缘节点注册为有效的节点,并使用智能合约实现数据的哈希值和顺序值存储,顺序值指向保障推理结果的传递方向,链下存储使用数据的哈希值保障推理结果的安全存储;

7、所述控制模块调用区块链模块和推理模块完成边缘节点任务;控制模块使用顺序判断和顺序值按序更新的方式实现执行顺序控制;除第一个边缘节点外,其余边缘节点的控制模块调用链下数据传输单元,采用基于哈希值校验的数据重传机制实现链下数据安全传输,具体包括:将数据传输请求发送给上一个边缘节点并获取其推理结果,然后对上一边缘节点输出的推理结果进行哈希值计算,与从区块链取得的上一边缘节点推理结果的哈希值进行比对,一致则将上一节点的推理结果作为此节点的推理输入,不一致则重新请求获取上一边缘节点的推理结果。

8、所述数据处理模块包括数据集和预处理单元;所述预处理单元将数据集进行预处理,输出处理好的数据集;所述模型训练模块,包括训练单元及模型分割单元;所述训练单元依据处理好的数据集对智能模型进行训练,输出训练好的智能模型。

9、所述模型分割单元感知边缘节点资源和评估智能模型复杂度,综合智能模型参数量和边缘节点显存对神经网络进行自适应拆分,最后将分割好的智能模型进行onnx导出。

10、所述边缘节点,一方面接收云端服务器拆分卸载到边缘节点上的智能模型并进行推理得到推理结果,用于降低延迟、减小云端服务器的计算开销;另一方面部署为区块链节点,各区块链节点再形成区块链网络,通过智能合约防止智能模型推理结果在边缘节点之间传输时遭受非法攻击和篡改。

11、所述推理模块,包括捕获单元及推理单元;所述捕获单元负责收集需要推理的输入数据,接收控制模块中的推理模块调用单元调用推理单元来构建推理引擎、产生推理结果并将推理结果下传到区块链模块中的链下存储调用单元。

12、所述推理单元通过接收云端服务器的智能模型文件产生对应的推理引擎,并将推理输入数据载入推理引擎计算产生推理结果,再将推理结果下传。

13、一种基于区块链的智能模型分布式部署方法,包含以下步骤:本文档来自技高网...

【技术保护点】

1.一种基于区块链的智能模型分布式部署系统,其特征在于,包括:云端服务器及边缘节点集群;

2.根据权利要求1所述的一种基于区块链的智能模型分布式部署系统,其特征在于,所述数据处理模块包括数据集和预处理单元;所述预处理单元将数据集进行预处理,输出处理好的数据集;所述模型训练模块,包括训练单元及模型分割单元;所述训练单元依据处理好的数据集对智能模型进行训练,输出训练好的智能模型。

3.根据权利要求2所述的一种基于区块链的智能模型分布式部署系统,其特征在于,所述模型分割单元感知边缘节点资源和评估智能模型复杂度,综合智能模型参数量和边缘节点显存对神经网络进行自适应拆分,最后将分割好的智能模型进行ONNX导出。

4.根据权利要求1所述的一种基于区块链的智能模型分布式部署系统,其特征在于,所述边缘节点,一方面接收云端服务器拆分卸载到边缘节点上的智能模型并进行推理得到推理结果,用于降低延迟,减小云端服务器的计算开销;另一方面部署为区块链节点,各区块链节点再形成区块链网络,通过智能合约防止智能模型推理结果在边缘节点之间传输时遭受非法攻击和篡改。

5.根据权利要求1所述的一种基于区块链的智能模型分布式部署系统,其特征在于,所述推理模块,包括捕获单元及推理单元;所述捕获单元负责收集需要推理的输入数据,接收控制模块中的推理模块调用单元调用推理单元构建推理引擎、产生推理结果并将推理结果下传到区块链模块中的链下存储调用单元。

6.根据权利要求5所述的一种基于区块链的智能模型分布式部署系统,其特征在于,所述推理单元通过接收云端服务器的智能模型文件产生对应的推理引擎,并将推理输入数据载入推理引擎计算产生推理结果,再将推理结果下传。

7.一种基于区块链的智能模型分布式部署方法,其特征在于,包含以下步骤:

8.根据权利要求7所述的一种基于区块链的智能模型分布式部署方法,其特征在于,所述S1准备阶段中依据边缘节点信息和复杂度分割智能模型并将分割后的智能模型分发给各边缘节点,包含如下步骤:

9.根据权利要求7所述的一种基于区块链的智能模型分布式部署方法,其特征在于,所述推理阶段中各边缘节点经由智能合约控制完成有序集群推理,具体为:

10.根据权利要求7所述的一种基于区块链的智能模型分布式部署方法,其特征在于,所述推理阶段将中间推理结果链下存储、推理结果的哈希值上链,进行有校验的数据传输,具体为:当某个边缘节点需要从其他边缘节点处获取数据时,先向其发送数据请求,在收到数据后,计算数据的哈希值并将计算结果与区块链上存储的哈希值对比,当二者一致时可以确定数据在传输过程中没有遭到破坏。

...

【技术特征摘要】

1.一种基于区块链的智能模型分布式部署系统,其特征在于,包括:云端服务器及边缘节点集群;

2.根据权利要求1所述的一种基于区块链的智能模型分布式部署系统,其特征在于,所述数据处理模块包括数据集和预处理单元;所述预处理单元将数据集进行预处理,输出处理好的数据集;所述模型训练模块,包括训练单元及模型分割单元;所述训练单元依据处理好的数据集对智能模型进行训练,输出训练好的智能模型。

3.根据权利要求2所述的一种基于区块链的智能模型分布式部署系统,其特征在于,所述模型分割单元感知边缘节点资源和评估智能模型复杂度,综合智能模型参数量和边缘节点显存对神经网络进行自适应拆分,最后将分割好的智能模型进行onnx导出。

4.根据权利要求1所述的一种基于区块链的智能模型分布式部署系统,其特征在于,所述边缘节点,一方面接收云端服务器拆分卸载到边缘节点上的智能模型并进行推理得到推理结果,用于降低延迟,减小云端服务器的计算开销;另一方面部署为区块链节点,各区块链节点再形成区块链网络,通过智能合约防止智能模型推理结果在边缘节点之间传输时遭受非法攻击和篡改。

5.根据权利要求1所述的一种基于区块链的智能模型分布式部署系统,其特征在于,所述推理模块,包括捕获单元及推理单元;所述捕获单元负责收集需要推理的输入数据...

【专利技术属性】
技术研发人员:杨德伟栗渊钧聂勇仕李佳宁
申请(专利权)人:北京理工大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1