SMG-VME-AFS可迭代分布式存储系统技术方案

技术编号:32536465 阅读:15 留言:0更新日期:2022-03-05 11:32
本发明专利技术:SMG

【技术实现步骤摘要】
SMG

VME

AFS可迭代分布式存储系统


[0001]本专利技术是为解决分布式大数据环境下,如何快存快取,分布式存储共享;以及并行计算,高效率的集群分布式存储。
[0002]现有技术:分布式存储普遍采用的开源架构,apache组织的hadoop基于google GFS架构,现有技术体现开源,涉及组件背景复杂,调用api参差不齐,组件调用学习成本高,设计缺陷。
[0003]本专利技术基于数学迭代函数斐波那契数列推论出的程序集。将CPU,内存,存储给解放出来更多集中服务于实体服务。afs可迭代分布式存储亦叫量子(可迭代)分布式存储,理论上存储数据无限制。数据存储规模与存储器程非线性增长关系。传统数据存储器呈线性增长。本专利技术存储器扩容,以2的n次方,指数级扩容。
[0004]最小单元集群建立分布式存储,实测10亿+用户在单集群下做到秒存秒取;理论性能可达100万级/秒数通信调度。
[0005]本项专利技术,依赖于SMG

VME可迭代分布式操作系统,具体参国家专利申请号:2021113373306,电子申请案卷编号:364636644,得以继承实现。亦可单独作为核心产品服务模块单独定制算力输出;分布式存储输出。
[0006]专利审查:截至2021

11

20网络搜索暂无同案例

技术介绍

[0007]随着工业互联网,万物智能互联,分布式计算,大数据推衍发展,超大规模数据的计算与存储摆在面前。本专利技术主要是研究并行计算引擎,超大规模数据存储与计算而针对性设计出一套可行的框架。对外进行算力输出构建 IAAS,SAAS系统。超集团企业共享算力,共享存储。提升CPU使用效率,内存存储效率,提升分布式数据存储能力。图标说明图1是可迭代分布式操作系统抽象类比图;1超恒星系统Tsun(x)2太阳系统sun(m)3行星系统plannet(n)4可迭代分布式操作系统vme(n)推衍:TSun(x)1

>2

>3

>4vme(n)由大到小;反推则为宇宙裂变原理图2是vme(n)系统组件功能图;4 vme(n)可迭代分布式操作系统401 linuxOS操作系统,centos6.8(FX

SMG)402 java wrapper服务403 jvm JDK1.78404 ioserver通讯框架,轻量级nio通讯框架
405 wscomm公共模块406 ppg系统模式引擎服务407 ppgmt业务模式引擎接口服务408 application用户服务409 mbs(n)可迭代商城5 afs(n)可迭代分布式存储引擎(量子存储)图3为afs(n)可迭代分布式存储引擎(量子存储)分区节点图;5 afs(n)可迭代分布式存储引擎500 vm.0.0根用顶级根vm.0表示此外每级节点末号为0的为当前节点根,根不负责具体数据存储只负责指令传递,与子节点管理501 vm.0.1 1号虚拟机数据节点502 vm.0.2 2号虚拟机数据节点

508 vm.0.8 8号虚拟机数据节点50100为1号根(尾号逢00为父根)50101 vm.0.1.1 1号1数据节点50102 vm.0.1.2 1号2数据节点

50116 vm.0.1.16 1号16数据节点每级子根与父节点的数量为2的倍数关系
‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑‑

技术实现思路

[0008]可迭代算法的分布式存储系统1.1算法依据:根据裴波那契数列:f(n)=f(n

1)+f(n

2), n>2自然数,裴波那契数列,为宇宙裂变函数。自然界普遍存在以此推衍案例,如海螺贝壳,宇宙星系,凡是符合裴波那契数列,即是符合万物裂变。
[0009]变化n=>f(n)=f(n+1)+f(n+2)合并f(n+1),f(n+2)=>f(n)=f(n+1)由大到小如图1把函数f抽象为TSun超恒星系统(太太阳),Sun恒星系统(太阳)Planet行星系统(地球),n替换为x则由大到小推论如下=>TSun(x)=TSun(x+1)=>TSun(x)=Sun(m)+Sun(n)+...=>Sun(x)=Planet(m)+Planet(n)+...
=>Planet(x)=Planet(x+1)=>vme(x)=vme(x+1)变换f=>afs(x)=afs(x+1)afs为可迭代分布式存储引擎vme:为可迭代分布式操作系统.F=TSun=sun=planet f由高维到低维后面子项可迭代不变这里高维与低维有联系即F裂变联系.高维可调度低维,进行信息通讯与指令传输操作,低维可向高维度传递指令执行结果数据.最终vme(n)=vme(n+1)成立,即为可迭代分布式操作系统.可迭代分布式操作系统应该由以下基础组件构成,这些基础组件与业务无关。所有场景通用;其中ppg,ppg

mt,ioserver组件必须实现可迭代模式f(n)=f(n+1).1.2一种分布式数据库系统,能够存储基于KV键值对数据的非关系形数据库系统;其特征:能支持任意$key=val&

数据格式化存储,不限存储数据容量,不限存储数据类型,且数据可以自动扩容动态增长;数据可以被更改。
[0010]可存储任意kv数据的字符串,随着用户属性增长,存储空间增长;老的空间会被删除,回收。数据会迁移到新的地址;仅靠该用户其他数据寻址关系不变,这样只改动当前增长用户数据的基地址;1.3一种可容量超大数据的存储系统,可以将大数据打散,可以按制定hash算法散列在一种特殊的节点容器分布式存储,节点与父节点以2平方的关系,节点之间是遵循1.1算法可迭代;每段数据都存在唯一主键,通过制定hash算法求得基地址,就好比该用户被锚定,系统自动去指定地址去寻址,再进行定向 hash读取基地址数据;因为hash节点分布在不同的数据节点中,故每个节点负载均衡,数据均衡;1.4基于1.1一种可以无限级路由扩展的分布式存储系统:其特征节点扩容是按2 的n次方进行父子级联扩容;参图3结构为多层路;该分层可无限级路由下去;2一种宇宙全息可迭代式的分布式系统独立运作的操作系统;每个子系统与父系统有联系,即子系统可被父系统调度;子系统与父系统共享库参图2;子系统通过父系统传递指令与结果vme实现forward,backward,router协议进行指令数据交换,层层迭代进行信息交互,这种路由协议被afs继承与共享,参图3 架构;每个afs集成在vme(可迭代分布式操作系统)下对数据进行分布式存储;宇宙全息:宇宙全息,宇宙本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种可迭代算法的分布式存储系统;1.1基于数学可迭代函数f(n)=f(n

1) 算法推论: 根据:f(n)=f(n

1)+f(n

2),n>2自然数,裴波那契数列变化n=>f(n)=f(n+1)+f(n+2)合并f(n+1),f(n+2)=>f(n)=f(n+1)由大到小 把函数f 抽象为TSun 超恒星系统(太太阳),Sun恒星系统(太阳) Plannet 行星系统(地球),n替换为x 则由大到小推论如下=>TSun(x)=TSun(x+1)=>TSun(x)=Sun(m)+Sun(n)+...=>Sun(x)=Planet(m)+Planet(n)+...=>Planet(x)=Planet(x+1)=>vme(x)=vme(x+1)变换f=>afs(x)=afs(x+1)afs为可迭代分布式存储引擎vme:为可迭代分布式操作系统1.2 一种分布式数据库系统,能够存储基于KV键值对数据的非关系形数据库系统;其特征:能支持任意$key=val&

数据格式化存储,不限存储数据容量,不限存储数据类型,且数据可以自动扩容动态增长;数据可以被更改1.3 一种可容量超大数据的存储系统,可以将大数据打散,可以按制定hash算法散列在一种特殊的节点容器分布式存储,节点与父节点以2平方的关系,节点之间是 遵循1.1 算法可迭代;1.4 基于1.1一种可以无限级路由扩展的分布式存储系统:其特征节点扩容是按2的n次方进行父子级级联扩容。2.一种宇宙全息可迭代式的分布式系统;其特征:2.1 独立运作的操作系统;每个子系统与父系统有联系,即子系统可被父系统调度;2.2子系统与父系统共享库;2.3子系统通过父系统传递指令与结果;2.4每个afs集成在vme(可迭代分布式操作系统)下对数据进行分布式存储;2.5 宇宙全息:宇宙全息,宇宙的个体与整体是统一继承关系,个体无论再小都具有宇宙整体信息片段DNA;故此,每个节点包含全息的架构体系,最小的个体单元计算,包含整体集群的计算组件;2.6 每个节点数据是所有节点信息的一部分,个体迭代计算输出给整体集群,个体与集群是可迭代关系;2.7所有节点组合超大规模分布式存储,但节点与节点是有统一的指令系统调度。3.一种可迭代宇宙全息最小单元vme(n)程序集,其构成如下:
(后小标引用之架构图)3.04vme(n)可迭代分布式操作系统3.1401linuxOS操作系统3.2402javawrapper服务3.3403jvm3.4404ioserver通讯框架3.5405wscomm.公共模块3.6406ppg虚拟机引擎服务3.7407ppgmt接口服务3.8408application.用户端应用3.9409mbs可迭代商城。4.-种可执行智能合约程序的可迭代分布式存储系统其特征如下:afs(n)简写afs4.1afs分布式存储对核心数据制定算法加密存储,同时支持制定算法解密,该算法快速有效,并支持高倍压缩算法生成密文;4.2afs支持入存用户个体属性数据,数据应包含制定智能合约,包含制定智能函数,包含本节约定的数据加密、解密读写服务;4.3afs支持制定智能合约解析器,并能够解析4.2中约定的智能合约,智能函数,解密并运算,运算结果输出给afs,并支持写入前计算,并存储;4.4智能合约:一种类java的计算机小程序,由afs自带的智能合约引擎解析并执行,支持简单数学运算,以及条件判断;智能合约是书面合同中涉及到双方利益部分的数学表达式,可以在限定的条件下由系统触发执行,以程序化电子化保持在afs节点用户数据块下,只能被afs智能合约解析引擎执行,存储智能合约需要双方的数字有效签名;4.5afs支持4.3中数据计算过程不出afs存储底层,完成,智能合约约定的加密,解密,解析并运算执行,其结果写回存储器;-种可支持超大容量且能秒存秒取的可迭代分布式存储系统其特征如下:5.0其数据被制定hash算法,散列存储在集群下的分布式节点进行容量存储;5.1每扩展一维子节点按2几何倍数扩充一倍;5.2系统扩容后,原数据节点自动升级为当前父节点,原节点数据自动重新按制定hash算法均衡的流入,当前父节点下所有子节点数据,原寻址算法同样适用制定hash算法调用(亦可寻址定位到老数据),制定hash算法要能包括父子集群维度因子;5.3每层节点依次实现分布式forawrd,backward,router协议,实现与上级节点通讯与数据传输;5.4各兄弟节点调动算法完全相同,即同时符合f可迭代函数规则;5.5各数据节点满足制定hash算法,数据分散性特点,同时兼顾集群升维因子,故在子集群升级节点过程原数据确保不会被散列到其他集群;散列算法原则,那里来回那里去;5.6各数据节点负载满足均衡性特点;5.7数据一致性,幂...

【专利技术属性】
技术研发人员:ꢀ五一IntClG零六F一六二七
申请(专利权)人:道和邦广州电子信息科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1