The application embodiment discloses a method and a system for calculating large data. The method includes the following steps: the control terminal receives the amount of data of the large data to be calculated and the calculation instruction; the control terminal divides the calculation instruction into the first calculation subinstruction and the second calculation subinstruction, and stores the storage of the large data to be calculated. The address is split into multiple parts of the storage address; the control terminal acquires the load value of the computing terminal and the number of the transmission hops; the control terminal distributes the multiple portion of the storage address and the second calculation sub instruction to the computing terminal according to the transmission hop and the load value. The technical proposal provided by this application has the advantage of high user experience.
【技术实现步骤摘要】
大数据的计算方法及系统
本专利技术涉及通信
,尤其涉及一种大数据的计算方法及系统。
技术介绍
最早提出“大数据”时代到来的是全球知名咨询公司麦肯锡,麦肯锡称:“数据,已经渗透到当今每一个行业和业务职能领域,成为重要的生产因素。人们对于海量数据的挖掘和运用,预示着新一波生产率增长和消费者盈余浪潮的到来。”“大数据”在物理学、生物学、环境生态学等领域以及军事、金融、通讯等行业存在已有时日,却因为近年来互联网和信息行业的发展而引起人们关注。随着云时代的来临,大数据(Bigdata)也吸引了越来越多的关注。大数据(Bigdata)通常用来形容一个公司创造的大量非结构化和半结构化数据,这些数据在下载到关系型数据库用于计算时会花费过多时间和金钱。大数据计算常和云计算联系到一起,因为实时的大型数据集计算需要像MapReduce一样的框架来向数十、数百或甚至数千的电脑分配工作。在现今的社会,大数据的应用越来越彰显他的优势,它占领的领域也越来越大,电子商务、O2O、物流配送等,各种利用大数据进行发展的领域正在协助企业不断地发展新业务,创新运营模式。有了大数据这个概念,对于消费 ...
【技术保护点】
1.一种大数据的计算方法,其特征在于,所述方法包括如下步骤:控制终端接收待计算的大数据的数据量以及计算指令;控制终端将计算指令拆分成第一计算子指令和第二计算子指令,将该待计算的大数据的存储地址拆分成多个部分存储地址;控制终端获取计算终端的负载值以及传输跳数;控制终端依据该传输跳数以及负载值将该多个部分存储地址以及第二计算子指令分发给计算终端;计算终端提取该部分存储地址对应的部分数据,将该部分数据执行第二计算子指令得到部分结果,将该部分结果返回给控制终端;控制终端依据对该部分结果执行第一计算子指令得到该待计算的大数据的最终结果。
【技术特征摘要】
1.一种大数据的计算方法,其特征在于,所述方法包括如下步骤:控制终端接收待计算的大数据的数据量以及计算指令;控制终端将计算指令拆分成第一计算子指令和第二计算子指令,将该待计算的大数据的存储地址拆分成多个部分存储地址;控制终端获取计算终端的负载值以及传输跳数;控制终端依据该传输跳数以及负载值将该多个部分存储地址以及第二计算子指令分发给计算终端;计算终端提取该部分存储地址对应的部分数据,将该部分数据执行第二计算子指令得到部分结果,将该部分结果返回给控制终端;控制终端依据对该部分结果执行第一计算子指令得到该待计算的大数据的最终结果。2.根据权利要求1所述的方法,其特征在于,所述控制终端依据对该部分结果执行第一计算子指令得到该待计算的大数据的最终结果,包括:控制终端依据将该部分结果执行累加计算得到最终的计算结果。3.根据权利要求1所述的方法,其特征在于,所述控制终端将计算指令拆分成第一计算子指令和第二计算子指令,包括:如该计算指令为矩阵乘矩阵运算,将该矩阵乘矩阵运算拆分成乘法运算和累加运算,其中累加运算为第一运算子指令,乘法运算为第二运算子指令。4.根据权利要求1所述的方法,其特征在于,所述方法还包括:识别该最终结果的数据类型,依据该数据类型确定是否转换该数据类型。5.一种大数据的计算系统,其特征在于,所述系统包括:控制终端和计算终端;其中,控制终端,用于接收待计算的大数据的数据量以及计算指令...
【专利技术属性】
技术研发人员:衣佳鑫,张北江,
申请(专利权)人:新联智慧信息技术深圳有限公司,
类型:发明
国别省市:广东,44
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。