【技术实现步骤摘要】
【国外来华专利技术】用于从采样服务器中采样的系统、方法和装置
本公开整体涉及采用采样服务器的机器学习系统。
技术介绍
机器学习机器学习涉及可以从数据中学习并基于数据进行预测的方法和电路。与遵循静态程序指令的方法或电路相反，机器学习方法和电路可以包括从示例输入(诸如训练集)导出模型，然后进行数据驱动的预测。机器学习与优化相关。一些问题可以用最小化训练集上的损失函数来表达，其中损失函数描述了被训练的模型的预测与可观察数据之间的差异。机器学习任务可以包括无监督学习、监督学习和强化学习。机器学习的方法包括但不限于决策树、线性和二次分类器、案例推理、贝叶斯统计和人工神经网络。机器学习可用于认为明确方法不可行的情况。示例应用领域包括光学字符辨识、搜索引擎优化和计算机视觉。量子处理器量子处理器是一种计算设备，可以利用非量子设备无法获得的量子物理现象(诸如叠加、纠缠和量子隧穿)。量子处理器可以采用超导量子处理器的形式。超导量子处理器可以包括多个量子位以及相关联的局部偏置设备，例如两个或更多个超导量子位。量子位的一个示例是通量量子位。超导量子处理器还可以采用提供量子位之间的通信耦合的耦合设备(即，“耦...
【技术保护点】
1.一种在机器学习中使用的计算系统，所述计算系统包括：至少一个数字处理器内核；和至少一个非暂态处理器可读介质，所述非暂态处理器可读介质能够通信地耦合到所述至少一个数字处理器内核并且存储处理器可执行指令或数据中的至少一者，所述处理器可执行指令或数据在由所述至少一个数字处理器内核执行时，使得所述至少一个数字处理器内核实现采样服务器：接收用于机器学习过程的迭代的初始参数集，所述机器学习过程在至少一个数字处理器内核上并行于所述采样服务器执行，所述至少一个数字处理器内核与在其上实现所述采样服务器的所述至少一个数字处理器内核分开；并行于执行所述机器学习过程，临时基于所述初始参数集生成第...
【技术特征摘要】
【国外来华专利技术】2016.09.26 US 62/399,6831.一种在机器学习中使用的计算系统，所述计算系统包括：至少一个数字处理器内核；和至少一个非暂态处理器可读介质，所述非暂态处理器可读介质能够通信地耦合到所述至少一个数字处理器内核并且存储处理器可执行指令或数据中的至少一者，所述处理器可执行指令或数据在由所述至少一个数字处理器内核执行时，使得所述至少一个数字处理器内核实现采样服务器：接收用于机器学习过程的迭代的初始参数集，所述机器学习过程在至少一个数字处理器内核上并行于所述采样服务器执行，所述至少一个数字处理器内核与在其上实现所述采样服务器的所述至少一个数字处理器内核分开；并行于执行所述机器学习过程，临时基于所述初始参数集生成第一样本集；以及提供由采样服务器生成的所述第一样本集，所述采样服务器由所述至少一个数字处理器内核实现，以在所述机器学习过程的进一步迭代中使用。2.根据权利要求1所述的计算系统，其中所述处理器可执行指令或数据的执行使得所述至少一个数字处理器内核提供第一函数集以及由采样服务器生成的所述第一样本集，其中所述第一函数集包括一阶和二阶统计。3.根据权利要求1所述的计算系统，其中所述处理器可执行指令或数据的执行使得所述至少一个数字处理器内核从玻尔兹曼分布中抽取样本。4.根据权利要求3所述的计算系统，其中所述处理器可执行指令或数据的执行使得所述至少一个数字处理器内核从奇美拉结构化的玻尔兹曼分布中抽取样本。5.根据权利要求1所述的计算系统，其中所述处理器可执行指令或数据的执行使得所述至少一个数字处理器内核经由单温度吉布斯采样、模拟回火、并行回火、群体退火和退火重要性采样的马尔可夫链中的至少一者来抽取样本。6.根据权利要求1所述的计算系统，其中所述机器学习过程最大化生成模型的对数似然。7.根据权利要求1所述的计算系统，其中在其上实现所述采样服务器的所述至少一个数字处理器内核还能够通信地耦合到至少一个量子处理器，并且所述处理器可执行指令或数据的执行使得所述至少一个数字处理器内核还：从所述采样服务器处提供当前参数集；以及从所述至少一个量子处理器处接收量子处理器生成的样本集。8.根据权利要求7所述的计算系统，其中所述处理器可执行指令或数据的执行使得在其上实现所述采样服务器的所述至少一个数字处理器内核还：对从所述量子处理器处接收的所述样本执行后处理。9.根据权利要求7所述的计算系统，其中所述量子处理器至少部分地基于由所述采样服务器提供的所述当前参数集从分布中抽取样本。10.根据权利要求9所述的计算系统，其中所述量子处理器在抽取样本之前执行链嵌入。11.根据权利要求1所述的计算系统，其中所述采样服务器将样本、样本的函数和对日志分区函数的近似发送到所述至少一个单独的数字处理器内核，所述机器学习过程在所述数字处理器内核上执行。12.根据权利要求1所述的计算系统，其中在其上实现所述采样服务器的所述至少一个数字处理器内核是具有存储器空间的图形处理器单元的第一处理器内核，执行所述机器学习过程的所述单独的至少一个数字处理器内核是所述图形处理器单元的第二处理器内核，并且所述单独的至少一个数字处理器内核与所述图形处理器单元的所述第一处理器内核共享所述存储器空间。13.根据权利要求1所述的计算系统，其中在其上实现所述采样服务器的所述至少一个数字处理器内核是第一图形处理器单元的处理器内核，并且执行所述机器学习过程的所述单独的至少一个数字处理器内核是第二图形处理器单元的处理器内核，所述第二图形处理器单元与所述第一图形处理器单元分开并且不同。14.根据权利要求13所述的计算系统，其中所述第一图形处理单元是第一计算机的一部分，并且所述第二图形处理单元是第二计算机的一部分，所述第二计算机与所述第一计算机分开并且不同。15.根据权利要求14所述的计算系统，其中在其上实现所述采样服务器的所述至少一个数字处理器内核包括多个处理器的多个数字处理器内核，所述数字处理器内核彼此独立且不同，并且所述多个处理器是多个计算机的部件，来自机器集群的所述计算机经由网络基础结构通信地耦合。16.根据权利要求1所述的计算系统，其中所述处理器可执行指令或数据的执行使得所述至少一个数字处理器内核还：迭代地接收所述机器学习过程的多次迭代中的每一次的附加参数集，所述机器学习过程在所述至少一个数字处理器内核上并行于所述采样服务器执行，所述至少一个数字处理器内核与在其上实现所述采样服务器的所述至少一个数字处理器内核分开；并行于执行所述机器学习过程，临时基于所述附加参数集中的相应一个参数集迭代地生成附加的样本集；以及迭代地提供由采样服务器生成的所述附加样本集，所述采样服务器由所述至少一个数字处理器内核实现，以在所述机器学习过程的所述迭代中使用。17.根据权利要求1所述的计算系统，其中所述采样服务器与所述机器学习过程并发执行，从而与其至少一部分重叠。18.根据权利要求1所述的计算系统，其中所述采样服务器与所述机器学习过程同时执行。19.一种在机器学习中使用的计算系统的操作方法，所述方法包括：由实现采样服务器的至少一个数字处理器内核接收用于机器学习过程的迭代的初始参数集，所述机器学习过程在至少一个数字处理器内核上并行于所述采样服务器执行，所述至少一个数字处理器内核与在其上实现所述采样服务器的所述至少一个数字处理器内核分开；并行于执行所述机器学习过程，由实现采样服务器的至少一个数字处理器内核临时基于所述初始参数集生成第一样本...
【专利技术属性】
技术研发人员：詹森·T·罗尔弗，威廉·G·麦克雷迪，马尼·兰杰巴尔，梅萨姆·穆罕默迪·内维斯，
申请(专利权)人：D波系统公司，
类型：发明
国别省市：加拿大,CA
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。