一种基于随机核的概率主组件分析方法技术

技术编号:26304907 阅读:36 留言:0更新日期:2020-11-10 20:01
传统主组件分析可以看做一种概率生成模型,其中隐向量先验分布及条件概率分布均为高斯分布形式,这种形式限制了隐变量空间的表示能力。本发明专利技术提出一种基于随机核的概率主组件分析方法,通过对概率主组件模型增加基于随机神经网络的方法增加主组件分析模型隐变量表示能力。本发明专利技术包括:模型建模单元、优化目标构建单元、及优化问题求解单元。模型建模单元是对传统的主组件分析模型进行概率建模。优化目标构建单元针对数据集构建基于对数边缘似然函数的目标函数。优化问题求解单元利用最大似然函数求解模型参数,其中采用基于随机神经网络构建的协方差矩阵作为传统数据集的协方差矩阵。

【技术实现步骤摘要】
一种基于随机核的概率主组件分析方法
本专利技术涉及机器学习领域,更具体说是涉及一种基于随机核的概率主组件分析方法。
技术介绍
深度学习成为人工智能领域的研究热点,生成模型是构建深层模型的基本结构之一,也是进行知识表示重要方法。主组件分析从概率模型的角度分析,可以看出一种隐变量模型。概率主组件分析模型包括隐向量和可观测向量,其中隐向量的先验分布是多元高斯分布,可观测向量基于隐向量的条件概率分布也是高斯多元分布。传统概率主组件分析模型给出模型参数,是通过对训练数据集协方差矩阵的前k个较大特征值对应特征向量构成的矩阵。但是传统概率主组件模型中,边缘概率分布和条件概率分布均是多元高斯分布,限制了隐变量空间的表示能力。因此本专利技术提出一种基于随机核的概率主组件分析方法,通过对概率主组件模型增加随机核增加模型的表示能力。
技术实现思路
有鉴于此,本专利技术提供了一种基于随机核的概率主组件分析方法,不仅可以提高模型的隐变量空间表示能力,同时可以利用概率主组件生成模型生成具有更高级性能的数据。本专利技术实施例公开了一种基于本文档来自技高网...

【技术保护点】
1.一种基于随机核的概率主组件分析方法,其特征在于包括:模型建模单元、优化目标构建单元、及优化问题求解单元;/n所述模型建模单元用于构建基于随机核的概率主组件分析模型;/n所述优化目标构建单元用于基于数据集构建最大化似然目标函数用于求解模型参数;/n所述优化问题求解单元用于求解最大化似然函数求解模型参数。/n

【技术特征摘要】
1.一种基于随机核的概率主组件分析方法,其特征在于包括:模型建模单元、优化目标构建单元、及优化问题求解单元;
所述模型建模单元用于构建基于随机核的概率主组件分析模型;
所述优化目标构建单元用于基于数据集构建最大化似然目标函数用于求解模型参数;
所述优化问题求解单元用于求解最大化似然函数求解模型参数。


2.根据权利要求1所述的一种基于随机核的概率主组件分析方法,其特征在于所述的建模单元是对主组件分析进行基于随机核的概率建模;
所述模型中的变量说明如下,令x∈RD表示可观测向量,z∈RM表示隐向量,p(z)表示隐变量的先验分布,p(x|z)表示隐向量下的条件概率分布;
从生成数据角度看概率主组件分析模型,观测样本x(i)的采样过程如下:先从隐变量先验分布p(z)中采样隐变量z(i),再根据条件概率分布p(x|z)中采样观测值x(i),D维观测向量x可以看做隐变量z的线性组合加上一个高斯噪音,即
x=Wz+μ+ε
ε~N(0,δ2I)
其中W∈RD×M表示参数矩阵,μ∈RD,δ2表示方差参数。


3.根据权利要求1所述的一种基于随机核的概率主组件分析方法,其特征在于所述的优化目标构建单元,可以通过最大似然方法求解模型参数,已知数据集D={...

【专利技术属性】
技术研发人员:张传雷张璞杨巨成陈亚瑞李建荣
申请(专利权)人:天津科技大学
类型:发明
国别省市:天津;12

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1