【技术实现步骤摘要】
一种基于随机核的概率主组件分析方法
本专利技术涉及机器学习领域,更具体说是涉及一种基于随机核的概率主组件分析方法。
技术介绍
深度学习成为人工智能领域的研究热点,生成模型是构建深层模型的基本结构之一,也是进行知识表示重要方法。主组件分析从概率模型的角度分析,可以看出一种隐变量模型。概率主组件分析模型包括隐向量和可观测向量,其中隐向量的先验分布是多元高斯分布,可观测向量基于隐向量的条件概率分布也是高斯多元分布。传统概率主组件分析模型给出模型参数,是通过对训练数据集协方差矩阵的前k个较大特征值对应特征向量构成的矩阵。但是传统概率主组件模型中,边缘概率分布和条件概率分布均是多元高斯分布,限制了隐变量空间的表示能力。因此本专利技术提出一种基于随机核的概率主组件分析方法,通过对概率主组件模型增加随机核增加模型的表示能力。
技术实现思路
有鉴于此,本专利技术提供了一种基于随机核的概率主组件分析方法,不仅可以提高模型的隐变量空间表示能力,同时可以利用概率主组件生成模型生成具有更高级性能的数据。本专利技术 ...
【技术保护点】
1.一种基于随机核的概率主组件分析方法,其特征在于包括:模型建模单元、优化目标构建单元、及优化问题求解单元;/n所述模型建模单元用于构建基于随机核的概率主组件分析模型;/n所述优化目标构建单元用于基于数据集构建最大化似然目标函数用于求解模型参数;/n所述优化问题求解单元用于求解最大化似然函数求解模型参数。/n
【技术特征摘要】
1.一种基于随机核的概率主组件分析方法,其特征在于包括:模型建模单元、优化目标构建单元、及优化问题求解单元;
所述模型建模单元用于构建基于随机核的概率主组件分析模型;
所述优化目标构建单元用于基于数据集构建最大化似然目标函数用于求解模型参数;
所述优化问题求解单元用于求解最大化似然函数求解模型参数。
2.根据权利要求1所述的一种基于随机核的概率主组件分析方法,其特征在于所述的建模单元是对主组件分析进行基于随机核的概率建模;
所述模型中的变量说明如下,令x∈RD表示可观测向量,z∈RM表示隐向量,p(z)表示隐变量的先验分布,p(x|z)表示隐向量下的条件概率分布;
从生成数据角度看概率主组件分析模型,观测样本x(i)的采样过程如下:先从隐变量先验分布p(z)中采样隐变量z(i),再根据条件概率分布p(x|z)中采样观测值x(i),D维观测向量x可以看做隐变量z的线性组合加上一个高斯噪音,即
x=Wz+μ+ε
ε~N(0,δ2I)
其中W∈RD×M表示参数矩阵,μ∈RD,δ2表示方差参数。
3.根据权利要求1所述的一种基于随机核的概率主组件分析方法,其特征在于所述的优化目标构建单元,可以通过最大似然方法求解模型参数,已知数据集D={...
【专利技术属性】
技术研发人员:张传雷,张璞,杨巨成,陈亚瑞,李建荣,
申请(专利权)人:天津科技大学,
类型:发明
国别省市:天津;12
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。