基于统计感知策略的高斯混合模型求解方法

高斯混合模型（Gaussian mixture model，GMM）是一种经典的概率模型，常被用于无监督学习领域来确定无类别标记样本点的类别分布。作为求解GMM参数的重要技术，期望最大化（Expectation maximization，EM）算法通过计算GMM对应似然函数的最优解确定基模型自身参数以及基模型的混合系数。利用EM算法求解GMM存在如下两个缺陷：EM算法易于陷入局部最优解以及EM算法确定GMM基模型相关参数的不稳定，尤其是针对多维随机变量。本文提出了一种基于统计感知（Statistical-aware，SA）策略的GMM求解方法——SA-GMM方法。该方法从估计给定数据集的未知概率密度函数入手，建立了核密度估计（Kernel density estimation，KDE）与GMM之间的关联。为避免KDE对“过平滑”窗口的选取，设计了同时最小化KDE与GMM之间的经验风险和KDE窗口结构风险的目标函数，进而确定了GMM的最优参数。在11个标准概率分布上的实验证明了SA-GMM方法的可行性、合理性和有效性，同时结果也表明SA-GMM能够获得显著优于基于EM算法的GMM及其变体的概率密度函数估计表现。