分析印度杂志
现在读
概率神经网络入门
分析印度杂志

概率神经网络入门

概率神经网络(PNN)是经典的可扩展替代方案反向传播神经网络在分类识别中的应用模式识别应用程序。它们不需要标准神经网络所需要的大规模正向和反向计算。他们还可以处理不同类型的训练数据。这些网络采用了概率论的概念来最小化分类问题中的误分类。在本文中,我们将详细讨论概率神经网络及其工作原理、优点、缺点和应用。本文将讨论的主要要点概述如下。

目录

  1. 什么是概率神经网络(PNN)
  2. 初步的概念
  3. 对所测试的结构
  4. PNN算法
  5. PNN的优缺点
  6. PNN的应用

现在让我们从详细了解概率神经网络开始。

注册AWS数据与分析秘密会议>>

什么是概率神经网络?

概率神经网络(PNN)是一种用于处理分类和模式识别问题的前馈神经网络。在PNN技术中,每类的父概率分布函数(PDF)使用Parzen窗口和非参数函数进行近似。然后使用每个类的PDF来估计新输入数据的类概率,并使用贝叶斯规则将后验概率最高的类分配给新输入数据。使用这种方法,可以降低错误分类的可能性。这种类型的人工神经网络是使用贝叶斯网络和一种称为核Fisher判别分析的统计方法创建的。

pnn在解决困难的科学和工程挑战方面显示出了很大的前景。以下是研究人员试图用PNN解决的主要困难类型:

  • 标记平稳数据模式分类
  • 数据具有时变概率密度函数的数据模式分类
  • 将波形作为数据模式进行信号处理的应用程序
  • 未标记数据集的无监督算法等。

初步的概念

分类任务必须估计与类相关的PDF,因为它们决定了分类器的结构。因此,每个PDF都由一组不同的参数来区分。高斯分布需要协方差和均值,它们是根据样本数据估计的。

假设我们还有一组代表特性类型和基础类的训练样本,每个样本都标有正确的类。这导致学习困难。当我们知道密度的形状时,我们面临一个参数估计问题。

因为在非参数估计中没有与类相关的pdf的信息,所以必须直接从数据集中估计它们。有许多非参数模式识别方法。以下非参数估计方法在概念上与PNN相联系。

Parzen窗口

parzen窗方法(也称为Parzen-Rosenblatt窗方法)是一种流行的非参数方法,用于从样本p(x)中估计特定点p(x)的概率密度函数p(x)n),不需要任何关于潜在分布的先验知识或假设。

为了更好地理解,让我们看一个简单的一维场景。目标是计算给定位置x处的PDF p(x),这就需要确定区间[x - h,x + h]内的样本数量Nh,然后除以特征向量总数M,区间长度2h。我们将使用指定的方法在x处得到PDF的估计。

估计类条件密度(也称为“可能性”)p(x|w)I在使用训练数据集的监督模式分类问题中,其中p(x)指属于特定类别w的多维样本是Parzen窗口技术的一个突出应用。

K最近邻

在Parzen窗估计中,区间长度是固定的,而落在区间内的样本数量是逐点波动的。而k近邻密度估计则相反。

在一个间隔内的样本数k是固定的,而每次调整x周围的间隔长度以包括相同数量的样本k。我们可以推广到n维情形:超体积V(x)在低密度区域大,在高密度区域小。估算规则现在可以给出如下:,

,反映体积V的依赖关系(x)。N为总样本数,k为体积V内的点数(x)。

概率神经网络的结构

以下是Specht的基本概率神经网络框架(1990)。网络由四个基本层组成。让我们一个一个地来理解它们。

输入层

每个预测变量由输入层中的一个神经元表示。当一个类别变量中有N个类别时,使用N-1个神经元。通过减去中位数并除以四分位范围,数据的范围就标准化了。然后输入神经元将这些值输入到隐藏层中的每个神经元。

另请参阅

模式层

训练数据集中的每个案例在这一层中都有一个神经元。它保存案例预测变量的值以及目标值。隐藏神经元计算测试用例和神经元中心点之间的欧几里德距离,然后使用西格玛值应用径向基核函数

求和层

在PNN中,每一类目标变量都有一个模式神经元。每个隐藏神经元存储每个训练事件的实际目标类别;隐藏神经元输出的加权值只提供给对应于隐藏神经元类别的模式神经元。将模式神经元所代表的类的值相加。

决策层

输出层比较模式层对每个目标类别累积的加权选票,并利用最大的选票对目标类别进行预测。

概率神经网络算法

给出了训练集的样本特征向量。我们知道每个人属于哪个阶级。PNN的配置如下。

  1. 输入包含范例向量和类号的文件。
  2. 把这些排序成K个集合,每个集合包含一类向量。
  3. 创建一个以集合k中的每个示例向量为中心的高斯函数,然后为每个k定义累积高斯输出函数。

在我们定义了PNN之后,我们可以将向量输入到PNN中,并将它们分类如下。

  1. 读取输入向量,并根据它们在每个类别中的性能分配高斯函数。
  2. 对于每个隐藏节点簇,计算隐藏节点处的所有“高斯函数有用值”。
  3. 将隐藏节点集群中的所有高斯函数值提供给集群的单个输出节点。
  4. 对于每个类别输出节点,将所有输入相加并乘以一个常数。
  5. 确定在输出节点上相加的所有有用值中最有价值的值。

概率神经网络的优缺点

使用PNN而不是多层感知器有各种各样的优点和缺点和应用。

优势
  • 多层感知器网络比pnn慢很多。
  • 在准确性方面,pnn有超越多层感知器网络的潜力。
  • 在PNN网络中,异常值并不明显。
  • PNN网络预测目标概率分数精度高。
  • pnn正逐渐接近贝叶斯最优分类。
缺点
  • 当涉及到对新病例的分类时,pnn比多层感知器网络慢。
  • PNN需要额外的内存来存储mod。

概率神经网络的应用

以下是概率神经网络的主要应用

  • 概率神经网络可用于白血病和中枢神经系统胚胎肿瘤的分类预测。
  • 概率神经网络可用于船舶识别。
  • 无线自组织网络中传感器设置的管理可以用概率神经网络来完成。
  • 该方法可应用于遥感图像分类。
  • 字符识别也是概率神经网络的一个重要应用。PNN有更多的应用。

最后的话

本文考察了PNN的不同组成部分及其在不同领域的多种应用。从简单的模式识别到复杂的波形分类,这些应用涵盖了广泛的主题。当与特征提取和特征约简方法结合使用时,pnn是最有效的。

引用:

你怎么看?

加入我们的不和服务器。加入一个有吸引力的在线社区。加入这里


订阅我们的通讯

通过分享你的电子邮件获得最新的更新和相关的优惠。

188BET网页

滚动到顶部
Baidu