`
huangyongxing310
  • 浏览: 499059 次
  • 性别: Icon_minigender_1
  • 来自: 广州
文章分类
社区版块
存档分类
最新评论

神经网络学习 之 M-P模型

 
阅读更多
神经网络学习 之 M-P模型


这种“阈值加权和”的神经元模型称为M-P模型 ( McCulloch-Pitts Model ),也称为神经网络的一个处理单元( PE, Processing Element )。

常用激活函数
激活函数的选择是构建神经网络过程中的重要环节,下面简要介绍常用的激活函数。
(1) 线性函数 ( Liner Function )
(2) 斜面函数 ( Ramp Function )
(3) 阈值函数 ( Threshold Function )
以上3个激活函数都属于线性函数,下面介绍两个常用的非线性激活函数。
(4) S形函数 ( Sigmoid Function )
(5) 双极S形函数


感知器(Perceptron)。它其实就是基于M-P模型的结构。我们可以看看它的拓扑结构图。

单层感知器的局限性
虽然单层感知器简单而优雅,但它显然不够聪明——它仅对线性问题具有分类能力。什么是线性问题呢?简单来讲,就是用一条直线可分的图形。比如,逻辑“与”和逻辑“或”就是线性问题,我们可以用一条直线来分隔0和1。

为什么感知器就可以解决线性问题呢?这是由它的传递函数决定的。

如果要让它来处理非线性的问题,单层感知器网就无能为力了。例如下面的“异或”,就无法用一条直线来分割开来,因此单层感知器网就没办法实现“异或”的功能。


多层感知器的瓶颈
既然一条直线无法解决分类问题,当然就会有人想到用弯曲的折线来进行样本分类。


BP算法实现的多层感知器网络就是BP网络。



https://blog.csdn.net/u013007900/article/details/50066315(神经网络学习 之 M-P模型)


https://blog.csdn.net/huakai16/article/details/77701020(自适应线性神经元的介绍和Python代码实现)


Neural Network算法有三个  neural_network.BernoulliRBM ,neural_network.MLPClassifier,neural_network.MLPRgression



单层感知器是用于2分类的,多层感知器是用于多分类的,神经网络解决多类分类问题的本质是把原分类问题分解为一类对其他类(one-vs-all)的二类分类问题。


分享到:
评论

相关推荐

    计算机数学模型(博客精选)

    目 录 前言 遗传算法(GA)的C语言实现 ...神经网络学习 之 M-P模型 神经网络学习 之 BP神经网络 决策树学习 之 概念与构造算法 现代优化算法 之 模拟退火 现代优化算法 之 遗传算法 现代优化算法 之 禁忌搜索算法

    M-P神经元模型的几何意义

    给出M 2P 神经元模型的几何意义, 这个几何的铨释, 给神经元一个非常直观...的理解, 给出两个颇为有趣的应用: (1) 用此法给出三层前向神经网络的学习能力的基本定理的新的证明; (2) 给出前向网络的拓扑结构设计的新方法.

    具有时滞和脉冲的中立型Cohen-Grossberg神经网络的正p-不变集与全局p-吸引集.pdf

    Cohen-Grossberg神经网络是一种广泛应用的数学模型,用于模拟生物神经系统的动态行为,尤其在神经科学、控制理论和机器学习领域具有重要意义。在深度学习和机器学习中,神经网络被用作数据建模的工具,通过对复杂...

    B-P神经网络算法-理论详解+应用实例

    B-P神经网络算法的主要目的是根据实际的输入与输出数据,计算出模型参数(权系数)。这些参数用于构建一个能够较好地模拟或预测输入数据输出结果的模型。 ##### 1.2 简单B-P算法介绍 假设我们有P个训练样本,即有P...

    一类具有时滞和脉冲的中立型神经网络的全局p-指数同步.pdf

    《一类具有时滞和脉冲的中立型神经网络的全局p-指数同步》这篇文章主要探讨了神经网络中一个特定的复杂模型,即包含时滞和脉冲的中立型神经网络的全局p-指数同步问题。中立型神经网络在神经科学、控制理论和机器学习...

    第二章人工神经网络的基本模型.ppt

    总的来说,人工神经网络的基本模型是理解其工作原理的关键,而M-P模型作为最早的人工神经元模型,对后续的神经网络理论和实践产生了深远影响。随着计算能力的提升和算法的优化,人工神经网络已经发展出各种高级模型...

    人工神经网络模型发展及应用综述.pdf

    20世纪60年代末,Rosenblatt开创了感知器,感知器是建立在M-P模型基础上,第一个物理构建并形成了具有学习能力的人工神经网络。Minsky和Papert在1969年出版Perceptrons:an introduction to computational geometry...

    人工神经网络理论基础.ppt

    - 1949年,Hebb的学习规则为神经网络学习算法提供了理论基础。 - 1957年,Perceptron模型的提出使得神经网络研究进入实践阶段。 - 1982年,Hopfield的离散神经网络模型开启了新的研究高潮,1984年的连续神经网络...

    SOM神经网络的数据分类--柴油机故障诊断.zip

    SOM神经网络是一种无监督学习方法,常用于数据聚类和可视化,尤其适用于高维数据的降维。下面将详细阐述SOM神经网络的基本原理及其在柴油机故障诊断中的应用。 一、SOM神经网络简介 SOM神经网络是由芬兰科学家Teuvo...

    神经网络知识教学.ppt

    2. 神经网络发展的历史脉络,从M-P模型到BP算法的演进过程。 3. 生物神经元的结构和功能,以及它们是如何通过突触连接和信息传递的。 4. 人工神经元的模型,如M-P模型和S型激活函数,以及它们是如何模拟生物神经元的...

    人工神经网络简介人工神经网络简介

    人工神经网络的发展可以追溯到1943年,Mcculloch和Pitts首次提出神经网络数学模型,即M-P数学模型。随后, Von Neumann 提出了冯·诺依曼模型。1950年代,F·Rosenblatt 提出了单层网络,也就是感知机。1962年,...

    数学建模神经网络算法PPT课件.pptx

    本资源提供了一个系统的数学建模神经网络算法的PPT课件,涵盖了人工神经网络的基本概念、发展历史、生物学基础、M-P模型、前馈神经网络、单层感知器、多层感知器、BP算法、BP网络应用案例等内容,为学习和研究人工...

    Python 3.6 - torch-1.10.0-cp36-cp36m-linux_aarch64.whl

    这个版本可能包含了对自动微分、模型训练、模型优化等方面的改进,使得研究者和开发者能更便捷地构建和训练神经网络。 标签 "TX2 jetson" 表明这个资源是专门为NVIDIA Jetson TX2平台准备的,可能需要在相关的社区...

    机器学习西瓜书笔记第五章神经网络及代码.rar

    - M-P神经元模型:由McCulloch和Pitts于1943年提出,包括输入信号、权重、阀值和激活函数。 - 激活函数:如阶跃函数和Sigmoid函数,用于处理神经元的输出。 3. 感知机与多层网络 - 感知机:由输入层和输出层组成,...

    案例17 SOM神经网络的数据分类--柴油机故障诊断.rar_SOM 分类_数据分类_柴油机_柴油机故障_柴油机模型

    SOM是一种无监督学习的神经网络模型,它能够将高维输入数据映射到低维空间,形成一个有序的拓扑结构,有助于发现数据中的模式和群组。 SOM的工作原理是通过竞争学习机制,使得网络中的每个节点(单元)对输入数据...

Global site tag (gtag.js) - Google Analytics