神经网络计算机

来自中文百科,文化平台
跳转至: 导航搜索

  神经网络计算机(neural networkcomputer),用硬件实现或用软件模拟的方法、按照人工神经网络的基本原理而研制的计算机系统。以往的自动信息处理都是基于诺依曼机概念和某种算法之上的即按照某种算法程序的安排,一步一步地执行。这种算法是对各种求解过程的预设,而不是对客观环境所作出的即时的映射、联想和响应。因此,对于实际应用中所提出的许多信息处理任务已难于胜任。20世纪50年代以来,人们一直对动物或人的大脑和神经系统为何能如此有效地进行信息处理进行着研究,并企图从中得到有关改进自动信息处理系统的启发。

  脑神经网络 人脑含有1011个神经元,神经元是由细胞体、树杈一样的树突及轴突所组成(见神经元)。轴突和树突的交接处称为突触。每个神经元大约有103个树突。因此,大脑大约形成了1014个突触。由于各神经元的极度并行的互联功能,使得人脑具有每秒进行1014次相互联结的潜力。正是利用了这种极度并行的互联能力,一个普通的人神经网络大约只需花 100个处理步程就完成了用传统的计算机至少需要数十亿次处理步程才能完成的任务。

  人工神经网络早在40年代初人们已经开始了对人工神经网络的研究。具有代表性的一些研究成果为:1943年W.麦卡洛克和W.皮茨就对神经网络的基本原理发表了研究报告。1949年,D.赫布提出了突触是生物进行学习的基础。从1957年起,F.罗森布拉特提出了一种称为感知机的模型,他企图用这种网络模型来模拟简单的学习过程,和解决一些特定的模式识别问题。由于罗森布拉特的感知机模型多少具有一点点自学习能力,因此人们曾对它寄于很大的希望。但很快就发现这种感知机的能力也极为有限,如人工智能学者M.明斯基和S.佩珀就指出感知机只能解决一阶谓词逻辑问题。

  D.E.拉梅哈特和J.L.麦克莱兰等学者就是继续深入研究了感知机模型,他们抓住信息处理中的并行性和分布性这两个本质概念,1985年提出了一个神经元网络反向传播模型,简称为B-P模型,既实现了明斯基所提出的多层网络的设想,又突破了感知机的一些局限性。

  生物物理学家J.霍普菲尔德从1982年起,针对感知机的一些缺陷提出了一种新的网络模型,人们称它为霍普菲尔德网络。霍普菲尔德网络不只是弥补了感知机的缺陷,也改进了B-P模型。霍普菲尔德设想突触联系强度是对称的,当需要把某一信息或知识存贮在霍普菲尔德网络中时,只要相应调整网络中的某值即可。所谓优化过程即往能量单调减小的方向运行。可以证明,霍普菲尔德网络的动力学过程是稳定的,系统最后达到某一状态不再运行,它们是非线性动力学系统的吸引子,或者称为能量函数的极小点(或局部极小点)。与B-P模型相比, 霍普菲尔德网络有了更大的灵活性。B-P模型网络中,每一个节点只有与上一层节点的联线,同一层的节点间是不互联的。而霍普菲尔德网络是任何两个节点间都是可以互联的。

  实际上,霍普菲尔德等都是受到对大脑或神经网络的一些初步研究结果的启发,设计一种网络模型去模拟人可以观察到的一些宏观现象,而不是对大脑或神经网络微观组织的模拟。由于与其他模型相比,霍普菲尔德网络较好地体现了互联网络的特性,又因为它求解问题的基本方法是一种反复运算的动态过程,从宏观上来看,与人的学习过程较为接近,因此网络受到重视,并在此基础上又发展出多种模型。例如对霍普菲尔德模型的随机性的推广而产生了玻尔兹曼机。为避免霍普菲尔德模型的求解过程稳定在局部极小点上而达不到最优点,又产生了霍普菲尔德模型的模拟退火方法。

  神经网络机 神经网络机的设计和实现途径主要有两种:一种是软件仿真的方法,即按照各种人工神经网络的模型与算法,编制高效的模型和算法程序,充分发挥现有的数值计算和符号计算的计算机的能力;另一种是按人工神经网络的原理设计专用电路、芯片和处理部件的计算机系统。这实际上是采用物理模拟的途径,用这些专用电路、芯片或处理部件去对应一个、数十个、甚至上百成千个神经元的功能。

  为了从物理上模拟神经元的功能,就要求这些专用电路或芯片能实现以下的功能:多输入单输出;突触具有兴奋和抑制的功能;具有非线性(如阈值、饱和和时延等)特性;可对权系数作调整。

  应用和前景 神经网络计算和神经网络计算机较普遍地得到应用。与传统的计算机系统相比,它的长处是在于并行处理、可处理某些不完整的信息、具有一定的自学习和自适应的能力。因此,在模式识别、决策支持、机器学习、自然语言理解、模糊逻辑等领域内有较突出的优势。

  人们对神经网络计算机的研制和应用的重视,反映出人们对突破自动信息处理中串行的、程序化的和静态的局限性的渴望,以及对网络模型和极度并行在信息处理中的巨大潜力的认识。人们从对大脑和神经网络的功能现象的观察和研究中得到了网络模型和极度并行的启发,因此命名这种新的计算机模型为“神经网络计算机”。但这绝不意味着这种所谓的“神经网络计算机”真的是模拟了大脑或神经网络的功能。随着人们对脑科学和计算机科学的日益深入的研究以及制造微电子、光电子、生物芯片工艺水平的日益提高,必将会研制出更加接近人脑功能的新的计算机系统。