人脑的神经元模型如图8.6所示。
图中一个神经元由细胞核、一个轴突、多个树突、突触组成。生物电信号从树突传入,经过细胞核处理,从轴突输出一个电脉冲信号。神经元通过树突与轴突之间的突触与其他神经元相连构成一个复杂的大规模并行网络。
图8.6 人脑的神经元模型[8]
1943年心理学家McCulloch和数学家Pitt将生物模型抽象化,建立了人工神经网络的数学模型——MP模型,如图8.7所示。
图8.7 人工神经元模型[8]
该人工神经元具有以下6点特征:
(1)每个神经元是一个多输入单输出单元;
(2)突触分兴奋和抑制两种;
(3)神经元有空间整合性和阀值;
(4)神经元的输入输出有固定的时间滞后,主要取决于突触延搁;
(5)忽略时间整合及不应期;
(6)神经元是非时变的,即突触延时和突触强度均为常数。
显然,上述假定是对生物神经元信息处理过程的简化和概括。以上内容可以由式(8.25)进行抽象和概括:
地球物理反演教程
其中:xi(t)表示t时刻神经元j接受到来自神经元i的信息输入;oj(t)表示t时刻神经元j的输出;τij为输入输出间的突触时延;Tj为神经元j的阀值;wij为神经元i到神经元j的突触连接系数或权值;f{ }为神经元的转移函数,有时又称激励函数。
为简单起见,将上式中的突触时延取为单位时间,则式(8.25)变为
地球物理反演教程
上式描述的神经元数学模型全面表达了神经元模型的6点假设。xi(t)有多个,而oj(t)只有一个,体现了“多输入单输出”。权重值wij的正负体现了“突触的兴奋和抑制”。输入总和net'j(t)称为神经元在t时刻的净输入:
地球物理反演教程
上式体现了神经元j的“空间整合性”而忽略了“时间整合作用和不应期”。当net'j(t)-Tj>0时,神经元才被激活。oj(t+1)与xi(t)的单位时间差代表所有神经元具有相同的、恒定的工作节律,对应于“突触延搁”。wij与时间无关,体现了“非时变”。