神经网络研究的主要发展过程大致可分为四个阶段:
第一阶段是在五十年代中期之前;
第二阶段从五十年代中期到六十年代末;
第三阶段从六十年代末到八十年代初;
第四阶段从八十年代初至今。
具体来说:
萌芽期: MP模型,Hebb假设
1890年,美国生物学家W. James首次阐明了有关人脑结构及其功能,以及相关学习、联想、记忆的基本规律。
1943年,MP模型。
1949年,Hebb假设。
第一高潮期:单级感知器
1958年,美国心理学家 F.Rosenblatt等人研制出了感知机。
1959年,Widrow 提出了自适应线性元件网络。
反思期:质疑
1969 年, M.Minsky 和 S.Papert 指出单层感知机不能解决如异或这样的基本问题。
1972年,芬兰学者Teuvo Kohonen提出了自组织映射理论(SOM),美国学者 Grossberg提出了自适应谐振理论。
第二高潮期:Hopfield网络,反向传播(BP)算法
Hopfield网络
Boltzmann机。
多层感知机与反向传播(BP) 学习算法。
国内首届神经网络大会1990年12月在北京举行。
成熟期:平稳发展,应用广泛