[科普中国]-联想记忆模型

基本概念

人工神经元网络是通过模拟人的神经元网络系统信息处理的原理从而使机器具有类似的信息处理能力的一种方法，联想记忆是人脑记忆的一种重要方式，对文章中模糊不清的字人可以通过上下文关系联想起来，对于发生过又记不太清楚的事情，经过别人提示后仍能较清楚地回忆起。用人工神经元网络模拟人的联想记忆也是进一步研究神经元网络的各种信息处理的基础。

联想记忆的研究在计算机科学和认知科学上是一个交叉的热点问题，它可以归结为对人脑中信息的存储、关联及检索的研究，对计算机科学的各个领域都有着极其重要的指导意义。三个在联想记忆研究领域有重大影响的代表性模型分别是SAM、TODAM 和Matrix。SAM 属于情景记忆模型，TODAM 为语义记忆模型，Matrix模型为情景记忆与语义记忆的混合模型。

联想记忆的原理及算法Hopfield模型具有与人脑联想记忆类似的能力。它能够从缺损或模糊不清的图象中联想起记忆中完整、清晰的图象来，但这种模型在进行联想记忆时有很大局限性。以Hopfield为例，下面是联想记忆的原理及算法1。

原理Hopfield网络是一种节点互连网络，网络的任两节点间有一条连线，其强度称为权，这种神经元网络是一种对称连接，即从节点泣到节点i 的权同节点j 到i的权相等，即 。

Hopfield联想网络的权可由Hebb规则确定，网络运行时则是一个高维非线性动力学系统。当系统到达某一状态不再运行，这个状态称为稳定吸引子，如果吸引子是某个样本，则称它为样本吸引子，否则称为非样本吸引子。

对给定的一模式X ，神经元网络进行联想过程则对应于系统以此模式为初始状态朝某一吸引子运行的过程，若此吸引子为一样本点，则认为此样本是由x 联想到的。Hopfield联想网络有这样两个问题，一是网络存储的样本数量有限，当存储的样本太多时，不能保证每个样本都是系统吸引子，即是说某些样本根本没有记住。Hopfield指出，对于随机产生的样本，网络存储样本的数量M