**稀疏分布式存储器(Sparse Distributed Memory)**1998年由Pentti Kanerval发明的用来模拟人类长期记忆的数学模型。该模型被用来存储和索引巨大量(bits)的信息(不关注信息的准确性),它使用模式来作为存储器地址,内容是通过地址的相似性来进行检索的。存储器地址全部在一个列表中,并且根据内容的相似性来进行检索。
公式通式是,其中n为空间的维度,为该稀疏分布式存储器所能存储的元素数目。
临界距离通过最小化下列公式可以得到稀疏分布式存储器的临界距离的近似值,其中且:
其中
d:目标的距离;
h:由读写操作引起的困难位置的个数(该值依赖于访问半径的大小)
s:内存中存储的字节流个数
H:内存中的困难位置的个数
:目标比特流写入内存的次数
:所有h个困难位置中由读操作引起的随机比特流总数;
shared(d):两个d比特流之间的平均距离。1
定义原理稀疏分布式存储是人类记忆的数学表示,它使用多维空间来模拟人类神经网络的海量存储。稀疏分布式存储采用汉明距离来测量不匹配的位,并在写操作的源地址和其临近的地址之间将数据读取回去。人类的记忆有根据相似性来聚集记忆的特性,尽管某些记忆并没有实质性的关联,比如“消防车是红色的,苹果是红色的”。2
计算机计算机内部的存储单元是随机存取存储器(RAM)而不是顺序存取存储器。所有的条目都通过一张表或一个数组而存储于RAM中。计算机的地址解码器与大脑中的神经具有相似的工作方式,从数组中返回匹配或相近的条目。数组中的每一个地址都指向内存中一个单独的行,当行中保存的内容与正在请求的相似时,该行便会被返回。1
示例稀疏分布式存储的基石是在不同的地址间选取模式,在卡内瓦尔关于稀疏分布式存储的书中有一个例子,假定每行是一个不同的内存地址:
"Why are fire engines painted red?
Firemen's suspenders are red, too.
Two and two are four.
Four times three is twelve.
Twelve inches in a foot.
A foot is a ruler.
Queen Mary is a ruler.
Queen Mary sailed the sea.
The sea has sharks.
Sharks have fins.
The Russians conquered the Finns.
The Russians' color is red.
Fire engines are always rushin'.
So that's why they're painted red!"
结果,以上所有的地址均会被返回给用户,尽管这些可能只是列表中地址的一部分。1
相关定义概念稀疏分布式存储器是对人类记忆的一种数学表示,并使用高维空间来帮模拟人类神经网络的巨大存储空间。该模型使用汉明距离来度量为匹配比特位,并读取写入原地址和其附近的内容。人类记忆去相遇检索相似的内容(虽然他们可能并不相关),例如“消防车和苹果都是红色的”。
神经元神经元是能够在大脑内传递电信号的不见。它们被用来在稀疏分布式存储器中来发送和接受数据。神经元在该存储器系统中回忆和发送信息。
计算机计算机的存储器是一种随机存储器(RAM),所有的内容都在一个列表,或者数组中,计算机有地址解码器,能够将指定地址的内容取出。而稀疏分布式存储器中则将地址和相似地址的内容取出。
本词条内容贡献者为:
杨明 - 副教授 - 西南大学