稀疏编码什么是字符集、编码、代码页（code page）

什么是稀疏优化

稀疏优化是一个数学概念，可以理解为：对“稀疏”进行数学或逻辑上的优化算法、处理。

近年来,许多神经生理学家在视觉系统上已展开了全面深入的研究,并且取得了一些有重要意义的研究成果.这就使得在工程上利用计算机来模拟视觉系统成为可能.基于这一认识,利用已有的生物学科研成果,联系信号处理、计算理论以及信息论知识,通过对视觉系统进行计算机建模,使计算机能在一定程度上模拟人的视觉系统,以解决人工智能在图像处理领域中碰到的难题.神经稀疏编码算法正是这样一种建模视觉系统的人工神经网络方法。

这种算法编码方式的实现仅依靠自然环境的统计特性,并不依赖于输入数据的性质,因而是一种自适应的图像统计方法.

稀疏表示分类方法是什么时候提出的

近年来,稀疏表示分类（SRC）方法在图像识别中受到越来越多的关注。

SRC方法将测试样本分在最小重构误差所对应的类别中,这种决策方法对SRC的稀疏原理不是最优的。

为了从稀疏编码系数中得到鉴别性更强的信息,本文提出一种新的决策规则――＂系数和＂规则。

在Yale数据库和MNIST数据库上的实验结果表明本文提出的方法要优于原始SRC方法

稀疏编码的研究历史

1959年,David Hubel和Toresten Wiesel通过对猫的视觉条纹皮层简单细胞感受野的研究得出一个结论:主视皮层V1区神经元的感受野能对视觉感知信息产生一种“稀疏表示”。

1961年,H.B.Barlow[5]基于这一知识提出了“利用感知数据的冗余”进行编码的理论. 1969年,D.J.Willshaw和O.P.Buneman等人提出了基于Hebbian 学习的局部学习规则的稀疏表示模型.这种稀疏表示可以使模型之间有更少的冲突,从而使记忆能力最大化.Willshaw模型的提出表明了稀疏表示非常有利于学习神经网络中的联想. 1972年,Barlow推论出在稀疏性(Sparsity)和自然环境的统计特性之间必然存在某种联系.随后,有许多计算方法被提出来论证这个推论,这些方法都成功地表明了稀疏表示可以体现出在大脑中出现的自然环境的统计特性. 1987年,Field提出主视皮层V1区简单细胞的感受野非常适于学习视网膜成像的图像结构,因为它们可以产生图像的稀疏表示.基于这个结论,1988年,Michison明确提出了神经稀疏编码的概念,然后由牛津大学的E.T.Roll 等人正式引用.随后对灵长目动物视觉皮层和猫视觉皮层的电生理的实验报告,也进一步证实了视觉皮层复杂刺激的表达是采用稀疏编码原则的. 1989年,Field提出了稀疏分布式编码(Sparse Distributed Coding)方法.这种编码方法并不减少输入数据的维数,而是使响应于任一特殊输入信息的神经细胞数目被减少,信号的稀疏编码存在于细胞响应分布的四阶矩(即峭度Kurtosis)中. 1996年,Olshausen和Field在Nature杂志上发表了一篇重要论文指出,自然图像经过稀疏编码后得到的基函数类似于V1区简单细胞感受野的反应特性.这种稀疏编码模型提取的基函数首次成功地模拟了V1区简单细胞感受野的三个响应特性:空间域的局部性、时域和频域的方向性和选择性.考虑到基函数的超完备性(基函数维数大于输出神经元的个数),Olshausen 和Field在1997年又提出了一种超完备基的稀疏编码算法,利用基函数和系数的概率密度模型成功地建模了V1区简单细胞感受野. 1997年,Bell和Sejnowski 等人把多维独立分量分析(Independent Component Analysis, ICA)用于自然图像数据分析,并且得出一个重要结论:ICA实际上就是一种特殊的稀疏编码方法. 2014年， 21世纪以来,国外从事稀疏编码研究的人员又提出了许多新的稀疏编码算法,涌现出了大量的稀疏编码方面的论文,国内研究者在稀疏编码算法和应用方面也作了一些工作],但远远落后于国外研究者所取得的成果.

稀疏编码怎样进行图像的特征提取

常用的图像特征有颜色特征、纹理特征、形状特征、空间关系特征。

一 颜色特征 （一）特点：颜色特征是一种全局特征,描述了图像或图像区域所对应的景物的表面性质。

一般颜色特征是基于像素点的特征，此时所有属于图像或图像区域的像素都有各自的贡献。

由于颜色对图像或图像区域的方向、大小等变化不敏感，所以颜色特征不能很好地捕捉图像中对象的局部特征。

另外，仅使用颜色特征查询时，如果数据库很大，常会将许多不需要的图像也检索出来。

颜色直方图是最常用的表达颜色特征的方法，其优点是不受图像旋转和平移变化的影响，进一步借助归一化还可不受图像尺度变化的影响，基缺点是没有表达出颜色空间分布的信息。

（二）常用的特征提取与匹配方法 （1） 颜色直方图 其优点在于：它能简单描述一幅图像中颜色的全局分布，即不同色彩在整幅图像中所占的比例，特别适用于描述那些难以自动分割的图像和不需要考虑物体空间位置的图像。

其缺点在于：它无法描述图像中颜色的局部分布及每种色彩所处的空间位置，即无法描述图像中的某一具体的对象或物体。

最常用的颜色空间：RGB颜色空间、HSV颜色空间。

颜色直方图特征匹配方法：直方图相交法、距离法、中心距法、参考颜色表法、累加颜色直方图法。

（2） 颜色集 颜色直方图法是一种全局颜色特征提取与匹配方法，无法区分局部颜色信息。

颜色集是对颜色直方图的一种近似首先将图像从 RGB颜色空间转化成视觉均衡的颜色空间（如 HSV 空间），并将颜色空间量化成若干个柄。

然后，用色彩自动分割技术将图像分为若干区域，每个区域用量化颜色空间的某个颜色分量来索引，从而将图像表达为一个二进制的颜色索引集。

在图像匹配中，比较不同图像颜色集之间的距离和色彩区域的空间关系

如何设置稀疏自编码器的参数

稀疏自编码器Ⅰ： 神经网络 反向传导算法 梯度检验与高级优化 稀疏自编码器Ⅱ： 自编码算法与稀疏性 可视化自编码器训练结果 Exercise: Sparse Autoencoder 自编码算法与

什么是字符集、编码、代码页（code page）

字符集就是一组规定了的字和符号。

例如，GB2312-1980，它含ASCII字符,日文假名（字母），俄文字母，7千左右的中文字。

编码，就是给字符集中每一字符各有一个独一无二的数字号码，相当于定义一组向量，一列是字和符号形状，另一列是它的码。

代码页 code page 是IBM 的传统术语，就是“一张字符编码表”，当然这个“张”可以很大也 可以很小。

例如 IBM PC (OEM) code page，中文GBK code page 。

Code page is the traditional IBM term used for a specific character encoding table: a mapping in which a sequence of bits, usually a single octet representing integer values 0 through 255, is associated with a specific character. IBM and Microsoft often allocate a code page number to a character set even if that charset is better known by another name. GB2312 code page 是双bytes 码，两字节大于 0xA0A0 的表. 也就是说code page 里可能含有部分空白（少数码，没有字符）。

UTF 是unicode的传送码，即unicode编码后的编码。

UTF的编码方法很简单，用算术表达式计算就可以了，看3字节的Utf-8数据没意思。

unicode 与字符集对应。

Utf-8与unicode值对应。

计算机内码就是指令码，数据和地址。