生物学是对生物的探究研究,其中,神经元的科学引人入胜。本文我们聚焦于一个激动人心的领域--神经元稀疏编码与稠密编码。
事实上,人类和动物的神经系统中神经元的数量非常多,这些神经元不同激活方式有不同饱和度,也就是信号量,产生的信号有密集和稀疏两种形式,稠密编码意味着每个神经元需要携带部分或全部信息,而稀疏编码则表明只有一小部分神经元负责传递信息。
那么,为什么有稀疏编码的存在呢?我们知道,在生物进化过程中,能量和时间都是宝贵的资源。稠密编码需要大量神经元参与,导致能耗和反应速度等不尽如人意,而通过稀疏编码,则能够达到节省资源和快速反应的目的。
优雅的数字计算机也发展出了一种稀疏编码,它能够非常容易地从许多输入中找到有用的模式。稀疏编码在计算机视觉的应用中表现突出。我们甚至可以在各种神经网络上构建没有监督学习的计算模型、基于稀疏的深度学习算法。
这种神经元编码方法在目前计算机视觉、机器学习等领域得到了广泛应用,并且取得了令人瞩目的成果。越来越多的研究证据表明,稀疏编码是神经系统最基本的信息编码策略之一。