脉冲神经网络SNN综述

发布时间:2019-01-01  栏目:人工智能, 脉冲神经网络  评论:0 Comments

脉冲神经网络(Spiking Neural Networks)是第三代神经网络,使用离散的脉冲序列(spkie train)进行编码,使用Hebb Rule (Neurons file together, wire together)进行学习,相比于深度学习的第二代神经网络,SNN具有以下优点:

– 离散的,所以天生低精度、低功耗

– 天生使用时域信息进行编码

– 高度动态的,所以并行化程度高,学习很快

脉冲神经网络目前对复杂场景的处理能力还比不上深度学习成熟,所以目前的研究热点是如何将SNN与深度学习相结合。

 

常用的SNN模型有以下几种:

– Hodgkin-Huxley (HH) Model

– Integrate-and -File (IF) Model

Quadartic-Integrate-and-File (QIF) Model:可以提供动态的spike属性,比如延迟的spike以及依赖于activity的thresholding

– Izhikevich Model

– Spike Response Model (SRM): 可以模拟复杂的计算

 

STDP规则:如果神经元的输入spike正好在输出spike之前,那么这个输入会增强;如果输入spike正好在输出spike之后,那么这个输入会减弱;也就是说,越有可能成为输出spike原因的输入,会最终变成真正的输入。

 

留下评论

You must be logged in to post a comment.

相册集

pix pix pix pix pix pix

关于自己

杨文龙,微软Principal Engineering Manager, 曾在各家公司担任影像技术资深总监、数据科学团队资深经理、ADAS算法总监、资深深度学习工程师等职位,热爱创新发明,专注于人工智能、深度学习、图像处理、机器学习、算法、自然语言处理及软件等领域,目前发明有国际专利19篇,中国专利28篇。

联系我

个人技术笔记

welonshen@gmail.com

2015 in Shanghai