脉冲神经网络与管理学及人生

发布时间:2020-10-21  栏目:感悟  评论:0 Comments

自从离开英特尔之后,深感人生不易,竞争激烈。当然也可能是因为在大城市,节奏快,或者是因为在软件行业,亦或者是因为在中国这样一个高速发展的发展中国家,竞争、淘汰等都是常态。好在一条赛道失败并不会决定人生的全部,还有机会继续在其它赛道做尝试。

最近越来越觉得脉冲神经网络的机制,与人类社会运行机制很相似。脉冲神经网络的Hebb学习准则,每个神经元之间都在竞争,最终会选择领先的神经元,对其权重不断强化,而落后的神经元,其权重则会被不断弱化,直到…深度学习中也会有的、常见的模型压缩或者优化方法之一:稀疏化,也就是消除无用或者作用微弱的神经元,使之不容易过拟合、并且减少耗能。从这点来看,跟公司裁员、所谓的组织优化也很类似,可以减少公司的开支、并且使公司运行更加顺畅快捷。相对的,公司也会不断提拔表现好的人员,promotion等,强化其权重,也类似于神经网络中的强化神经元的权重了。

从个体的角度来说,对这种机制有时心里还是比较难以接受,但是从群体,特别是进入管理者的角色后,又会觉得这是必要的,内心难免矛盾,不过这就是人生吧!

即便是对深度学习来说,每一个神经元,其学习训练过程,都是在不断的学习做决定,特别是最后一层神经元,其决定最终会决定整个网络的好坏。这也像公司的管理层,主要工作都是在做大大小小的决定,其本身做的实质的工作越往上层约少了,越高层越主要是在做决定了。

虽然Hebb准则这种人类社会与自然界中都存在的法则很残酷,但是这确实是自然的法则,我们每个人来到这个世上、或者说我们体内的基因存续万年乃至更久至今仍未完全消逝,某种意义上都是经历了重重关卡,我们都是Hebb准则的某种成功者或者受益者,只是当我们又作为一个整体出现在人类社会中、或者说一个公司或者学校的小社会中时,是否能继续成功下去,又变得机会很小了。

留下评论

You must be logged in to post a comment.

相册集

pix pix pix pix pix pix

关于自己

杨文龙,微软Principal Engineering Manager, 曾在各家公司担任影像技术资深总监、数据科学团队资深经理、ADAS算法总监、资深深度学习工程师等职位,热爱创新发明,专注于人工智能、深度学习、图像处理、机器学习、算法、自然语言处理及软件等领域,目前发明有国际专利19篇,中国专利28篇。

联系我

个人技术笔记

welonshen@gmail.com

2015 in Shanghai