机器学习基础知识回顾-L0、L1与L2范数

发布时间:2016-02-21  栏目:机器学习  评论:0 Comments

范数,是具有“长度”概念的函数。在线性代数、泛函分析及相关的数学领域,范函是一个函数,其为矢量空间内的所有矢量赋予非零的正长度大小
L0范数是指向量中非0的元素的个数。
L1范数是指向量中各个元素绝对值之和
L2范数是指向量各元素的平方和然后求平方根。
这里以Cn空间为例,Rn空间类似。

最常用的范数就是p-范数。若

b58f8c5494eef01f86e1faefe2fe9925bc317d27

,那么

64380cd7912397dd2d45702e5b82b2b7d0a287d8
可以验证p-范数确实满足范数的定义。其中三角不等式的证明不是平凡的,这个结论通常称为闵可夫斯基(Minkowski)不等式。
当p取1,2,∞的时候分别是以下几种最简单的情形:
1-范数:║x║1=│x1│+│x2│+…+│xn
2-范数:║x║2=(│x12+│x22+…+│xn21/2
∞-范数:║x║∞=max(│x1│,│x2│,…,│xn│)
其中2-范数就是通常意义下的距离。

留下评论

You must be logged in to post a comment.

相册集

pix pix pix pix pix pix

关于自己

杨文龙,微软Principal Engineering Manager, 曾在各家公司担任影像技术资深总监、数据科学团队资深经理、ADAS算法总监、资深深度学习工程师等职位,热爱创新发明,专注于人工智能、深度学习、图像处理、机器学习、算法、自然语言处理及软件等领域,目前发明有国际专利19篇,中国专利28篇。

联系我

个人技术笔记

welonshen@gmail.com

2015 in Shanghai