个人技术笔记

Bias, 人以及机器学习

发布时间：2022-05-04  栏目：AI应用领域, 人工智能, 感悟  评论：0 Comments

To be biased is to be Human.

其实机器学习模型、深度学习模型，乃至生物或者人类都一样，只要是系统，那么就会有响应函数，就会不可避免地有bias。

作为一个系统或者个人，怎么样认识到自己的bias，进行适当的矫正，进而从中获得客观的判断，是个人和机器学习都需要面对的问题和挑战！

 

Bias来自于我们多年积累的习惯和偏好，对于机器学习系统来说，它来自于训练的数据以及训练的超参数，在大多数情况下，这些快速的判断能够帮助我们更快的适应新环境，但同时在某些情况下，也会带来一些偏差；对于每一个个体或者单个的系统来说，bias都是不可避免的。对于人来说，Bias分为Unconscious和conscious两种。

 

对于个人来说，对其他人的第一印象来自于其他人的衣着、长相、以及外在的行为，也来自于自己对这些的喜恶的偏向性。当然，我们都知道，第一印象有时是不准确和不客观的。

要解决bias，特别是unconscious bias, 第一步首先是要意识到这点，即每个人都会有bias；

unconscious bias有以下类别：

-Similarity bias

-Attribution bias

-Expedience bias

-Experience bias

解决unconscious bias的有效方法是activating the slow thinking system in out brain

 

解决bias的方法如下：

-多人或者多系统投票，不过缺点是会比较耗能和耗时

-针对Similarity bias和Attribution bias，可以采用Exercise curiosity: keep an open mind and show empathy, ask questions and listen carefully

-针对Expedience bias和Experience bias，可以采用practicing awareness，包括：（1）听取不同人群或者视角的意见（2）放慢自己的反应，并理性判断原因（3）检查自己的假设

– Willful awareness (retrain our minds)

(1) understand our unconscious bias

(2) Identify positive counter-stereotypes

(3) Challenge our thought patterns

(4) Diversity our networks

 

自己的一点感想和理解：

每个模型、系统或者人都是有bias的，这点很正常，要做矫正也是非常难的，因为自己是应该去相信自己的经验和判断呢，还是去相信自己完全不了解的其他见解或者输入呢？我相信大多数人大多数情况下还是会选择前者，因为后者完全没有数据或者证据去支撑；这里我想主要的意思是，自己多做检查、多听取不同的意见，以获取不同的视角的信息、通过逻辑推理来论证自己是否有偏差，以及甚至在遇到类似的Bias种类的偏差可能性时，可以根据之前的一些经验加适当的矫正项。当然，最好的矫正方式还是去获取更加全面以及视角/corner case的数据，进而获取更好的数据去训练自己的大脑/模型，使之判断更加公允、适应性更强；

 

这么说来，DNN的输出更多的还是有点像是感性的东西，而不是理性这一块。

留下评论

You must be logged in to post a comment.