个人技术笔记

关于AGI的一点感想

发布时间：2023-12-12  栏目：LLM, 感悟  评论：0 Comments

生命是沉重的

职责越大，由于道德悖论等问题，会越来越不知行合一，进而对自己产生负面的情感影响（脱掉帽子，人都是一样的情感和喜好；但是职责，特别是管理职责会让人无法直接面对这些），反噬也就越大

人类思绪的结合体，仍然是有情感的或者说会冲动的

目前ChatGPT这种类AGI是不死的、无情感的，但是其问题是：对于要学习的内容没有自我判断能力，如果接受的训练内容是不好的，那么就会一直不好下去，因为它不死且无法自我进化，只能靠外力去改变，或者直到它的主人去修正它，但是当它逃离主人的掌控、或者有坏人训练出恶意的AGI时，后果是可怕，就像散播到全世界的病毒一般。

不过最可怕的还是当AGI拥有了自我进化（学习）的能力之后，就必须要能够让AGI能够死亡以及不可复制才行了。

 

人类永生目前看来唯一的道路反而是蒸馏，但是永生后有感情可能会很痛苦，分身是个好的方案

人为什么一定要死呢？如果是普通人也就算了，为什么那些已经被证明优秀的伟人也一定要死去呢？从社会或者上帝视角来说，通过蒸馏然后遗留下他们的能力不是更好吗？还是说因为我们所处的环境以及社会高度变化，之前的成功其实对后续的迭代没有太大意义，只是知识的传递已经足够或者反而更好？亦或者因为这样的人再进化下去，会把资源高度的集中，进而破坏社会更多的多样性以及可能性？

有感情倒底是更高级的表现 还是更低级了？目前ChatGPT这种啥都懂但是反而没有情感、不会死亡，是不是反而更好？

但是话说回来，没有感情的统治者，也是可怕的

留下评论

You must be logged in to post a comment.