博客

从 如果给你无限顶模额度你会怎样 继续讨论,我提出个关于agi的暴论

原帖传送门 https://linux.do/t/topic/2206942


或许,真的有这么多的ai额度的话,我们认识世界和在网络里面的体验会产生极大的变化吧。

或许可以建立一套真正基于智能的全球信息统计整合的东西,用他来每日总结和学习人类的知识和行为,不断优化hareness,尝试新的模拟人类社会的思路。比如可以根据现实的情况,利用认知科学、心理学、逻辑学等内容,来对人类社会的行为和人类的行为进行抽象解构和泛化,以此维护一套现实世界的最新的事物的性质的“图”(计算机意义上),用来作为自己迭代hareness的依据。

说实话我甚至认为,只要有足够强的hareness,现在的gpt-5.5已经足够强大到可以干任何事情,从模型能力来讲几乎就是agi了。

近年来ai自动科研就是个很典型的例子,暴露出了ai全自动化的难点在于它如何获取现实的反馈,避免信息在向量空间里面空转。 我之前有free号池的时候也试过让ai自己随便玩,烧了十几亿的5.4的token,结果啥也没烧出来,弄了一堆人类完全没法理解的垃圾。 经常coding的佬友也都知道,在coding的时候和ai进行一轮brainstorm是很重要的,不然压根都不知道他能搞出个啥破烂来。

那么在我们和ai交互的过程中,我们是在干啥呢?我们做了什么让ai得以做出“好”的作品呢?

人类实则是起到了一个现实反馈器的作用,不断基于人类的感受和现实的反馈来给ai做出引导和指示,每层约束都可以理解为在向量空间里面照出一束光来,照的越多,最后所有光重合的答案就越精确。

那么这个过程可以交给ai来做吗?如果只让ai来干的话,他就过拟合了。而且就别提ai了,你给一个人类小孩一个信息量极少和反馈有限的环境,那小孩也自闭了(骗你的成人也一样)。现实世界的反馈是必要的,而且可感的反馈也是必要的。问题来了,你的反馈不只是要让你自己弄明白,ai也要可感。而且其中不同的经历会塑造我们对同一件事情的不同看法。问题就复杂了。毕竟无论是何种工作,都要有个基本的共识存在,才会积累下去并产生意义。无论是原始社会的协作诞生文明,还是现代文明的科学进程,都需要有共识作为集体进步和努力的基础。对一样概念的共同理解组成了共识,而几乎所有简单矛盾都是因为共识没有建立起来,对一样东西的概念并不专一。

人类的共识是基于现实世界的统一描述,以及人类本身特有的一些基础道德特质集合起来之后形成的公共约束力,那么ai呢?ai没有人类那么多事情,无需管理情绪和七情六欲,那么他的共识建立在何种基础上呢?究竟是何种环境约束才能让ai的回复不再受温度的影响,稳定的激活一类反馈呢?

ai模型里面几乎已经有了人类所有的知识,区别就在与理解模式。hareness的目的就是通过提出一套共识来让ai进行对自己参数知识的完整调用发挥出最大的功效

而且,人类和ai的共识建立起来的意义也有区别。单个人类个体的智能是有限的,所以需要基于共识协作来实现智能资源的积累。ai的个体智能比单个人类来说大的多,那么ai的共识的意义是什么呢?

现在的主流llm难以成为agi的其中一点原因就是固定权重,难以在使用中不断进化和迭代。那如果我们用无限的ai额度来维护那么一套hareness的ai能理解的现实世界的锚定的点,用来维护一套所有ai看了都能理解的共识,那么是不是就可以解决以上的哪些问题?

现实世界的所有信息都可以作为ai理解世界的真实数据,再加上意义层面的等价处理用来作为参考。 (说实话这就是人类现在在和ai交互的时候做的事情,几乎就是个现实世界的反馈器,我甚至觉得现在ai面对的就是整个人类文明,而非个人。文明在不断的给他数据,教他,让他理解世界)