六种困境:GPT、科技、人类的生产、知识与未来(下)

内容纲要

兔主席 20230410

接上文继续讨论。GPT、科技、人类的生产、知识与未来(上)

探讨4 :GPT工具对人类个体的赋能及影响?

有了上篇的铺垫,就可以做更多的分析和判断了。

作者主要结合日常使用ChatGPT、文心一言、BingChat、Stable Diffusion、Midjourney等工具的有限经验,并且假设GPT技术及通用人工智能在可见的未来将加速迭代发展(快至以月度/季度为单位)。一个基本判断是:GPT及通用人工智能将以比普通人预想要快得多的速度,对人类的工作、生活乃至社会、历史发展等产生重大且不可逆的影响。

以下是作者的一些看法。(以ChatGPT为典例)

1. “结果输出型”:如前文举的例子,电子文字录入只是一个输入法,并不影响思维和内容;互联网上的信息则像是一个图书馆,需要个体进行主动的信息检索、收集、分析、比较,最后创作知识/文化产品。ChatGPT是不同的,给出问题,就能直接输出“唯一”的答案,且它不仅仅能够帮助搜索和整理信息,还能对信息加以分析(或呈现有分析的结果);且不仅仅是进行分析,还能进行一定程度的创作——例如帮助撰写提纲、脚本,对问题的分析,提供框架与思路,打初稿,等等。从这个角度来说,它是“结果输出型”的,性质上更接近电子计算器或翻译机。这个过程,虽然为使用者提供了便利,但也让人们跳过了收集、观察、比较、分析等重要步骤。这些步骤对于一个人掌握学习方法、形成对知识的认知,以及形成系统思维能力是不可或缺的。这时就会出现这样的问题:人工智能越强大,人的思维能力反而可能越弱,因为需要高度依赖人工智能(“ChatGPT上不去了,工作效率急剧下降”)。对于尚在求学阶段的青少年,恐怕更加不利。

2. “内容内循环”:GPT依托互联网上提供的资源信息,不断的训练、学习、模拟。我们前文提到互联网世界信息极大丰富并广泛普及后带来的问题,即“抄袭”和内循环:人们只要从浩如烟海的网络信息里复制内容,做微小的调整就可以当做原创提出。这充其量是一个知识传播的过程,但并没有人类社会创造增量知识。ChatGPT等工具把这个问题“加剧”了。它可以在一定的底层信息上不断地学习、训练、模拟,提供看似正确的答案。并且妙在这个答案每个都看似不同,有所差异,可以为用户调用。但用户所做的,本质上只是对前人成果的复制、复述、反复,并没有创造增量价值。这就是内循环的问题。因此,GPT的结果是以高科技的形式实现了“天下文章一大抄”的愿景。对于尚在求学阶段的青少年,这样的工具恐怕是弊大于利的。因此,我们不得不考虑GPT/AGI对教育体系的影响:如果我们进入这样一个社会,教师用GPT写提纲、备课;学生用GPT写作业。那还有什么教育可言?

3. “平均化、中庸化、中人化”:现阶段,GPT希望实现的就是所谓“通用人工智能”(AGI,下文根据语境,与AI切换使用)。而现阶段的AGI主要还是学习、训练、模拟,“假装是个人”。待ChatGPT发展到GPT-5,对话起来不一定能区分是人还是机器人了——至少不能马上排除其可能是人类。但这时,机器人也只是模仿人类,它也不需要当什么天才,只需要做一个普通人即可,只要达到芸芸众生的平均水平即可。当然,这么说也不准确,确切地说,ChatGPT要达到的是受过高等教育群体里的“中人”水平,甚至超过中人水平,达到比方说第一个四分位数的水平(即打败75%的受过高等教育的人群)。如果实现这一条,对于人类社会的大多数成员而言来说肯定是赋能的:直接把普通人带到了人类知识社会的中层以上水平。这就好比算术能力不普及的时候,所有人突然都有了计算器。这,就是以科技的力量完成知识的均等化。

4. 困境1:“知识和智识的价值贬损”:很多人以为,“哎,有各种GPT帮助写字、画图,我以后可就厉害了。要做个什么东西,先用电脑打个稿,给个创意。”想简单了。知识就是力量(或权力,对应power),隐含的意思是知识也是稀缺的,为少数人所拥有的。等到知识大众化、普及化时,知识和智识能力的相对价值也就减弱了。举个直观的例子。现在报考国际上的名牌大学研究生,申请人都会精心准备简历,个人陈述,并且录制个小视频。这时是很能比出学生用心和能力水平的。但如果以后做这些东西都可以用GPT赋能呢?如果人人都用AI做精美的简历和视频,那一般水平的简历和视频自然也就没有价值了。同理,在职场工作的人士,一般的提纲、文案、备忘录、PPT也没有了价值:你可能只是GPT的二传手。你的工作很快就被人工智能所取代。当人人都拥有这种能力,当知识和智识随手可及时,这种能力瞬间也就没有价值了。可见GPT/AGI会创造价值,但也会同时消灭价值。

5. 困境2:“绝大多数人类个体无法突破AI强大的‘中人’水平”:形式上,GPT/AGI给人赋能了,让每个人都强大了。但实际上,大家都是均等的,你能用GPT,别人也能用。能力一但普及,就没有了价值。创造增量价值的核心在于能够不断地“超越中值”:你在利用GPT做更多的事情,在突破边界,在创造增量价值。你永远不会受困于、受制于AI,而只有AI反过来学习你。换言之,你在把人类的知识和智识推向新的边界。(但AI也会很快赶上哦!)这一条,对大多数人来说是不可能的。他们发现,永远也无法超越GPT,只有“抄”的份儿,只要能抄、会抄就不错了。这很正常,GPT学习的对象一定是受过高等教育的人群,这些人在人口中只占据少数;GPT在这部分人群中如果姑且能够占据“中人”以上水平,其能力肯定会超越大众(及其所代表的智识“中值”水平)。未来世界,真正的高人是能够驾驭AI的(无论利用资本,还是技术,还是政治);凡人看似也能利用AGI,但实则是被AI驾驭的。

6. 困境3:“大多数人类会因为对AI形成依赖,导致智识能力的进一步下降,甚至导致智力的‘贫富分化’”。上文探讨过,现代文明和生活方式可能反会削弱人们应对和驾驭自然的能力;计算器反会减弱人的算术能力,翻译机反会降低人的外语能力,等等。AI在强大、普及后,将俘获全人类,让大多数人类获得形式上的赋能(如同佩戴了电子计算器和翻译机)。一但人类对AI形成了依赖,智识能力反而可能会下降:他们只求通过AI获得输出与结果——这些结果已经远比他们自我学习所能得的结果要好,效率远要更高,是凡人此生无法超越的。他们也不可能有心力和脑力去研究和驾驭AI。这和我们今日世界的经历一样:电脑和智能手机全面普及后,也不是全民都去学习掌握电脑和智能手机的原理——人们只是将其作为理所当然的工具进行使用。这样,大部分人的智识反而可能更“愚钝”。少部分的精英,则可以利用AI进一步推进自己的脑力,推进人类智识的边界,并且将新的突破传授予AI,帮助AI突破先前所讲的“平均水平”,并使平均水平距离常人更远。这个结果就是,常人更加难突破平均水平,距离中值更远,并且智识水平可能进一步削弱。这时,我们将看到,在AI的助力下,精英与大众的智识能力将加剧分化,最终导致人类智力资源的“两级分化”;

7. 困境4:“知识与智识能力内卷的加剧”。前面我们已经看到,第一,对于大多数凡人来说,将来越难越突破AI代表的人类“平均能力”,并会被困在其中;第二,少数精英能够驾驭和引领AI,并且会推动AI(即人类智识“平均水平”)的前进,拉大AI与普通人(即人类智识“中值水平”)的距离。但还会不少人处在中间位置:他们刚好落在AI代表的平均水平附近,但又不具备引领突破智力边界的能力。这部分人能做的,其实是把大部分脑力用在改良、差异化GPT提供的输出。在知识文化与智识的价值创造上,不能说他们完全没有贡献,但他们投入产出比是比较低的。总体而言,他们做的是教科书定义的“内卷”(involution)。

8. 困境5:“价值观与意识形态‘泡泡’”。就此问题,作者在本公众号上已经写了多篇文章,并以美国的ChatGPT为例,探讨了这一顶流工具系统存在的价值/意识形态偏向(偏向西方的政治左翼/进步主义/社会主义)。作者并认为,未来的意识形态/舆论战场将建立在人工智能的基础之上。掌握人工智能技术资源与能力的机构或个人,将通过人工智能影响世界。未来的人们将不知不觉地“圈定”在一定的意识形态或价值观“泡泡”里,并对此毫无意识,因为这些价值观已经潜移默化地成为他们的一部分。这时,人工智能帮助营造了一个“楚门的世界”,凡人不仅难以突破边界,甚至不知道存在边界。待AI进一步演变,可能人类整体都会被超智能的AI圈定在它所设置的“楚门世界”里而不自知。(这是下一篇文章的题目)

9. 困境6:“AI对艺术创造工作的取代”:许多人认为,创作、创造、创新是人类的专属,很难被AI取代。但这可就把问题想简单了:看艺术领域就知道,原创其实是很少的,绝大部分人只是在学习和模仿,进行微观的差异化调整和改良,但没有艺术的创新,没有对艺术边界的推进。这样的模仿作品,价值是非常小的。我们学习艺术史——从美术、音乐到建筑,看各个时代的大师——大师一定有原创的东西,在所在领域推出了全新的东西,把艺术的边界和可能性向前推进。今天,哪位美术学院或音乐学院的学生模仿几百年前的大师风格创作作品,哪怕比前代做得更好(譬如更高级的莫扎特/巴赫或拉斐尔/伦勃朗),恐怕也不会有什么价值——这些都是人家已经做过的东西。人类艺术史的发展演进,人类艺术价值的发现,都是对艺术边界的推进。大多数人是没有这种能力的,毕生停留在模仿、折衷、微观改善的水平。因此他们也不会成为大师,无法在历史上留名。我们为什么要学习艺术史?表面上是是了解过去,实际上是确立艺术的审美价值观——前代做过的东西,就没有价值了,尝试点新东西!但这对于普通人来说可是勉为其难,因为似乎能做的东西都做了,能表达的东西都表达了,能用的形式都用了,进一步创造增量价值很难了。而这正是AI对人类提供的挑战。第一,凡是大路货的平面设计和视频,很快都会被AI取代,因为GPT就是最强的学习训练模仿者,可以瞬间生成达到人类艺术里均值水平的东西。GPT不负责创作,只负责模仿,而对于大多数艺术品的生产而言,这就够了——我们可能只需要做一个商业海报,营销视频,或者在办公室走廊、会议室、卫生间挂个画,营造一点氛围。交给GPT/AGI不就可以了么,不需要什么艺术家创作。GPT的横空出世,对于偏向模仿,缺乏原创的艺术工作者的打击将是致命的。第二,人类艺术史的推进与发展,其实要捕捉所谓的“outlier”(异类/离群者/异常者)——那些非主流、离经叛道,但对艺术创造和想象产生颠覆影响的人。他们甚至不一定是正常人,可能是精神分裂者。但这样的人,恰恰可能穿越主流,把创作推向新的边界。

GPT的时代,AGI的时代,将使得知识和智识能力全面的大众化、平庸化、中值化。但GPT/AGI终究还只是学习者。人类该如何突围呢?突破算法:你可能需要一点“离经叛道”,一点“非主流”,一点边界感,一点违和,一点极致,一点颠覆。这是一个奖励异类/离群者(outlier)的时代。

直到AI学会“异类”,将其纳入到算法之中,完成楚门世界的闭环。

未来,人类和机器(人工智能)的知识与意识边界将是模糊的。人类高度依赖AI;AI反过来又要向人类学习,两个力量“相向而行”,越发接近。人与机器的知识不断合成,不断迭代。在AI的驱动下,人类彼此之间的意识可能逐渐的聚合,与AI的界限也将越发模糊,最终归于一体,一个共同的意识。

现在一些科学家和科技大佬呼吁叫停GPT的研究,担心人工智能研究的推进可能对人类社会造成不可逆的影响。

太晚了!AI的发展已经突破临界点了,所有的力量都在推动它,不可能再止步。

没人知道技术演变的速度会有多快。几个月?一年?如何改变我们的生活?没人能够预测。但在可见的未来,我们的生活一定会发生巨大的改变。而我们的下一代,必须为这样的生活做好准备。

(全文结束)

给TA打赏
共{{data.count}}人
人已打赏
程序员

GPT、科技、人类的生产、知识与未来(上)

2023-4-12 17:32:17

程序员

GPT- 4 标注能力直逼人类,成本大砍 90%,数据众包危矣?

2023-4-14 22:13:11

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
有新私信 私信列表
搜索