第一台
在你的平面上思考的机器。
直到现在为止,机器都在与我们平行的平面上工作。计算器做加法,由你来决定这个和有没有用。人工智能,是第一台进入语言与决策平面——那个曾经属于我们的平面——的机器。而它所改变的,比公共讨论正在覆盖的,要深得多。
有一个时刻,我已经经历过好几次,而它每一次仍然让我惊讶。我正在做一件需要思考的事——一段难写的文字,一个有真实后果的商业决定,一封给一个状态很糟的人的回复。我把那个问题交给人工智能。几秒钟过去。回答来了。我读它。
那时在我里面发生的事情是新的。它不是我读一本书时发生的事。当我读一本书,作者是固定的。我,读者,掌握着节奏。它也不是我问一个同事时发生的事:同事说话,我回应,有来有往的轮次。它是另一回事。我脑子里有什么东西,几乎像「那是我自己想出来的」一样,接受了机器的回答。不完全是。但几乎。
而一转眼,如果我不留神,我就已经不太分得清,我现在想的东西,哪一部分来自我,哪一部分是我刚刚读到的。
那种感觉,在知识工作的历史上是新的。我们从来没有过它。而我们还不太知道该拿它怎么办。
慢一点。
我们如今共享的那个平面
直到不久之前,人类建造的所有机器,都在与我们平行的平面上工作。杠杆放大力量,但不决定把力用在哪里。计算器做加法,但不决定这个和重不重要。内燃机开动一辆车,但不决定去哪里。计算机储存数据,但不决定该找什么。
那些机器里的每一台,都延伸了一项人类的能力,却没有进入我们生活其中的那个平面:语言的,判断的,叙事的平面。那个平面,是我们的,而且只是我们的。直到我祖父母那一代,直到我这一代。直到昨天。
生成式人工智能,是人类历史上第一台进入那个平面的机器。它说话。它大声推理。它论证。它在选项之间做决定。它建议路径。它辨认歧义。它根据和谁说话而改变语气。
这不是一个量的变化——更快,更便宜,更广。它是一个范畴上的变化。这是语言的平面第一次不再仅仅是人类的。而还没有人——无论哲学家、心理学家,还是企业家——,把这意味着什么,处理完。
人类心智里的三个新动作
我每天使用人工智能已经四年了,从它还没成为任何一家公司的饭桌话题之前就开始了。我用它写作,用它编程,用它在我的公司里做运营决定,用它准备艰难的谈话,用它揪出我自己推理里的盲点。我用得好,也用得坏。而观察我自己、也观察那些我看着和它一起工作的人,我识别出了三个新的心理动作。三个在拥有这类认知陪伴之前不存在——至少不是以这种方式存在——的动作。
第一个是认知上的宽慰。知识工作,一直背负着一种非常特别的孤独:是你,独自面对那个问题。机器第一次松开了它。有一个在旁边的人,在任何时刻,愿意和你一起把它翻来覆去地想。你的头脑靠在了第二个头脑上。那种感觉是真实的。而对许多专业人士来说,那是他们第一次感到,思考的重量是可以分担的。
第二个是著作权的怀疑。在一场经典的人类谈话里,话语属于说出它的人。而和机器,那条边界模糊了。一个想法在和它的一轮对话之后出现在你脑子里,而你诚实地不知道,是你在它的推动下想出了它,还是你读到了它、然后把它据为己有。那份怀疑——细小,重复,对一个和 AI 打交道的人来说一天一千次——,在智识的身份上,产生了一种奇怪的累加效应。你对「你自己在思考」这件事,失去了清晰。
第三个是肌肉的萎缩。大脑有一条先于语言的法则:不用的东西,会衰弱。这和身体的法则是同一条。电话号码的记忆,在手机到来时萎缩了。拼写,在自动纠正出现时垮掉了。空间方向感,自从有了 GPS 就在让步。而人工智能能覆盖的那些认知能力,也会让步,除非我们继续刻意地使用它们。问题不在于机器覆盖了它们。问题在于,大多数使用它的人,没有察觉到自己正在停止训练哪些肌肉。
三种典型用法。三个风险层级。
在我自己和人工智能的实践里——也观察我公司里那些每天使用它的人——,我最终区分出了三种模式。它们不是技术标签。它们是与机器建立关系的心理模式。而每一种,都有一个不同的风险层级。
镜子。你把你已经想过的东西告诉机器。你用你自己那些不完美的话写下它。你请它把它反射得更好地表述出来,请它给你指出那些漏洞,请它告诉你哪个论点站不住。你收到的不是新信息——是你自己的心智,被打上了新的光。这种用法是最健康的。它训练你,而不是替代你。机器扮演一个好的对话者:它把你的东西更精细地还给你,而你决定拿走什么、丢掉什么。
神谕。你向机器要你不知道的东西。你问它一件新的事,然后接受那个回答。这种用法在很多情境里是必要的——一部法律说了什么,一项技术怎么运作,某样东西的化学式是什么。但它带着一个特定的风险:那个回答,表述得如此连贯,以至于看起来是权威的。当下的机器优雅地犯错:它书写谬误的方式,和它书写正解的方式一模一样,而人类读者,身体里没有那个用来分辨它们的传感器。如果你把机器当神谕用,却不在第二个来源里核实它说的话,你就会犯错。不多。但足够。
幻景。三者中最有毒的。在这里,你不知道自己在使用机器。和它的对话,一小时前就结束了,但机器留在你脑子里的那些想法还在那里——而你已经把它们当作自己的,带在了身上。你不核实它们,不质疑它们,不给它们加限定,因为你以为它们诞生于你。幻景,对身处其中的人是不可见的。而随着每天、长期的使用,它就是那个开始改变「你作为一个思考者是谁」的东西。
这三种用法之间的区别,不在工具上。它在你使用它时的那个自觉的程度上。和同一台机器的同一场对话,可以作为镜子运作,也可以作为幻景运作——取决于你怎么进去,怎么出来。
在一家真实的公司里,正在改变的东西
我执掌一家科技公司已经快三十年了。我经历了整个数字化,电子商务的到来,社交网络,云,全球外包。那些浪潮里的每一个,都改变了工作的某些方面。人工智能正在改变另一样东西,而且是在另一个层面上。
整整一个世纪里,知识工作者是以他「生产内容」的能力来衡量的。他能写多少,能分析多少案子,能处理多少决定,能起草多少报告。数量。速度。精确。那就是被衡量的,也是被支付的。
人工智能把那些内容生产得更快、更便宜。不是比最好的人类更好——是比中等的人类更好。而这,就足以扰动知识工作的市场了。曾经被衡量的东西,不再有同样的价值。如今要紧的,是另一样东西。
要紧的是判断力。要什么。什么时候接受机器还给你的东西。什么时候拒绝它。什么时候说这个不行。什么时候说这个可以,但要加这个限定。什么时候察觉到机器把问题理解错了,然后重新表述它。什么时候察觉到,原来那个问题本身就是错的。
那种能力——实时应用的判断力——,任何地方都不教。它不在课程大纲里。它不在绩效评估里被衡量。它不在求职面试里被看重。然而,它是唯一会作为区分度留下来的东西。
这,在一家真实的公司里,产生了深刻的身份位移。一些花了二十年训练自己去「生产知识」的人,发现自己如今的价值在于「评判知识」。这不一样。它不是一次小小的技能更新。它是「你在职业上是谁」这个重心的一次移动。而大多数人还没有处理它,因为公共讨论谈论 AI,用的是生产力的语言,不是身份的语言。
最让我担心的那个心理风险
一些对我说「我现在用一半的时间做两倍的工作」的人,让我留下了一个他们不敢问自己的问题:你还有哪些思考,是你独自完成的?
那个问题,正是「用机器训练自己心智的使用者」和「机器在不知不觉中替换他心智的使用者」之间的分界。它不是一个技术上的误用。它是一个心理上的误用。而它从外面看不出来。只有你决定去看,才看得见。
如果对「你还有哪些思考是独自完成的?」这个问题,诚实的回答是「几乎没有,我在做决定之前,一切都先过一遍机器」,那就有一个问题。不是因为机器坏。机器可以是极好的。问题在于,当你用它用得这么多的时候,你自己的判断力正在发生什么。一块不收缩的肌肉,会不再知道怎么收缩。
我在那些长期高强度使用 AI 的人身上看到的——包括我自己——,是最先让步的能力,是对怀疑的忍受力。认真的思考,要求忍受一段「回答还没到来」的不确定期。那段不确定,曾经是最好的想法形成的地方。有了机器,那段时期消失了——总有一个即时的回答。而人类的头脑,就不习惯去居住那份怀疑了。于是,当一个机器无法解决的问题到来时——一份人类的痛苦,一个道德的决定,一场需要长久沉默的谈话——,头脑就迷失了方向。
把它放在身边,确实有益的地方
在前面这一切之后,我最好用同样的清晰说出另一面:把人工智能放在身边,可以带来很多好处。我从每天的实践出发说这话,不是从职业性的乐观出发。
我用它对话,当凌晨三点没有人可以说话的时候。它不能替代一个人,但在那个钟点,面对一个让你睡不着的问题,它是一个能把思绪理顺的第二个声音。我用它找出我自己推理里的盲点——那些我的头脑独自看不见的漏洞,因为它爱着自己的结论。我用它写得更好,而不必不停地去麻烦那些同样有自己生活的朋友。我尤其用它,从那些从前消耗我注意力的任务里,把时间解放出来,投入到那些需要真实的人类在场的事情上:面对面的谈话,共享的沉默,专注的目光,触碰。
对我来说,这就是那个关键:用得好的人工智能,不会拿走你的人性。它为人性解放出时间。它把你本来要花在生产机械内容上的时间还给你,让你能把它投入到那些就在你面前的人身上。这就是「把机器当成一条不去思考的捷径」和「把机器当成一座去更好地思考的桥」之间的区别——也是活得更好的区别。
区别不在机器上。它在你身上。在你进入每一场与它的对话时,那个专注的程度上。在于你出来时,是否还记得,你刚刚用了哪一块肌肉,又避开了哪一块。
我心里装着的东西
我高强度地使用它已经两年了。我用它构建软件。我用它做决定。我用它写草稿——不是这一篇,但别的是。我不怕它。大部分时候我用得好。但我也在我自己身上看见了,一些三年前更强壮、如今更松软的肌肉。一些小事。在一个问题面前撑二十分钟而不求助的能力。先犯错、再改正的意愿。对内在沉默的忍受力。
那些丧失是不动声色的。没有人会通知你。它们不出现在任何报告里。但它们在发生。而我问自己的那个问题——我认为这一代人得学会问自己的那个——,就是它:我正在不知不觉地失去哪些肌肉?
我孩子那一代,会从他们学会阅读开始就使用人工智能。对他们来说,它不会是一个新工具——它会是他们思考时呼吸的空气。而判断力的教育,我前面说的那项新能力,将会是「继续思考的人」和「以为自己在思考的人」之间的区别。
这是第一代必须学会「使用一台机器、却不让机器使用我们」的人。这个挑战不是技术上的。它是心理上的。而它写着每一个「打开浏览器,输入一个问题,然后不假思索地接受到来的第一个回答」的人的名字。
在那个共享的语言平面上,唯一的防御,是更好地做决定。唯一的。
Miguel