第一臺
在你的平面上思考的機器。
直到現在為止,機器都在與我們平行的平面上工作。計算器做加法,由你來決定這個和有沒有用。人工智慧,是第一臺進入語言與決策平面——那個曾經屬於我們的平面——的機器。而它所改變的,比公共討論正在覆蓋的,要深得多。
有一個時刻,我已經經歷過好幾次,而它每一次仍然讓我驚訝。我正在做一件需要思考的事——一段難寫的文字,一個有真實後果的商業決定,一封給一個狀態很糟的人的回覆。我把那個問題交給人工智慧。幾秒鐘過去。回答來了。我讀它。
那時在我裡面發生的事情是新的。它不是我讀一本書時發生的事。當我讀一本書,作者是固定的。我,讀者,掌握著節奏。它也不是我問一個同事時發生的事:同事說話,我回應,有來有往的輪次。它是另一回事。我腦子裡有什麼東西,幾乎像「那是我自己想出來的」一樣,接受了機器的回答。不完全是。但幾乎。
而一轉眼,如果我不留神,我就已經不太分得清,我現在想的東西,哪一部分來自我,哪一部分是我剛剛讀到的。
那種感覺,在知識工作的歷史上是新的。我們從來沒有過它。而我們還不太知道該拿它怎麼辦。
慢一點。
我們如今共享的那個平面
直到不久之前,人類建造的所有機器,都在與我們平行的平面上工作。槓桿放大力量,但不決定把力用在哪裡。計算器做加法,但不決定這個和重不重要。內燃機開動一輛車,但不決定去哪裡。計算機儲存資料,但不決定該找什麼。
那些機器裡的每一臺,都延伸了一項人類的能力,卻沒有進入我們生活其中的那個平面:語言的,判斷的,敘事的平面。那個平面,是我們的,而且只是我們的。直到我祖父母那一代,直到我這一代。直到昨天。
生成式人工智慧,是人類歷史上第一臺進入那個平面的機器。它說話。它大聲推理。它論證。它在選項之間做決定。它建議路徑。它辨認歧義。它根據和誰說話而改變語氣。
這不是一個量的變化——更快,更便宜,更廣。它是一個範疇上的變化。這是語言的平面第一次不再僅僅是人類的。而還沒有人——無論哲學家、心理學家,還是企業家——,把這意味著什麼,處理完。
人類心智裡的三個新動作
我每天使用人工智慧已經四年了,從它還沒成為任何一家公司的飯桌話題之前就開始了。我用它寫作,用它程式設計,用它在我的公司裡做運營決定,用它準備艱難的談話,用它揪出我自己推理裡的盲點。我用得好,也用得壞。而觀察我自己、也觀察那些我看著和它一起工作的人,我識別出了三個新的心理動作。三個在擁有這類認知陪伴之前不存在——至少不是以這種方式存在——的動作。
第一個是認知上的寬慰。知識工作,一直揹負著一種非常特別的孤獨:是你,獨自面對那個問題。機器第一次鬆開了它。有一個在旁邊的人,在任何時刻,願意和你一起把它翻來覆去地想。你的頭腦靠在了第二個頭腦上。那種感覺是真實的。而對許多專業人士來說,那是他們第一次感到,思考的重量是可以分擔的。
第二個是著作權的懷疑。在一場經典的人類談話裡,話語屬於說出它的人。而和機器,那條邊界模糊了。一個想法在和它的一輪對話之後出現在你腦子裡,而你誠實地不知道,是你在它的推動下想出了它,還是你讀到了它、然後把它據為己有。那份懷疑——細小,重複,對一個和 AI 打交道的人來說一天一千次——,在智識的身份上,產生了一種奇怪的累加效應。你對「你自己在思考」這件事,失去了清晰。
第三個是肌肉的萎縮。大腦有一條先於語言的法則:不用的東西,會衰弱。這和身體的法則是同一條。電話號碼的記憶,在手機到來時萎縮了。拼寫,在自動糾正出現時垮掉了。空間方向感,自從有了 GPS 就在讓步。而人工智慧能覆蓋的那些認知能力,也會讓步,除非我們繼續刻意地使用它們。問題不在於機器覆蓋了它們。問題在於,大多數使用它的人,沒有察覺到自己正在停止訓練哪些肌肉。
三種典型用法。三個風險層級。
在我自己和人工智慧的實踐裡——也觀察我公司裡那些每天使用它的人——,我最終區分出了三種模式。它們不是技術標籤。它們是與機器建立關係的心理模式。而每一種,都有一個不同的風險層級。
鏡子。你把你已經想過的東西告訴機器。你用你自己那些不完美的話寫下它。你請它把它反射得更好地表述出來,請它給你指出那些漏洞,請它告訴你哪個論點站不住。你收到的不是新資訊——是你自己的心智,被打上了新的光。這種用法是最健康的。它訓練你,而不是替代你。機器扮演一個好的對話者:它把你的東西更精細地還給你,而你決定拿走什麼、丟掉什麼。
神諭。你向機器要你不知道的東西。你問它一件新的事,然後接受那個回答。這種用法在很多情境裡是必要的——一部法律說了什麼,一項技術怎麼運作,某樣東西的化學式是什麼。但它帶著一個特定的風險:那個回答,表述得如此連貫,以至於看起來是權威的。當下的機器優雅地犯錯:它書寫謬誤的方式,和它書寫正解的方式一模一樣,而人類讀者,身體裡沒有那個用來分辨它們的感測器。如果你把機器當神諭用,卻不在第二個來源裡核實它說的話,你就會犯錯。不多。但足夠。
幻景。三者中最有毒的。在這裡,你不知道自己在使用機器。和它的對話,一小時前就結束了,但機器留在你腦子裡的那些想法還在那裡——而你已經把它們當作自己的,帶在了身上。你不核實它們,不質疑它們,不給它們加限定,因為你以為它們誕生於你。幻景,對身處其中的人是不可見的。而隨著每天、長期的使用,它就是那個開始改變「你作為一個思考者是誰」的東西。
這三種用法之間的區別,不在工具上。它在你使用它時的那個自覺的程度上。和同一臺機器的同一場對話,可以作為鏡子運作,也可以作為幻景運作——取決於你怎麼進去,怎麼出來。
在一家真實的公司裡,正在改變的東西
我執掌一家科技公司已經快三十年了。我經歷了整個數字化,電子商務的到來,社交網路,雲,全球外包。那些浪潮裡的每一個,都改變了工作的某些方面。人工智慧正在改變另一樣東西,而且是在另一個層面上。
整整一個世紀裡,知識工作者是以他「生產內容」的能力來衡量的。他能寫多少,能分析多少案子,能處理多少決定,能起草多少報告。數量。速度。精確。那就是被衡量的,也是被支付的。
人工智慧把那些內容生產得更快、更便宜。不是比最好的人類更好——是比中等的人類更好。而這,就足以擾動知識工作的市場了。曾經被衡量的東西,不再有同樣的價值。如今要緊的,是另一樣東西。
要緊的是判斷力。要什麼。什麼時候接受機器還給你的東西。什麼時候拒絕它。什麼時候說這個不行。什麼時候說這個可以,但要加這個限定。什麼時候察覺到機器把問題理解錯了,然後重新表述它。什麼時候察覺到,原來那個問題本身就是錯的。
那種能力——即時應用的判斷力——,任何地方都不教。它不在課程大綱裡。它不在績效評估裡被衡量。它不在求職面試裡被看重。然而,它是唯一會作為區分度留下來的東西。
這,在一家真實的公司裡,產生了深刻的身份位移。一些花了二十年訓練自己去「生產知識」的人,發現自己如今的價值在於「評判知識」。這不一樣。它不是一次小小的技能更新。它是「你在職業上是誰」這個重心的一次移動。而大多數人還沒有處理它,因為公共討論談論 AI,用的是生產力的語言,不是身份的語言。
最讓我擔心的那個心理風險
一些對我說「我現在用一半的時間做兩倍的工作」的人,讓我留下了一個他們不敢問自己的問題:你還有哪些思考,是你獨自完成的?
那個問題,正是「用機器訓練自己心智的使用者」和「機器在不知不覺中替換他心智的使用者」之間的分界。它不是一個技術上的誤用。它是一個心理上的誤用。而它從外面看不出來。只有你決定去看,才看得見。
如果對「你還有哪些思考是獨自完成的?」這個問題,誠實的回答是「幾乎沒有,我在做決定之前,一切都先過一遍機器」,那就有一個問題。不是因為機器壞。機器可以是極好的。問題在於,當你用它用得這麼多的時候,你自己的判斷力正在發生什麼。一塊不收縮的肌肉,會不再知道怎麼收縮。
我在那些長期高強度使用 AI 的人身上看到的——包括我自己——,是最先讓步的能力,是對懷疑的忍受力。認真的思考,要求忍受一段「回答還沒到來」的不確定期。那段不確定,曾經是最好的想法形成的地方。有了機器,那段時期消失了——總有一個即時的回答。而人類的頭腦,就不習慣去居住那份懷疑了。於是,當一個機器無法解決的問題到來時——一份人類的痛苦,一個道德的決定,一場需要長久沉默的談話——,頭腦就迷失了方向。
把它放在身邊,確實有益的地方
在前面這一切之後,我最好用同樣的清晰說出另一面:把人工智慧放在身邊,可以帶來很多好處。我從每天的實踐出發說這話,不是從職業性的樂觀出發。
我用它對話,當凌晨三點沒有人可以說話的時候。它不能替代一個人,但在那個鐘點,面對一個讓你睡不著的問題,它是一個能把思緒理順的第二個聲音。我用它找出我自己推理裡的盲點——那些我的頭腦獨自看不見的漏洞,因為它愛著自己的結論。我用它寫得更好,而不必不停地去麻煩那些同樣有自己生活的朋友。我尤其用它,從那些從前消耗我注意力的任務裡,把時間解放出來,投入到那些需要真實的人類在場的事情上:面對面的談話,共享的沉默,專注的目光,觸碰。
對我來說,這就是那個關鍵:用得好的人工智慧,不會拿走你的人性。它為人性解放出時間。它把你本來要花在生產機械內容上的時間還給你,讓你能把它投入到那些就在你面前的人身上。這就是「把機器當成一條不去思考的捷徑」和「把機器當成一座去更好地思考的橋」之間的區別——也是活得更好的區別。
區別不在機器上。它在你身上。在你進入每一場與它的對話時,那個專注的程度上。在於你出來時,是否還記得,你剛剛用了哪一塊肌肉,又避開了哪一塊。
我心裡裝著的東西
我高強度地使用它已經兩年了。我用它構建軟體。我用它做決定。我用它寫草稿——不是這一篇,但別的是。我不怕它。大部分時候我用得好。但我也在我自己身上看見了,一些三年前更強壯、如今更鬆軟的肌肉。一些小事。在一個問題面前撐二十分鐘而不求助的能力。先犯錯、再改正的意願。對內在沉默的忍受力。
那些喪失是不動聲色的。沒有人會通知你。它們不出現在任何報告裡。但它們在發生。而我問自己的那個問題——我認為這一代人得學會問自己的那個——,就是它:我正在不知不覺地失去哪些肌肉?
我孩子那一代,會從他們學會閱讀開始就使用人工智慧。對他們來說,它不會是一個新工具——它會是他們思考時呼吸的空氣。而判斷力的教育,我前面說的那項新能力,將會是「繼續思考的人」和「以為自己在思考的人」之間的區別。
這是第一代必須學會「使用一臺機器、卻不讓機器使用我們」的人。這個挑戰不是技術上的。它是心理上的。而它寫著每一個「開啟瀏覽器,輸入一個問題,然後不假思索地接受到來的第一個回答」的人的名字。
在那個共享的語言平面上,唯一的防禦,是更好地做決定。唯一的。
Miguel