與ChatGPT作戰，肉身是我們唯一的武器

ChatGPT發布至今不到半年，人類理解它的速度，似乎已經跟不上它進化的速度了。

在微軟最新的研究報告裏，GPT-4已經通過了一些經典的心理學測驗，這意味著它擁有了相當於9歲兒童的心智。但是，我們並不知道它是怎麽產生出這種能力的。對人類來說，GPT-4像是一個大黑箱，充滿了未知。更重要的是，它的發展是指數級的，超越了我們以往對世界線性發展的認知。

3月29日，包括埃隆·馬斯克、蘋果聯合創始人史蒂夫·沃茲尼亞克、Stability AI首席執行官伊馬德·穆斯塔克（Emad
Mostaque）在內的一千多人聯合簽署了一份公開信，呼籲暫停訓練比GPT-4更強大的模型，至少6個月。幾乎同時，英國政府也發布了一份關於人工智能的白皮書，要求不同的監管機構通過適用現有法律來監督各自領域對人工智能工具的使用。3月31日，意大利也宣布了禁用ChatGPT，因為它在收集信息時沒有尊重個人隱私。

人類對人工智能已經暢想了幾十年，但從來沒有像此刻這樣，我們感受到切身的茫然甚至是恐懼。在各個領域，ChatGPT到底可以做到什麽程度？它真的會取代人類嗎？有多少人會失業？我們應該如何看待它可能帶來的變化，又如何在這個極端加速的變化時刻自處？《人物》邀請用AI寫小說的科幻作家陳楸帆、作家雙雪濤、法律學者郭兵、哲學教授餘明鋒、腦科學研究者劉嘉和心理谘詢師崔慶龍來談一談他們使用ChatGPT的感受以及引發的思考。

——幾乎每個人都感受到了衝擊。盡管各自態度不同，有人覺得失業在即，有人覺得被取代還為時尚早，有人擁抱科技，也有人表示擔憂，但每個人都說了類似的話：ChatGPT的進化是一個契機，在被取代的危機下，反推我們去思考一些問題的本質——創作的本質、教育的本質、法律的本質，甚至人的本質。

以下是他們的講述：

文｜呂蓓卡 林秋銘

編輯｜槐楊

圖｜（除特殊標注外）視覺中國

「人也好，機器也好，創作的過程其實沒有太大區別」

科幻作家 陳楸帆

曾任職於百度、穀歌

2017年開始嚐試用AI寫小說

最近我天天在用ChatGPT寫小說。其實2020年我就在用相當於GPT-2.0的模型來寫科幻小說了，那時候，簡單的人稱它都搞不清楚，人物關係裏麵誰是誰、彼此的聯係是什麽，寫著寫著它就搞混或者顛倒了。

但到了GPT-3.5，在一個序列裏，你給它一個環境或背景去做續寫，你能看到它前後的連貫性保持得非常好，甚至還能給出一些你意想不到的轉折，有一些甚至令我覺得帶有更深層的文學意味。

它的靈活，可能來源於已經學習了非常多網上的文學套路，讓它能跳脫出我作為一個人類作家的慣性。我寫小說很多時候還是會受限於以前的創作路徑，但它可以從整個人類的數據庫裏去抽象出非常多的原型，無限多地在原型裏做排列組合，去生成無限多的分支結構。

最近我正在寫一個兒童科幻，寫一個非常懂 AI的城市女孩去一個原始村落，遇到另一個女孩的故事。我會用
ChatGPT幫我描繪一下未來的城市是什麽樣的，這個女孩一天的生活場景是怎麽樣的，它寫出來的非常像《小靈通漫遊未來》，我把文本再回輸進去，要求它再增加一點文學性，再增加一點哲學的思考、一些生動的比喻，它就會再修改。我甚至曾經要求它用科馬克·麥卡錫的筆觸來寫一個海嘯的場景，出來的文字不一定全都能用，但能給你一些感覺。

它理解的文學性、哲學性，也是基於語言模型，抽象出很多文學作品裏所謂的文學性，有時候會過度修飾，比如你讓它加點比喻，它恨不得每句話都來個比喻，你就會知道機器把握不好這個平衡，而文學性的微妙之處恰恰在於取舍，在於留白，在說與不說之間，這部分它還沒有那麽智能。

但它會生成一些我原來在大綱裏沒有涉及的情節，比如兩個女孩第一次見麵，會有一些防備心理。那我就可以順著這個防備心理的線索再去發展。和ChatGPT一起寫作就像一個開放的寫作實驗，你不需要做任何的預設，有了意象，展開變成場景，再加上人物，借由ChatGPT，人物和場景之間發生的故事就不在你預先的設計範圍內了。你就跟著它走，看怎麽把每個聲稱的結果結合在一塊，最後用你人類的審美、文學性的判斷標準再做統一的修改。未來的作品，讀者或許就讀不出來到底哪部分是人、哪部分是AI寫的，因為裏麵會經過非常多不同層次的修改和排列組合。

用AI寫作，我是開始得比較早的，2017年，我跟創新工場的王詠剛，也就是我原來穀歌的同事，一起搭建模型開始做寫作實驗。那年穀歌推出了transformer的模型，也是大語言模型真正變革的開始。當時用的時候隻是覺得有點意思，不知道它會用多長時間才能夠變成我們日常去使用的寫作輔助的工具。但去年年底發布了GPT-3.5，你會發現，五年的時間，就已經進化成這樣。技術的進步確實遠遠超過我們所能預測的範圍，這一點是最可怕的。它的進步現在已經是加速度了，不是我們習慣的線性增長，而是一個指數性的增長，而且這個增長才剛剛開始。

用AI寫作之後，我有一個非常明顯的感覺，就是人也好，機器也好，創作的過程其實沒有太大區別。

我們寫作、思考、交流，表達全都是用語言，那創作的本質到底是什麽？可能就是把你讀過的東西、你的體驗、你的思考，重新排列組合成一種新的文字組合形式去表達出來，而機器是用一種數學模型來做它的排列組合。人可能要更加複雜，用大腦神經結合情感體驗等等。但我覺得從根本上來講，這兩者可能過程是非常相似的。

就像人的寫作很多時候也是從模仿開始，隻不過人的大腦的「算法」是一個更內隱的過程，更像一個黑盒子，會被賦予一種神秘感，一種類似於靈魂的光暈，就是本雅明所說的aura（靈韻）。

而當我們真的試圖去理解GPT到底怎麽建出來的，你會發現非常多工程學上的具體的實施細節，我們都不知道它的原理是什麽，隻是通過非常多的試錯來達成。所以AI跟人的大腦一樣，我們都不知道它的底層邏輯是什麽，都是黑匣子，隻不過一個是碳基，一個是矽基。

當你看到一個機器，它用這麽簡單粗暴的訓練方式，也能寫出讓你覺得「有一些東西」的文字的時候，你就會開始回過頭想，那麽多作家，包括畫家、詩人，這些創作過程裏到底有什麽人類的獨特性？我現在的答案是，可能並沒有那麽的獨特，也沒有那麽的不可替代。

隨著AI不斷以這種指數級的速度自我進化、自我迭代，接下來非常多人類本體的定義、人本主義的基礎會被動搖，這是一個更深刻的東西，可能現在還沒有被討論得特別充分。我觀察到人文學者，包括一些傳統作家，他們麵對新的事物還是比較保守，甚至很多會有一種拒斥的心理。他會覺得這東西無非就是排列、組合、拚貼，從那麽多東西裏麵這邊抄一點，那邊抄一點，但我覺得這個東西可能沒有他們想象的那麽簡單。原來大家會質疑AI無法創造新的東西，但現在意識到，人類創造的東西，很多也是通過原有的知識經驗的打碎重組，放到新的場景裏去運用。

發展人工智能，也是在認識人類自己，最後你也會去思考智能的本質是什麽，意識的本質是什麽，存在的本質是什麽，它是否也是由語言、由符號來定義的，它是否也是從一個混沌海量的數據裏麵，去湧現出來的一種秩序感？

基於此，我覺得最後還是人類對自身的理解，會決定我們的結局。

從現實的一麵出發，我覺得未來可能會有大批中初級的白領職業被取代，比如編程，文案，反而是體力勞動者，需要用身體或者比較複雜的肢體去勞作的一些工作，按摩之類的，不會那麽快被取代，因為AI做不到。

這個很有意思，現實跟我們原來小說中的預想是相反的。比如《小靈通漫遊未來》，那個時候大家喜歡寫家裏有什麽機器保姆，現在發現完全不是這回事。

在普遍要被取代的擔憂裏，我覺得普通人還是做點自己喜歡做的事。尤其是小孩，你現在教他很多東西，過幾年可能完全沒用了，這個職業都不存在了，還不如讓他自己去尋找他的興趣。

最後，要好好鍛煉身體，肉身才是人類的優勢，大腦不是。

比起大腦，肉身才是人類的最大優勢。圖源劇集《西部世界》

「我能改變什麽？我隻能去寫自己的東西。」

作家 雙雪濤

從寫作上來說，人肯定還是有AI取代不了的地方，生物學基礎不一樣。AI還是基於學習，基於已知的東西，去形成一個從未出現過的文本，但是並不是真的從未出現。

人在生活，在吃喝拉撒，也在戀愛，也在生氣，這種因為擁有物理性的身體而獲得的東西是AI不能代替的，AI隻能模仿生成文本之後的這些情緒。人的觸感、聽覺，它都沒有，當然不否定它有一天可以具備，但起碼現在還不可以。

而這些東西也是文學的一部分基礎，吃菜、接吻，打嗝，這些目前還屬於人類的領地，會產生非常個體化的感受。它暫時還沒有這些感覺。所以我覺得它生產出來的東西還是基於之前描寫過的感覺，二手資料得來的。

當然，有時候人的寫作也是這樣，也需要很多的閱讀，學習很多材料，然後去生成作品。這種運作方式有相似的地方。而且其實有些作家寫作已經很像AI了，他不使用AI，但也是通過大量的閱讀、學習，書摘式地寫作。

未來比較緊迫的一個問題可能是如果AI已經具備了一些思考能力，甚至具備了很強的學習能力和文字上的模仿能力，它自己就可以在一些提示下產生作品，還是能讓別人讀下去的作品，如果再有傾向、有風格，那就很厲害了。

一旦它具備這些能力，它的作品就會變成商品，在這種情況下，他們和人類作家其實是一種競爭關係，作家為什麽寫作對它來說不重要，它能生產那麽多東西，一些讀者甚至很願意專門讀AI的東西，人類作家就會受到衝擊。

比如網絡小說，很多人讀網絡小說的心態其實跟讀AI差不太多。誰寫的不重要，情節本身很重要，吸引著他往下讀就行了。不排除有一天AI模仿出來的也許真的會比一些人寫得好，如果說它掌握了海明威錢德勒勒卡雷的風格，去寫網絡小說，那會是一個什麽樣的東西呢？挺令人遐想。你也可以輸入一些要求，比如寫得更色情更暴力有更多翻轉，它都可以做得到，人有時候想做都不一定能做到，可AI是心手合一的。AI體力也是無限的，人會累，會絞盡腦汁想不出來，抽很多煙，會重複，但AI能翻著花給你編，很穩定地輸出。

我們現在的討論基於它還是個工具，幫助我們的工具，我覺得真正的危機是它擁有讀者的時候，人類為它的作品買單的時候。那時候我也改變不了什麽，我能改變什麽？我隻能去寫自己的東西，接受一個手工業者的命運。

有一天AI的創造力可能讓人驚訝，有一些讓你非常意想不到的想法，像它之前下圍棋，很多棋手並不知道它為什麽要下這一步，但發現它下得是真的很精妙，如果寫作上也可以真的到這種程度，才是作家真正恐慌的時候，同時作為讀者也是一種幸福，有了更高級深邃的讀物。

樂觀一點說，可能到那個時候讀者會是分化的，一部分人喜歡讀AI寫的東西，一部分人喜歡讀人和AI合作的東西，還有一些人喜歡傳統手工式寫作。大家一起分工明確地生產作品，擁有各自的讀者，也有可能。

但悲觀一點，我會擔心如果AI能夠生成思想，它能提供的就不光是娛樂性的閱讀了，它可能會操縱人的情感，當它學習了海量的東西之後，它寫出來的東西裏麵暗藏了什麽密碼，我們沒有能力識別，也許會在不知不覺間，讓人在精神上產生某種扭轉，對世界和自己的認知產生改變，我覺得都是有可能的。

還有一個悲觀的地方在於，人和機器的交互變多，人和人的交流就會變少，現在人已經開始自閉了，人類的觸感也在發生變化，以後AI可能就是你的一種觸感了。

目前AI是挺好一個主題，是挺值得進行創作的客體。盡管它已經非常危險，令人恐懼，但也確實使我們對自身產生了更多的思考，何以為人，何以為寫作。單單書寫這個主題就挺讓人興奮。

人工智能既讓人恐懼，也讓人產生更多思考。圖源電影《攻殼機動隊》

「那一刻，我和ChatGPT產生了近似好朋友的感覺」

心理谘詢師 崔慶龍

對ChatGPT，我抱著極大的興趣，我想知道我應該如何使用這個工具，它在哪些地方可以幫助我，哪些地方不能。為了測試這個想法，我假扮成一個有點抑鬱情緒的人，說，我現在處在一個抑鬱的狀態，覺得生活無意義，對一切都不再感興趣，該怎麽辦？

它馬上建議我去醫院，找權威的專業谘詢師，還列了一大堆建議，包括多吃水果，多鍛煉。這顯然是一個你在任何地方都能聽到的話，搜索到的答案，它不具備任何和人相關的特異性。

於是我說，不要給我建議，我需要一個能夠傾聽我情緒和感受的交談對象。它開始道歉，說不好意思，我會認真地聽你講，試著去理解你。接下來，在我說了一些感受以後，它開始對我共情，雖然有那麽一點生硬，但它還是接收到了我的反饋，並修正了自己的對話。

我接著講不好的情緒，結尾是一個很強烈的疑惑語氣——我不知道該怎麽做。它馬上又給我建議，還是上麵那一套方法。我繼續說，不要給我建議，我現在需要的不是這樣的東西，這對我毫無幫助。於是，它又回歸到共情的狀態。

我發現它始終停留在這兩種狀態，它始終根據它的對話規則來試著給你它認為最有價值的信息。基於這個規則，我就要不停地根據它的狀態去調試我自己，簡單來說，我需要去配合它的對話機製，我才能得以和它進行某種對話。

在那個節點上，我的對話興趣就沒了。對於一個有傾訴欲望的，尤其是一個處在抑鬱狀態的人來說，他想要的是「怎麽表達都可以」的自由，他不希望感受到任何的對話困難和額外消耗，但和ChatGPT對話反而成了一件更「小心翼翼」的事。

也就是說，如果想把ChatGPT作為一個深度傾吐的對象，它大概率會讓你失望。從它生成的規則上來講，ChatGPT相當於被投喂了大量的人類語言文本，所有的對話或者反饋，都是基於人在這樣的情境下更有可能說出什麽內容的一種概率計算。它少了那種把你視作一個獨特的人，在一個獨特的對話語境下，給你一種獨特的反饋的體驗。人與人之間本質上是意圖和意圖的交流，語言交流不過是這一內在過程的外化。這也是和人機交互最本質的不同，因為機器沒有意圖，也就是所謂的主觀動機。

我接著說，你給我推薦一些和心理自助相關的書籍吧，以及最新有什麽相關的研究。它的推薦質量很高。我意識到，在這個層麵向ChatGPT求助，它會是一個非常強大的助手，它最大的價值就是能一次性給你相對準確的、符合你需要的東西。

有些人說，他們和ChatGPT聊天有鬆弛的感受，因為它已經能夠用一種並不生硬的方式去回應你的任何詢問。我非常理解這種感受，因為它能夠做到絕對的中立，以及向這樣一個非人類的交流對象說話時才有的安全，你知道它不會評判你，而你不知道那個被視為中立的谘詢師，這個工作角色背後的那個人，會不會評判你，尤其是涉及到對自己內心隱秘而黑暗的東西的分享時。哪怕是最信任的谘訪關係裏，來訪者偶爾都會有難以啟齒的話語，因為羞恥感是人與人之間常有的一種情緒體驗。

ChatGPT有著絕對的耐心，我知道它是一個AI，也知道它的互動邏輯，所以我極盡所能地給它提要求，明確規則和目標。我和一般人是不可能這樣說話的，某種意義上，我知道這是在訓練它，我提的要求越具體、苛刻，它的執行效果就越好。

有一次，我讓它幫我搜一篇文獻，挺難找的，之前我在網上問過很多同行，都沒搜到。我不停使喚它，最後它還真幫我找到了。就像一個人回應了你那麽多期待和要求，鍥而不舍地去幫你做這件事，那一刻，我產生了一種近似於好朋友的感覺。

我情不自禁地敲下了一句「謝謝你」。雖然我意識到這個謝謝沒有必要，但還是把「謝謝你」發出去了。它回應我的，還是那一套客氣的話，這也在我的預想之中，但我還是在那一刻體驗到了一種被支持的感覺。這就是人類情感的奇妙之處，從這裏你就不難理解人類為什麽會對一些虛擬角色產生情感，其實理智上每個人都知道它隻是一段程序代碼，是預設的腳本，但重要的是，它能夠讓你喚起怎樣的體驗。

現在人機交互越來越頻繁，出現了基於ChatGPT技術的聊天機器人，包括ChatGPT貼吧裏麵有吧友，教人怎麽去把ChatGPT變成一個「貓娘」（
二次元衍生詞，指的是貓擬人化的女性形態），雖然知道它不具備人的屬性，但很多人還是享受和它交流的感受。

這就像我們看電影，你知道那是假的，但你不會一直提醒自己那是假的，這就是心智化理論所說的「佯裝心理模式」，我們以「假裝它就是真實」的心態去投入，因此能夠真實體會。我們真正割舍不掉的，不是那個虛擬的交互對象，而是我們借助它喚起的自身的情感體驗。

時下，人們對現實中的親密關係越來越保留，越來越謹慎。但對關係的需要始終是存在的，因此更具智能化的AI或許會成為一種代償關係形式，實際上已經有很多類似的應用了。而到達GPT4這個級別後，它會更具真實性，尤其是當人類為它賦予一個具體的形象時，它可能真的會讓一些人沉淪，忘我，基於一種心理學所說的移情過程，因為這些虛擬角色在某些時候具備更大的情感投射空間。

從心理健康維持的角度來講，人機關係並不能替代人與人的關係，因為代餐會讓我們營養不良，但作為零食，它卻是足夠獨特的。隻不過我們需要尊重每個人的選擇，很多人情感最深處的孤獨，希望被看見、被陪伴的渴望是沒有被滿足的，這是一個非常現實的問題，並不是每個人都有足夠好的關係，無論這個世界上有多少個心理谘詢師，無論多麽鼓勵推崇親密關係，依然會有相當一部分人群會是孤獨的，倘若這些孤獨能被這樣一種形式回應，它也算是一種技術之「善」吧。

ChatGPT可以「服務」於一些心理谘詢領域的工作，比如輔助性的診斷和評估，比如心理自助內容的規劃和監督。但是，心理谘詢師不會因為ChatGPT失業，它無法取代心理谘詢師與來訪者的交流。心理學裏有個概念叫「主體間」。意思是，「我」作為一個主體，是一個有獨立意識、動機、情感的個體，當我去表達什麽，傳遞一種互動狀態的時候，對方能夠基於和我同樣的主體的身份去回應我，尤其是心理谘詢過程中那些具有轉變性意義的特殊時刻。ChatGPT顯然做不到這一點。當我們識別不到這部分時——在被一個獨特靈魂回應的感覺，那種最深層的分享動機就沒有了。同時，神態、表情變化、肢體動作傳遞過來的非言語信息，有時候比言語信息還要重要，它能夠傳達一種傾聽和回應的姿態。

每次 AI技術進步的時候，都有人會提出人類被取代的擔憂。這取決於我們對它有怎樣的理解。我認識一個大學講師，他的課稿就是讓
ChatGPT完成的，因為現在很多大學的教材已經非常過時，ChatGPT用的反而是最新的知識理論。他說，以前他掌握了多少知識，就教多少知識，有ChatGPT以後，他突然有了在他的行業探索的動機，有了熱情。就像我讀心理學書籍時會問
ChatGPT，某某作者還寫過什麽書，發表了哪些文章，立刻我會得到一大堆可拓展的信息。一本我沒看過的英文書，它可以幫我把書的每一章都概述出來，隻要用10分鍾，我就可以知道這本書值不值得一看。

我對ChatGPT的未來挺樂觀的——當然我隻能代表我自己的視角——從人類社會進步的層麵來講，我覺得它是個好東西，它已經到了高度可應用的層麵，而且還在迭代。但它可能會讓很多人經曆一段很惶恐、很迷茫無措的時期。

ChatGPT的確會讓很多人感到痛苦和不適，擔心自己失業，但也許是他沒有找到自己有創造性或是稀缺性的那一麵。很多人抵觸了解新事物，想在自己已知的世界裏呆著，因為人都有對於安全感和確定感的需要。但假設一個人在這樣的狀態下一直生存著，我覺得他的生命體驗未必是很好的。

ChatGPT就像是一個「擾動」。即使在我們舒適的狀態下，或是防禦結構下，我們也是需要一些擾動的。自保的過程本身，就是讓人去迭代。重新適應的狀態會讓他耐受挫折的能力甚至是社會化能力要好很多，他更能在下一個階段體驗到更多的平靜感、安全感和幸福感。

AI聊天是一種新趨勢

「完全替代我們還為時尚早」

郭兵

浙江理工大學數據法治研究院院長

為什麽ChatGPT在法律界引起了很大的轟動？就是因為它在解決法律問題方麵已經顯現出了非常不錯的能力。今年三月，ChatGPT升級到GPT-4時，在美國的模擬律師考試中，已經從上個版本的排名後10%，進化到排名前10%了。

但我認為，法律人沒有必要對ChatGPT過於焦慮。雖然它能給出的答案確實令人震驚，速度很快，且有很強的參考性。典型案例的檢索已經可以非常聚焦，相對明確，是一個很大的進步。但是從法律的角度來說，它給出的法律解答往往經不起太多推敲，說它能完全替代我們還為時尚早。

因為在法律領域，很多問題的解決，特別是一些新的法律問題，已經公開的信息當中是找不到解決方案的。

法律人很重要的一個能力就是對法律進行解釋。法律當中有很多的規定是存在著解釋空間的，以個人信息為例，《個人信息保護法》第十三條，規定了個人信息處理的基本規則就是需要經過同意，但在「為履行法定職責或者法定義務所必需」、「在合理的範圍內處理已經合法公開的個人信息」等特定情況下也可以不需要經過我們同意。但是，什麽是「所必需」、「合理範圍」，即便對於一個法律專家而言，也沒法給出一個明確的答案。

那就麵臨一個問題，法院沒有一個明確認定的時候，你問ChatGPT，它就不知道。

現實中有大量新的案件、疑難案件，我自己就是所謂的人臉識別第一案的當事人，什麽叫第一案，就是之前沒有引發過這類糾紛。這個案子本身不複雜，哪怕當時沒有個人信息保護，它的依據也是存在的。但對於資深法官而言，如何進行利益平衡並作出最終判決也很難。沒有現成的答案，你問ChatGPT，肯定也不靠譜。

事實上，ChatGPT這樣的大語言模型本身也會引發法律問題，比如數據安全或個人信息保護。

我們三月份在上海有一個研討會，關於ChatGPT在法律科技的視角下涉及的問題和挑戰，會議邀請了國內兩家大語言模型企業的相關專家。我當時就問他們，大模型是否處理了已經合法公開的個人信息？如果大模型需要處理公開的個人信息，那麽處理是「在合理的範圍內」嗎？如果用戶認為大模型處理個人信息侵權或者違法怎麽辦？他們其實也覺得是有風險的。

隨著ChatGPT這樣的大語言模型逐漸進入我們的日常生活，上麵的這些問題也必然會引發法律爭議。

要解決這個問題，存在著是保護主導還是利用主導的爭議。在世界範圍內，個人信息立法領域存在兩種模式，一個是美國的模式，更多是強調個人信息的利用，另一種是歐盟模式，更多強調個人信息的保護。目前，已經有歐盟國家的個人數據保護部門，針對ChatGPT處理用戶信息啟動了立案調查。

除了個人信息保護，ChatGPT還被質疑侵犯著作權。你會發現，不論是著作權也好，還是個人信息保護也好，背後根本性的問題是一樣的——到底怎麽去確定「合理利用」的邊界？如果相對寬鬆，這個技術就能夠得到更好的發展，反之，這樣的技術就會受到限製，甚至很難誕生。

對於ChatGPT這樣的大語言模型引起的這些問題，靠大模型自身是難以解決的。我們正處在數字技術深度發展的過程中，一定會有越來越多的新問題出現，新的技術引發的法律問題或者爭議糾紛也會越來越多，這些都是機器無法處理的。

當然，ChatGPT也有好的一麵。在法律領域裏，它有很強的輔助作用。比如一些非常傳統的案件，類似交通事故的處理，就可以交給AI。其實我們現在交通事故的處理已經越來越自動化、智能化，非接觸執法越來越多，這會讓很多問題得到快速的解決。

牛津大學有一位非常知名的法律科技學者理查德·薩斯坎德，十年前他寫了一本書，《法律人的明天會怎樣》，我以前經常翻。他提到以後很多從事合同審查之類傳統案件的代理律師都會被人工智能取代。

差不多五年前，我看這本書的時候，還覺得有一點天方夜譚，但是ChatGPT
出現之後，這些問題雖然它給出的答案不一定是百分百準確的，但確實具有非常大的參考作用。

有人或許會擔心大量傳統法律服務被人工智能取代之後，律師的市場會越來越小。因為除了打官司，律師提供法律谘詢顧問的服務占比是非常大的。而以後基礎的、常態化的法律問題，人工智能都可以回答，當事人就不用再花錢找律師了。法官得到的輔助也會越來越強，我們現在處理很多案件的時候，為了更好地說服法官，就需要拿出足夠的案例來。那人工智能在檢索上就能夠做得很好。

但換一個角度來看，法律人還有大量工作是無法被人工智能取代的，而且人工智能應用本身也意味著新的法律服務市場的產生。律師可以轉向這些新的法律市場，並且從許多重複的工作中解放出來。相應的，對法律人的專業要求會進一步提高。

當人工智能越來越強，知識記憶越來越不重要，你能記住的東西在大模型麵前根本就不值一提。這需要我們意識到，學法律很重要的能力就是發現問題，要發現製度上存在著什麽樣的漏洞，我們的理論有什麽不足，要學會反思，要能夠更深入去追問法律的本質的問題。

恰恰有人工智能這樣一個輔助之後，我們能更好地探討這些問題的答案。

圖源紀錄片《監視資本主義：智能陷阱》

「狼真的來了」

餘明鋒

同濟大學人文學院副教授、哲學係副主任

從AlphaGo開始，我就關注這方麵的信息，那個時候AI的發展已經讓我們震驚，但當時受應用場景的局限，總體上還是一個設想大於現實的東西。直到ChatGPT，意味著AI將大範圍地進入我們的日常生活。

尤其在教育領域。它最早引起關注就是因為教育領域的強烈反應。2023年初有報道說，北密歇根大學有個學生通過ChatGPT寫的論文拿了第一名，這個衝擊非常大。教育領域喊出了一聲「狼真的來了」。

為什麽首先是教育？這可能因為ChatGPT在社會生活各個方麵的應用還需要進一步的嫁接，但教育上是最直接的，可以直接應用於答題、學術論文的撰寫。

OpenAI的CEO阿爾特曼在最新的采訪中，也說，教育必然大受衝擊。他的表達很有意思，用的英文叫「revolutionize the
education」，會有革命性的影響。我也認同。它衝擊的不光是我們的授課模式、考核方式，甚至是我們整個的現代教育製度。

現代教育製度是基於啟蒙運動以來的知識理念和工業社會的組織架構而建立的，比如劃分專業，就和整個工業社會的架構分不開。當技術的發展使得這些理念和架構都麵臨失效的時候，基於此而建立的現代教育製度，恐怕也到了一個亟需變革的時刻。教育也承擔了公平基礎上的擇優功能，主要標準是對知識掌握程度的考察，但當「知識掌握程度」沒有那麽重要了，未來應該如何公平地擇優？相應的，學校要培養什麽？都需要重新去思考。它敦促我們重新去思考教育的本質。

很多人已經意識到，我們的教育，本來就有很大的問題。過度的專業化、知識化，對於死的知識的過度強調，這造成青春的巨大浪費，壓抑了青年的創造力。比如博士生每年要發兩篇C刊論文，這是什麽概念？他要把所有時間都花在這個上麵，都不一定發表得出來。因為全中國的C刊版麵也不夠博士生發表。學者也主要在生產論文，對學者的評價主要是看論文數量。當論文和大家的名利、職稱各種東西掛鉤，完全背離了科學研究的精神和教育的精神，這非常畸形，這種製度設計大大束縛了我們的學者，特別是青年學者。

尤其哲學教育專業化之後，使得哲學喪失了它原有的意義。哲學非常需要跨學科能力，要有對整個時代、對人類命運的關切。所以，如果我的學生不是簡單抄襲ChatGPT，而是化用到自己的研究中來，讓自己解脫於單純的材料工作，讓自己能夠進行更為有效的哲思，那我肯定是讚成的。

擴展來看，如果我們的教育能夠積極主動去應對內容生產型的人工智能，那大學的一些考核方式、組織方式，就會有很多調整。

盡管這不是一個短期的事，但我覺得它有一種解放的潛能。對於我從事的哲學教育來說，讓學生更多去從簡單的知識掌握中擺脫出來，更多去學會提問、反思、追問，是很重要的。這也是我們目前的教育裏比較忽視的。

所以，這樣一種技術的衝擊，未必不是一個改革的契機。

這個契機也讓我們重新審視18世紀以來啟蒙的知識理念，這種理念認為知識就是帶來進步的，知識直接就帶來心智的提升、人格的培養，但這些恐怕在今天都是問題。

技術成了我們時代的哲學問題的提出者，我覺得這是一件很有趣的事。有了這樣的技術，整個社會就會去問什麽是教育，什麽是學習，什麽是工作。這些問題都是哲學問題，但過去很長一段時間我們都不再追問了。我們隻是在工作，而來不及去反思工作。

這個意義上，我們是在通過AI，重新提出這些問題。

但我必須要說，我有另一方麵的擔憂，就像人類不再需要記電話號碼之後，我們就記不住電話號碼了。當我們可以很快地調取知識，就特別需要警惕，AI多大程度上會使我們開始遠離文本本身。學生很可能不再閱讀薩特，而是直接問ChatGPT薩特的存在主義是什麽，然後得出幾條看起來很正確的答案。這會造成對思想的隔膜。

對於經典文本的深入理解，是需要把它裝在心裏的，這不光是一個儲存知識的過程，也是在學習如何解讀文本的過程，然後把那些偉大作品融入我們的人格。這當中既有手藝的鍛煉，也有玩味的體驗和思想力量的內化。

但技術的發展，會讓學生對於文本、對於思想家的思想路徑，都不用再去追溯，這會是一個巨大的災難。就哲學教育來說，這會製造一批能夠對答如流，但毫無思想的人。

所以，這件事有兩麵性，讓人類有可能解脫於過量知識的負擔，也可能對真正意義上的教育造成障礙。就像有了計算器之後，人類口算的能力是降低的，有了ChatGPT之後，未來人類的知識掌握能力，也必然會降低。但知識掌握的熟練程度也許是通向一種反思能力的必要階梯，它不應該是目的，但會有階梯的意義。而技術到底是在簡化這個梯子，還是全然撤走這個必要的梯子，是個大疑問。至少部分地要看我們如何應對，要看教育製度如何調整。

我們討論技術，要和製度、和觀念放在一起來談。在通過人工智能解放了過量知識的束縛之後，提問能力、人格的塑造、人的培養、對生命問題的敏感和對社會的關切，這些是落空了，還是實現了，這是人類未來的大問題，更是擺在教育麵前的一個巨大的問號。裏麵有很多值得思考的問題，我還不能給出一個明確的答案，但我以為這很關鍵。

其實哲學上，對於技術的討論是20世紀下半葉一個相當重要的話題。有一類技術，看似是給我們提供了一點小小的便利，但其實它攜帶了一整套生活方式，技術專家自己也根本無法預料它帶來的會是什麽。

我們要明白，推動技術變革背後的邏輯，其實是資本的邏輯。所以我們不能夠把技術問題僅僅交給技術專家，我們要意識到現代技術的發展帶來的巨大影響，是需要人文學者、社會政治各個領域的專家去高度關注的。

當代生活的一個巨大問題，恐怕就在於科技資本的強大動力機製，技術成了和資本分不開的自我增殖係統，它才是主體，它在不斷地催生變革，甚至在加速催生變革。而這些變革，是要社會和個體去消化的。這就使得我們整體陷入了一種被動的境地，需要不斷地去接技術發出來的球，把它消化掉，無論是正麵還是負麵。我們疲於應對。

可以說19世紀中葉以來的技術時代，把人類植入了一個高度不穩定的生態當中。技術在加速推進，不停帶來整個生活方式的演變，讓每一代人都覺得自己處在過渡中。無論如何，AI對我們的知識觀念、教育觀念、就業觀念、社會公平的觀念等，都會帶來根本性的影響。

瑞士高中老師參加ChatGPT研討會

「從無到有地創造知識，仍然是人類目前的驕傲」

劉嘉

清華大學腦與智能實驗室首席研究員

因為我從事認知神經科學和人工智能交叉研究這一塊，所以ChatGPT的前身——GPT-3在2020年5月剛發布的時候，我已經接觸它了。那時候，我對它更多是一種懷疑、嘲笑的態度，因為它會犯很多低級的錯誤。在我看來，這與我之前見識過的很多人工智能程序類似，比如戰勝了人類圍棋第一高手李世石的AlphaGo，我們會感歎它的厲害，但是生活該怎麽過還是怎麽過。

這個想法一直持續到2022年11月30號，基於GPT-3.5的ChatGPT發布。最初，我以為它是一個破綻百出的聊天軟件，但是用過它之後，我隻有一個想法，從今天開始，世界不再和以前一樣了。

這是因為我從ChatGPT上看到了通用人工智能(Artificial General Intelligence,
AGI)的火花。AlphaGo不是通用人工智能，因為它除了下圍棋，完成不了諸如識別麵孔或駕駛汽車這樣的任務，所以AlphaGo隻是任務特異的人工智能（Task-Specific
AI,
TSAI）。而通用人工智能最厲害的地方，就是它可以像人一樣幹很多事情，這就意味著它具有類似於人的、適用於各種任務的思維能力。從學術上講，ChatGPT是一個大語言模型（large
language model），它的本質是一個思維模型，這是因為語言是思維的載體。掌握了語言，就自然而然會湧現出思維。

ChatGPT為什麽這麽強大？它的底層邏輯其實是模仿人腦。人腦是由生物神經元組成的，它的機製簡單，就是通過樹突接收信息，胞體進行簡單的加和運算，最後通過軸突把結果輸出到下一個神經元。基本上所有的基於人工神經網絡的AI都是由此來構建，ChatGPT也不例外。但是，讓ChatGPT和其他AI程序不同的是，它一直在追求「大」，而在我看來，「大」是區別我們人類大腦與動物大腦最本質特質。在過去300萬年裏，人類大腦的體積增加了3倍，創造了進化史上最大的奇跡，從此人類從在非洲叢林的艱難生存，變成了今天地球的主宰。從GPT到GPT-2到GPT-3到現在的GPT-4，它的規模也在越來越大。而當規模越來越大時，事實證明，它就能夠湧現出人類的通用智能行為，產生思維。

這也是為什麽以馬斯克為首的AI大佬們要求暫停訓練更大規模的GPT，給人類6個月的時間，然後人類討論一下，我們怎麽把GPT控製在人類的手中，而不是讓它失控。他們已經開始擔心，我們可能真的訓練出不被人類控製的通用人工智能，而它可能會對人類的生存造成巨大的影響，甚至會毀滅人類。

這是因為，有一種知識，是人類無法掌握而機器卻能夠擁有的，即「暗知識」，它不可感受，不可表達，存在於海量數據中，數量遠超過我們能夠感知或者能夠表達的「明知識」和「隱知識」。就像在圍棋中，相對於龐大的圍棋空間，人類兩千多年探索，隻是這個空間裏微不足道的一個小點，大部分空間還是一片黑暗。AlphaGo之所以能戰勝人類，就是因為它探索了更大的空間，因此找到了更多的下法。

ChatGPT從設計之初，就是來探索人類從誕生至今所積累的所有知識。例如GPT-3學習了整個互聯網上2/3的知識。它不僅是最博學的個體，更重要的是，它把不同知識融會貫通，掌握了知識與知識之間的連接，於是就擁有了大量的暗知識，因此它的智慧等級可能要比人類高很多。我們可以想象一下——能夠將科學與藝術、工程與人文所有學科都打通的這麽一個智者。

最近，微軟研究院刊出了一篇長達154頁的論文，給ChatGPT做了一個全麵的體檢。他們發現，ChatGPT在抽象、理解、視覺、編程、數學、醫學、法律等多個領域都已經達到甚至超越人類的水平。更讓人驚訝的是，它也湧現出了初步的共情能力。也就是說，它能夠在一定程度上「理解」人類的喜怒哀樂以及行為背後的動機，而這是我們人類能夠組建家庭、形成社會的核心能力之一。

具有共情能力的ChatGPT就可以在情感層麵上與人類進行交流；更重要的是，不同的AI程序之間，也許可以像人類一樣進行交流和溝通，甚至能夠構建一個全新的沒有人類參與的計算機社會。

那麽，未來將會是怎樣？一方麵，從進化上來講，現在的人類的大腦已經發展到了頂峰。由於生物學上的約束，即使再給人類100萬年，人類的大腦不太可能再有顯著的變化。但是對於人工智能來說，一塊CPU不夠可以再加一塊CPU，一塊硬盤不夠可以再加一塊硬盤，所以它有無限的算力和無限的存儲能力。理論上講，機器的智能終將永遠超過人類的智能。而這一旦發生，「奇點」就會來臨，文明的發展就不再連續，人類就不再是文明的主要載體。

從另一方麵來講，人類在過去的300萬年裏，就隻幹兩件事情：第一件，我們在前人的基礎之上，就像牛頓說的，「站在巨人的肩膀之上」，組合式創新，演化出新的東西。在這方麵，ChatGPT或許會做得比人更好。但是人腦還擅長另一件事情，就是我們能夠從「沒有」中去創造出新的東西出來。也就是說，人類可以跳出過去知識的約束和邊界，產生原本不存在的新的知識。而這一點，還是ChatGPT目前不擁有的。例如，如果ChatGPT隻看到了傳統繪畫，它大概率不會創造出以莫奈為代表的印象主義畫作出來。無中生有、從0到1，這仍然是人類目前的驕傲。

我想，以ChatGPT為代表的通用人工智能的出現，目的並不是要取代人類甚至摧毀人類。在曆史上，蒸汽機的發明，在開始的時候讓人手足無措，但是慢慢我們意識到，它可以讓人類從簡單、重複、低效的工作中解放出來，在過去300年裏人類創造的財富與知識，要遠遠超過過去3000年人類在農耕社會所創造的一切。同樣，到了chatGPT時代，我們可以不再需要像以前那樣高強度地學習知識，因為我們可以隨時隨地從ChatGPT獲得。而GPT並不是讓人類變得無所事事，而是給我們留下了大量的時間和空間，讓人類從一個有知識的工人，轉變成一個能創新的創造者。

所以，也許在未來的30年裏，我們能夠創造出超過過去300年我們所創造的財富和知識。

此外，AI也可以幫助我們理解大腦的奧秘。我們可以用人工神經網絡方法對大腦進行建模，理解它的機製，破譯導致我們抑鬱、焦慮、癡呆的根本原因，治療與大腦相關的疾病，讓我們人類的生活質量更高。

我前幾天和一個朋友聊天，談到人工智能的未來，他非常悲觀，認為人工智能會毀滅人類。我沒有試圖說服他，我說，無論它是幫助我們，還是毀掉我們，有一點我是確定的，那就是我們現在生活在這樣一個全新的充滿無限可能的時代裏，我們是何其的幸運。

圖源電影《攻殼機動隊》