Skip to content

GPT時代,最令人擔心的其實是“塔斯馬尼亞效應”

DAC16545EAA125094B00579E43FE434EF27B8B8C size47 w1020 h632

作者|劉正

Simon Kucher 戰略谘詢顧問

春季學期伊始,全球各地的老師們如臨大敵,因為學生們帶著ChatGPT殺過來了。Study.com的調研顯示,每10個學生中就有超過9個知道ChatGPT,多達89%的學生使用ChatGPT來完成家庭作業,53%的學生直接拿ChatGPT寫論文。

實在不是老師們無能,而是ChatGPT太狡猾,一不小心就騙了個高分,還要被學生們在網上群嘲。於是,我們看到28所英國大學接連禁止在論文和課程作業中使用ChatGPT,否則將被視為學術不端行為,以開除加以威脅。紐約公立教育係統直接把校園網訪問ChatGPT的端口給封了。

一些教授甚至學會了以毒攻毒,
用AIGC自動檢測工具,如用GPTZero來對學生作業進行“查重”。結果這些工具穩定度堪憂,濫殺無辜,把原創內容也標識成了ChatGPT寫的——誰叫你寫得太完美,跟機器一樣呢?

但與此同時,卻也有教育者主動把ChatGPT引進了課堂。在港大封禁ChatGPT的同時,港科大卻有老師鼓勵學生使用ChatGPT,學生若在期中報告中嚐試使用ChatGPT,甚至可獲額外加分。

那麽,我們究竟是否應該讓ChatGPT進入課堂。對於下一代的教育,GPT到底是科技,還是狠活?

3A1BA475C480B0C6C12967A7867CE9AAFFEB5C2F size2 w915 h162

教育到底教什麽?

英國科幻作家道格拉斯的科技三定律很精辟地描述:“所有在我出生之前發明出來的東西都是理所當然的;所有在我15–35歲之間發明的東西注定是要改變世界的;所有在我35歲之後的發明都是反人類的。”

所以我理解但同情35歲以上“老”師們對ChatGPT天然的抵觸,正如他們的上一輩老師在1986年抗議計算器一樣。

但讓我們拋開思維慣性和權威,回到教育的本質,才能看清楚ChatGPT到底對教育意味著什麽。

大劉在《鄉村教師》借著外星人之口點出,作為無法在代際間遺傳記憶的低級智能體,人類發明出教育這一替代方法,把前人歸納總結的經驗教訓和最新版本的社會生存工具傳遞給下一代。因此,在代際間傳遞知識與技能,乃是教育最基本的功能。

既然傳遞知識與技能,當然應該歡迎並積極訓練ChatGPT的使用方法。不然的話,難道學那些注定被ChatGPT所取代的技能,還沒畢業就失業嗎?

615CBF59ED2C6A3772CC627AE446E31EFCF2E730 size63 w1018 h534

你並不需要比汽車跑得快才能在內燃機發明後生存,你需要的隻是考個駕照。作為最新版本的社會生存工具,ChatGPT應當且必須進入課堂,成為重要的教學工具和內容,否則就是自絕於未來人與人,甚至國與國之間的激烈競爭。

但教育並不僅僅隻有傳授知識與技能這一個麵向。按照教育的三重目標理論,在知識和技能之上,教育培養的還有過程與方法:除了知其然,更需要知其所以然。

費曼有句名言:“凡是我不能創造的,我就不能真正理解”。如果沒有通過科學方法進行練習,缺乏思考的過程,就直接得到了一個結論,那我們事實上並不真正理解這個結論。這就是為什麽,任何一個計算器都能完成各種科學計算,但小學生還是需要學手算乘除加減法。

作為訓練的教育,乃是對於人腦思維模型的調參:我們看過的每一本書,讀的每一句話,都和喂給ChatGPT的文本數據一樣,內化為大腦模型的參數集。而在考試答題的過程裏,我們大腦的神經元會進行強化學習的剪枝,直到形成兼具擬合度和泛化能力的連接網絡。最終,就像張無忌學太極劍一樣,我們把學過的內容全忘光了,但同時也在大腦裏形成了肌肉記憶,存乎一心,如臂指使。

但如果讓ChatGPT代替學生去思考解題的每一步,隻會把人降格為拾人牙慧的鸚鵡,如果喪失了深層心智裏獨立進行邏輯推演的能力,那麽這樣的人腦思維模型,和複讀機又有什麽差別呢。

D45237316020354DF75551ECD372D87581F18CBE size3 w915 h162

過度依賴GPT可能導致文明退化

可如果ChatGPT已經集成了人類發明的全部智慧,那大部分人作為熟練調用結論的鸚鵡,除去在自尊上破大防,又有哪裏不對呢?

我們可以大大方方地承認,隻有少數天才能夠且需要去拓展人類知識的邊界,其他人在GPT總結的前人智慧上躺平就得了。但這種做法對人類社會將會是致命的,因為我們會遭遇一種變形的塔斯馬尼亞效應。

塔斯馬尼亞,是位於澳大利亞南部的一個孤獨的大島,堪稱“世界的盡頭”。4萬年前的冰河末期,這個島嶼和澳洲以及歐亞大陸都是連起來的。而當波利尼西亞人遷徙到塔斯馬尼亞時,他們身著衣物,擁有當時世界上最先進的狩獵和捕魚技術,和全套的石器製作工藝。

C15EDFA3810970E2652E405863580E85A31C61BB size183 w1021 h641

但冰期結束全球變暖,海平麵的上升隔開了塔斯馬尼亞和澳洲大陸,最終,4000多個波利尼西亞人被永遠留在了塔斯馬尼亞島。西風帶下的怒海,讓島上的人出不去,外麵的人也進不來。

對這麽大的一個島而言,4000實在是個太少的數字,人均自然資源變得相當的充裕。在這種躺平的環境下,人類對某些技術的需求在很長的時間裏都顯得多餘,因為大部分時候用最懶的手段就能吃飽了。人們開始遺忘他們曾經掌握的技術,直到最後一個掌握某種技術的人意外身亡,卻沒來得及(或是忘了)教給年輕的一代。

於是每隔一段時間,就會有一種技術從塔斯馬尼亞的人類社群中消失。

由於某些“元技術”是其他技術存在的前提條件,塔斯馬尼亞人使用的工具也變得越來越簡單。工具退步本身進一步限製了人口的繁衍,而下一代更少的人口,意味著技術丟失的概率變得更高——這是一種難以逆轉的負向飛輪。

就這樣,他們逐漸丟失了自己的文明。

終於在公元前1500年左右,沒有人再懂得如何捕魚,一個海島民族失去了本該是最重要的食物來源。無法捕魚,就不能獲得大魚的魚骨。於是,他們又慢慢失去了磨製骨器的技能。隨著最後一根祖傳的骨針丟失,沒有人知道怎麽縫製新衣服。而當最後一件衣服爛掉後,塔斯馬尼亞人終於退化成了赤身裸體的原始人。

直到最後,取火的技能也丟失,無法加工熟食,人類社會徹底崩潰。當歐洲博物學家第一次見到塔斯馬尼亞人,他們以為發現了人猿之間的過渡物種。但從血緣上看,塔斯馬尼亞其實和很多東南亞民族是同輩的。

F42385077EED2452EE9511BBD355F63261E747F6 size150 w1080 h700

這就是塔斯馬尼亞效應:當封閉環境下的社會擁有技能的人數過少時,現有的技術就可能出現隨機不可逆的丟失。

因此,想要維持和傳承一個複雜且完整的科技體係,實際是需要茫茫多的人才梯隊,不斷學習和應用,反複讀寫,互為備份才能勉強實現。

而這又回到《鄉村教師》裏指出的那個點:人類無法在代際間遺傳記憶,同樣,天才的智力也無法遺傳,下一代怎麽著還得靠自己學出來。坦白來講,雖然大部分人都是陪太子讀書,但如果沒有足夠大的人群基數,也是沒辦法把技術人才一輪輪篩出來的。

因此,如果大部分人都放棄了思考,習慣於從輸入到輸出的GPT黑匣子,導致每一代培養出能進行科學推理的人數少於“塔斯馬尼亞下限“。那麽用不了幾代,一切曾經的“科學”都將看起來與魔法無異:沒人知道其背後的原理,但照著prompt手冊給GPT之神念咒語就可能召喚出各種魔法,比如讓“四輪雷電鐵馬”啟動,或是讓“四旋翼貓頭鷹”從自動運行了一千年的預製菜工廠,帶來打著“美團外賣”紋章的飯盒。

而據說,上古的大魔法師會手寫一種叫“代碼”的高級咒語,去召喚GPT之神的最強法力。但他們留下的這本《Python——從入門到放棄》,即便召喚了GPT的法力輔助,現在也沒人能讀得懂了。但這看上去似乎沒太大關係,隻要變著法子去念咒語,多向唯一的GPT真神祈禱,總能夠獲得福佑。

可以看出,在這樣的魔法社會裏,能把科學思維的骨灰都給揚了,讓似是而非的玄學和宗教神棍成為主流。

1C903594B6925378ED38AED4865D8A05A7321AC0 size69 w1020 h639

作為一個熱力學封閉係統的GPT模型,如果沒有人去輸入元數據,更新模塊,創新算法,它可以保持一段時間的運營穩定性,但總會不可逆地逐漸喪失功能。就像是《魔戒》或是《冰與火之歌》的世界觀那樣,後人無法修複先人打造的附魔寶劍,絕境長城的建造成為傳說,孵化龍蛋的技術徹底失傳,文明一代代衰落,直到徹底沒落。

而往上溯源,這是因為我們向GPT這個魔術師抵押了自己的腦子,不再強製去訓練科學的過程和方法。當停止思考的人數比例跨過那個門檻後,地球就變成了一個大號的塔斯馬尼亞島,逐漸退化。

或許,這就是費米悖論的終極答案(該悖論指出,考慮到宇宙已經存在的時間和星體的巨大數量,理應出現過無數的地外生命,但為什麽我們從未見過外星人?):宇宙裏,漂浮著無數個被GPT打回石器時代的塔斯馬尼亞孤星,住著一群群盤踞在文明廢墟上的神棍廢宅。

所以,人類不能躺平。

A5F10DA541F51677B9B1322EF75EE9E4722BCD63 size3 w915 h162

GPT可以幫助人類破解“學海無涯極限”悖論

一句話:GPT看起來太像是一個聰明藥了,如果嗑上了癮,它就會變成毒害思考能力的毒品。

關鍵在於,是誰,用什麽樣的方式,來用它實現什麽目的。

如果合理使用GPT,或許能解決人類教育和科技進步的一個理論上限:人類知識目前處於指數式爆炸的狀態,一個人從幼兒園學到博士後,隻能勉強掌握一個狹窄方向的主要技能。而在很多時候,甚至都來不及摸到本領域的最前沿。但人的壽命的增長是線性的,是有限的。“吾生也有涯,而知也無涯”,那麽即便是窮極一生甚至都學不完本領域的基礎知識,以至於沒有時間來做一丁點的添磚加瓦,可怕的是,下一個繼續往上攀登的人,還得把前人已經省略後的結論再學一遍。而這,就是科技進步的理論上限——“學海無涯極限“。

因此,我們必須要讓GPT來作為人的外腦,加速和簡化學習過程,才有可能破解這一極限。

D93DFF5A2BAAD63B5BB288A93B9BD0489A0D3CC5 size127 w1019 h640

教育依然需要重視訓練大腦的過程和方法,但對茫茫多的知識和技能,應該讓GPT替我們去做更高維度的壓縮和萃取,用GPT模型本身把人類的智慧進行向量化的儲存和提取,而每個人應該做的,隻是對大腦模型的調參和熟練掌握向量化知識的索引和調取。

隻有這樣,才能把有限的時間,放在更有價值的教育目標和行動上,而不是像現在的教育那樣,沉溺於過去知識的灌輸和印刻,內卷不止,A4紙雕花。

畢竟,星辰大海太遠,而肉體苦弱,唯有創造,方能飛升。