Skip to content

GTP-4來了,“奇點將至”對我們會有多麽致命

科技的發展不是“勻速”的,它給不同人群帶來的影響,也不會是“勻質”的。

先講一個曆史段子。

一百多年前的甲午海戰中,北洋水師大敗虧輸,間接導致大清在於日本國運對賭當中戰敗。甲午海戰的北洋水師戰敗的原因當然是多方麵的,但一個不可忽視的原因其實是,北洋水師“運氣不好”——沒趕上好時候。

北洋海軍的所有外購軍艦皆建於1888年前,在十九世紀九十年代前,西方海軍造艦技術的發展是相對緩慢的,後膛炮雖然逐漸取代了前膛炮成為海軍艦炮的主流,但由於炮閂技術尚且處在發展的初級階段,太多技術細節沒有完善,以至於艦炮的裝填速度非常之緩慢,以至於北洋海軍定遠、鎮遠二艦“五分鍾開一炮”的問題,在當時看來本來不是問題,而是一個司空見慣的軍事常識。

d93090bbe3884af1535f6f7931598f09

艦炮裝填速度慢這個事實,又間接決定了一係列事情——比如,由於炮打得慢,每開一炮需要重新瞄準,所以瞄準也可以慢慢來,所以當時艦炮技術也非常原始,還停留在海軍軍官拿著六分儀純手算的時期。

艦炮所使用的彈藥也多以實心或者摻了沙土的穿甲彈為主,為的就是萬一有一發能蒙中了,就能直接破壞對方艦船水密性,擊沉對方。

a7cab8201a27bf1e8e7f780aa5f73744

但日方的購艦潮始於19世紀80年代後期,他們幸運的趕上了“技術爆炸”導致海軍發生大發展、大變革的時代。

十九世紀八十年代末,原本隻適用於小口徑艦炮的製退複進機技術趨於成熟並應用於大口徑艦炮的炮架改進,使得大口徑管退炮橫空出世。火炮的後座部分能在發射後利用自身的後座力自動恢複到原位。

4bddbf4d07e3c7f9e57fdac376d03ffe

這樣一個看似小小的技術革命改變了很多事——

比如自動複位省去了複位和重新瞄準的時間,使火炮的射速大為提高;

比如固定瞄準也讓更精確炮瞄計算變得有意義,於是炮瞄技術也加速革新了;

又比如自動複位還帶動了炮閂技術的革新,讓火炮發射速度從五分鍾開一炮迅速快進到一分鍾開五炮。

而快炮的誕生,又讓軍艦在海戰中更大比例的使用開花彈,通過戰鬥部火藥的爆炸和延燒來殺傷敵方有生力量成為可能。

而這又進一步導致了整個海軍造艦思路和作戰思路的逆轉……

544f46a1409a2648753a647ad43c88f2

你看,這就是技術的迷人之處,它會產生像核裂變那般的“鏈式反應”,一個小技術的革新會迅速引發一場劇烈的革命,就像核裂變中一顆中子就能引爆整個核彈一樣。

這就是“技術爆炸”的本質。

674fcbb7c15748a7f2d40974490504dc

總之,就在清廷結束購艦而日軍開始加速購艦的這個節骨眼上,由一個看似微不足道的小技術革新所引發的一係列技術劇變的“鏈式反應”正在發生。

這個鏈式反應的終點,就是在甲午海戰中,清日兩軍看似都是鐵甲艦,但實則卻是兩種不同技術時代的產物,其內部的技術代差甚至不亞於幾十年前英軍的風帆戰列艦對上同樣依靠風帆動力的清軍水勇,戰敗其實是理所當然的事情。

但是這個問題是當時的中國人,乃至後來很多戰史研究者所無法理解的,在他們看來,如果說鴉片戰爭中中國海軍的戰敗,是閉關鎖國百年的結果,落後這麽多還可以理解,那麽從北洋海軍在不到十年內就成為“老古董”,這怎麽可能呢?所以一定是李鴻章、丁汝昌指揮不力的鍋!北洋海軍一定不是“器不如人”而是“氣不如人”!

3be14889098d3f3da6a02d5233f04bc5

5cce66960d49b1b8893506ff313d4662

因為技術“鏈式反應”的特性,科技的發展,並不是勻速的。

百年後的今天,這個道理現在很多人都自以為自己懂,但很多人其實都沒“懂”的那麽深。

這裏推薦一本穀歌技術總監雷·庫茲韋爾寫的書,叫《奇點臨近》。

90ef2bcc316fdffcb75c9c0612b5fbd9

這本書寫於2005年,庫茲韋爾在這本書中首次描述了他所認為的人工智能趕上並超過人類智能的過程是怎樣的。它並非很多人所認為的那種“勻質化”的過程:人工智能現在(21世紀初)擊敗個國際象棋大師,過了十年又擊敗個圍棋大師,再過十年又如何如何。

不會的,庫茲韋爾預言,人工智能的發展將遵循指數模式——

剛開始的時候,你覺得它的發展簡直是龜速,幾十年出個新進展。

後來稍微快了一點,十年前奪得國象桂冠、十年後擊敗圍棋聖手。

再後來又快了不少,前腳剛能處理你的語音、文字,隔了幾個月現在能識別圖像了。

而最終,人工智能的進步速度,將超越人類的感知能力——某天晚上你臨睡前,手機蹦出一條消息,說人工智能在編程水平上已經達到或超過普通程序員了,你不覺是什麽大事,沒看完消息就沉沉睡去。

但第二天早上醒來,新出現的消息將是——人工智能已經急速進步,取代了人類的大部分工作,而你則成了尤瓦爾·赫拉利在《未來簡史》中所預言的那種“無用之人”。

庫茲韋爾將這個人工智能將發生“超進化”的時刻,稱之為“奇點”。

343e2f6daf7541b90e570f783ec5fd37

在奇點之前,人工智能需要依托人類去改進自己、不斷完成進化。但“奇點”之後,人工智能可以依靠人工智能本身去完成自我改進,從而產生恐怖的“自激效應”,它的演化速度將超過人類的理解能力——就像數學上的奇點、物理學上的黑洞是我們常人理解的禁區一樣。

而現在,在庫茲韋爾的書寫了十幾年後,我們似乎感覺到了他的預言正在一步步成為現實。人工智能,真的如他所預言的那般——奇點將至。

在上個月的《我不擔心ChatGPT搶我飯碗,但我擔心那件更要命的事》一文當中,我曾經聊過ChatGPT的事情。

中國數字時代文章備份:《我不擔心ChatGPT搶我飯碗,但我擔心那件更要命的事》

一個多月前,這個人工智能聊天軟件用它的革命性創新震驚了整個世界。但讓人沒想到的是,僅僅一個多月之後,它的升級版本GPT-4就出來了。簡單的說,這是一個ChatGPT的“升級款”,但相比前作GPT-3,GTP-4更強大,更聰明,更專業。它不僅能夠聊天、寫詩、寫代碼,還能分析圖像,處理8倍於之前的文本。在SAT和模擬律師資格考試中,GPT-4打敗了90%的人類考生,而在美國生物奧賽(USABO)中,打敗了99%的考生。當然GTP-4還沒有達到完全“超神”的水平,按照大V和菜頭的總結,GTP-4這一次是從7歲幼童的心智,發展到18歲優等生的能力,而這中間“僅僅過去了一兩個月時間”。

1b705ef44270fed923d921ce57f789ff

那麽下一個問題是,人工智能的心智從一個18歲的優等生,到一個25歲、研究生畢業的合格人工智能工程師又要花多少時間?

如果達到了這個標準,人工智能是否就能實現庫茲韋爾所預言的那種不依托人類的“自我改進”“自我進化”,從而導致奇點來臨呢?

我不是相關專業的研究者,我不好亂說,但我依稀記得庫茲韋爾所預言的“奇點時間”是2045年。

我現在無比希望他說話算話。

因為現在看來,似乎人工智能的“奇點”到來,已經用不了那麽久了。

04cd4e786505c2f4bb97aceaf3e8be08

5cce66960d49b1b8893506ff313d4662

科技的發展不是“勻速”的,同樣,它給人類帶來的影響,也不是“勻質”的。

提到人工智能超越人類時,我們很容易陷入一種泛人類主義的宏大敘事當中,即空泛的討論一旦人工智能超越人類,“全人類”會麵臨什麽什麽樣的影響,但就像前文我們提到的19世紀末海軍技術爆炸意外決定中日兩國之後半個多世紀國運興衰一樣。不“勻質”的科技進步,給人類不同群體帶來的影響,很可能也是不“勻質”的。就階層而言,人工智能奇點的到來,很可能會如赫拉利在《未來簡史》中說的那樣,拉大而不是縮小階層之間的差距,讓大量人口成為“無用之人”。而就國家而言,率先摘到這個“低垂之果”的國家很可能也會對它的對手產生碾壓性的優勢。

這種未來其實特別像劉慈欣在《三體》中所討論過的與外星人接觸的問題。在《三體》第一部中,作者曾經點明人類與外星人的接觸一定是不“勻質”的,率先與外星人接觸的國家可能獲得相比其他國家無可比擬的“突變型技術優勢”。這是小說中紅岸基地建立的根本原因——各國在認識到接觸帶來的影響“不勻質”之後,要爭奪優先接觸權。

b180c1d33a6881c2e12f978968eeef4b

而在現實中,我們其實可以認為,一旦“奇點”來臨,人工智能就是生活在地球上的、虛擬世界中的“外星人”。率先“接觸”(發明)這種超人工智能的人,將教會它怎樣認識這個世界,而它擁有什麽樣的世界觀,很大程度上也許將決定世界格局的未來走向。

舉一個最簡單也最現實的例子,現在大家都很關注俄烏戰爭,關注俄烏在巴赫穆特的戰損比,雙方今天又死了多少人,西方給烏克蘭的軍援何時到位等等問題。

但假設(隻是單純的假設)人工智能的“奇點”明天來臨,那個進化出來的超人工智能站在美國人理解問題的角度給烏克蘭支一個我們人類智能設想不到的招數或者黑科技。可能這場戰爭立刻就結束了。

cf9ea6376c8eed5e89a23866a552d008

是的,如果人工智能是人類手造的“計算中的上帝”,它將用它超人的智慧來決定我們的生活,那麽一個非常重要的問題是——這個“上帝”會先聽誰說話?

奇點降臨給現代戰爭和國際博弈帶來的影響,將絲毫不亞於當年的廣島原子彈對工業時代戰爭規則改變。

所以我們也許終將麵臨“奇點”,但在“奇點”麵前,不同階層、不同群體的人類將麵臨的未來也許是迥然相異的。就像19世紀末的海軍技術革命,給北洋水師和日本海軍帶來的命運完全不同一樣。

5cce66960d49b1b8893506ff313d4662

特別巧合的是,昨天(3月16日),百度也正式發布了它對標chatGPT的智能聊天軟件“文心一言”,老總李彥宏親自登場為這個產品做了介紹。

c9ecc39124a98b4cbfd057eca94f22cf

但在我看來,這款產品雖然足夠“黑科技”,發布會本身卻是很難算得上成功的,李總說話的時候你都能感覺到他有那麽一絲絲氣場不足,雖然他在視頻中也展示了“文心一言”在文學創作、商業文案創作、數理邏輯推算、中文理解和多模態生成等幾方麵堪稱亮眼的能力,但做的隻是視頻展示,而沒敢把軟件拿出來跟觀眾做現場互動——我相信如果“文心一言”的“聊天”能力能與chatGPT比肩、或者哪怕隻差一小部分的話,這個展示做出來是最有說服力的。但最後他沒做,不知是不是受了GPT-4的影響,認識到又被海外“友商”甩了一節。

聽著李彥宏先生的演講,我突然想到了一件事情。中國企業、尤其是互聯網企業前些年突飛猛進的發展,很大程度上,其實是一場“新·洋務運動”,國外同類企業有個什麽已經被驗證為可行的新東西,我們照著原樣複刻過來、稍作修改,做個中國版,往往會比他們還要火、還要賺錢。

因為中國這個市場是具有先天的體量優勢,而過去幾十年國際科技的發展好歹是相對“勻質”的,時間上差一點,在技術上也隻是差一點。我們可以依靠體量的優勢彌補技術上的代差。

這是“BAT”之所以成功的根本原因。

be18d15ba77766335dcb9e1ef9129402

但在未來,即便拋開中美“脫鉤”這種最壞的前景不談,考慮到“奇點將臨”,技術發展速度有可能呈指數型增長這個要素,這種模式很可能就將過時了。

因為在技術加速的大背景下,你在時間上差一點,在技術上可能就會差很多。人家那邊都已經革新到GPT-4了,你這邊剛出一個“文心一言”。這還怎麽趕趟呢?

在這種環境下,體量巨大和發展環境相對封閉獨立,反而會成為中國互聯網企業進一步生長的一個劣勢。因為它會拉開我們與先進國之間的“時差”。

所以代差問題,將來有可能成為曾經成功的中國互聯網各大巨頭未來所麵臨的棘手難題。

解決這個難題的唯一辦法,也許隻有更加迅速的學習和更大力度的開放,用把自己融入世界革新之潮的方式,消解被對手甩開技術代差的致命隱患。

而從這個角度講,這幾年中國互聯網上一些人滋生的很多虛驕之氣,認為中國通過開放對先進國家的技術學習已經“得矣、得矣”,甚至暢想依靠體量優勢完成“彎道超車”……這種思潮來的很不是時候。它有點像十九世紀八十年代的北洋水師在花巨資買了一批當時最先進的軍艦之後,覺得自己是“亞洲第一、世界第六”了,然後想依靠這種“先進”吃老本。

但開放不是一種一次性的舉動,而是一個必須長期維持下去的互動過程, 科技進步的腳步不會為任何人停下來。

驕傲未必是一種罪,人可以在很多時候驕傲,但在一些特殊的節骨眼上不合時宜的驕傲,將是致命的。

也許明年、下個月,甚至明天,下一場技術爆炸、甚至那個預言中的“奇點”就會來臨。就像沒人想到火炮的製退附近機這個小零件,會引爆一場海軍革命一樣,沒人能預判到下一個加速奇點到來的技術突變會是什麽,但我們知道,遊戲規則一定會因之改變。

奇點將至,它會改變所有人的生活,但這種改變不是勻質的,每個人都將在奇點前麵臨不同的命運,對故步自封的人,它最為致命。

d1b16f2a697208a4017844e96d37895f

保持饑餓,保持愚蠢;保持和平,保持開放。冷靜、謙虛、客觀而謹慎的看待這個世界。

這將是我們在這個時代得以生存下去的必由之路。