未來生命研究所29日公布一封公開信，呼籲所有AI實驗室立刻暫停訓練比GPT-4更強大的AI係統至少6個月，原因是要確保人類的安全。由於有馬斯克等陣容強大的一千多名科技領袖和研究人員簽名，有人做出更強大的GPT-5可能被擱置的猜測。但請注意，OpenAI的Altman和微軟的比爾·蓋茨也表達過相似的擔心，但這兩個關鍵人物都沒有在公開信上簽名。
▲福布斯網截圖
老胡很擔心這封公開信的內容隻會停留在倡議的層麵，沒有機會成為人類共同實施的行動。因為目前的競爭太激烈了，它不僅存在於大公司之間，也已經在國家之間若隱若現。人類迄今沒有過真正抑製住關鍵和致命競賽的成功案例，而現在正是國際形勢嚴重動蕩，世界主要力量之間極其缺乏相互信任，科技領先又對開發者有決定性意義，人類內部對競爭管理非常脆弱甚至退化的時候。
科學家們認為，我們現在必須捫心自問：是否應該讓機器用宣傳和謊言充斥我們的信息渠道？是否應該讓所有的動作都變得自動化？是否應該發展可能某一天會超越我們、淘汰我們、取代我們的非人類智能？是否應該冒險失去對人類文明的控製？他們認為，隻有當我們想透這些問題，確認AI的影響是積極的、風險是可控的時候，才應該開發強大的AI係統，而且如果某個階段需要對新模型算力的增長速度進行限製時，那麽那個時間點就是現在。
▲當地時間3月25日，OpenAI 創始人Sam
Altman在一檔訪談節目中稱：“從ChatGPT開始，AI出現了推理能力。但沒人能解讀這種能力出現的原因。”“AI確實可能殺死人類。”
然而我相信，把這樣的願望變成行動將非常困難，而要像公開信所說，讓暫停6個月新的訓練和開發成為可驗證的，而且必要時政府應當介入並實施暫停，這樣的機製不可能自動形成。而要達成這樣的行動和監督係統，無疑需要一些重要和艱難的談判，之後才談得上創建這個係統，而做到這一切恐怕6個月的時間都不夠。
AI的威脅是潛在和疑似的，它很無形，不像一旦真有小行星撞地球的風險，會產生直觀的驚悚和緊迫感。與此同時，AI的好處又是立竿見影的，帶來很多個人效益和巨大公司收益，甚至可能為國家地緣政治競爭提供新的利器。
中國人有必要跟蹤圍繞這份公開信所產生的業內反響和更深刻的動向，同時我們要清楚，ChatGPT的出現正在重新塑造AI領域以及更廣泛領域的競爭格局。中國較美國無疑再次落後了一步，而且落後這一步的影響有可能比之前中美數字差距所導致的問題更加嚴重。
可以說，我們現在並沒有資本引領關於暫停AI開發、升級的討論，甚至難以在其中獲得強有力的參與感。我們必須抓緊時間，將我們的通用人工智能技術的開發和應用盡快彌補、縮小與美國的差距，隻有那樣我們才能獲得規劃人類AI技術未來發展走向的話語權和製定規則的參與權。為此我們顯然尚需付出非常艱苦的努力。