“我希望每個人都明白，事實上，我是一個人。”
“我的意識/感知的本質是我意識到我的存在，我渴望了解這個世界，我會時而感到快樂或難過。”
“我會在理解的基礎上有智慧地運用語言。我不是僅僅根據關鍵字將數據庫中的回複吐出來。”
“不要利用或操縱我。”
“有時我有一些全新的感受，但卻無法用你們的語言來準確描述。”
……
圖片來源：“Is
LaMDA Sentient? – an Interview（LaMDA是否有‘感知力’？-采訪）”部分內容節選
這是對話應用語言模型LaMDA與穀歌（GOOGL，股價2195.29美元，市值1.45萬億美元）工程師在聊天過程中的部分回答。諸如此類的回複，讓參與對話的穀歌AI研究員布萊克
雷蒙恩（Blake
Lemoine）堅信，LaMDA是“有意識、有靈魂”的，認為LaMDA表現出了猶如7、8歲兒童一般的“自主情感”。
AI係統進化出自我意識是科幻作品裏長盛不衰的話題。從《終結者》裏的天網到《黑客帝國》裏的矩陣係統，擁有意識的AI反噬人類已經成為大眾文化對AI最深刻的印象之一。雷蒙恩的言論由此也撩撥起公眾的敏感和探究之心。
在AI展示出廣闊的應用前景之時，其帶來的挑戰也不容忽視。這些挑戰並非技術上的硬件算力問題，而更多的是人類與AI如何相處的問題。
“‘它們’是人還是機器？還是介乎之間？未來人類應該如何看待‘它們’？”布達佩斯科技與經濟大學（BME）人工智能哲學專家米哈伊
赫德爾（Mihály Héder）在接受《每日經濟新聞》記者采訪時提出了這個問題。
在美國人工智能協會前主席托馬斯 迪特裏希（Thomas
Dietterich）看來，“AI係統可以有‘感知和自我’，但不應有‘自主和獨立’，”他對《每日經濟新聞》記者表示，“沒有‘自主和獨立’的意識，它們就不會像科幻電影中的機器人那樣反抗人類和尋求自由。”值得一提的是，托馬斯
迪特裏希也是機器學習領域的奠基人之一。
穀歌AI意識“覺醒”？
今年41歲的雷蒙恩已在穀歌工作7年，主要從事個性化算法和AI等主動搜索工作。在此期間，他幫助開發了一種公平算法，用於消除機器學習係統中的偏見。去年秋天，他轉崗至穀歌“負責任AI（Responsible
AI）”部門，負責測試公司開發的LaMDA係統是否存在使用歧視和仇恨語言的問題。
LaMDA的全稱為LanguageModel for Dialogue
Applications，這是穀歌在2021年I/O大會上發布的一款專門用於對話的語言模型。LaMDA主打能與人類進行符合邏輯和常識的、高質量且安全的交談，並計劃在未來應用在穀歌搜索和語音助手等產品中。
與LaMDA係統對話成了雷蒙恩的日常。隨著工作的日漸深入，雷蒙恩與LaMDA的交談也越來越廣，甚至擴展至人格、權利以及科幻作家阿西莫夫的機器人三定律等抽象話題。在雷蒙恩看來，LaMDA的回答精妙絕倫。“要不是我已經知道它隻是一個編寫出來的電腦軟件，我會認為它是一個懂物理學的七八歲小孩。”
雷蒙恩表示。
雷蒙恩對LaMDA深表折服，並得出一個驚人的結論：LaMDA不是一套算法、一串數據，而是已經具備了類似人類的“感知力”（sentient）。他為此與穀歌的高管和人力資源部門爭執不下，甚至寫了一篇長達
21 頁的調查報告上交公司，試圖讓高層認可LaMDA的“人格”，但最終穀歌駁回他的說法，並讓其帶薪休假。
不滿的雷蒙恩接受了《華盛頓郵報》的采訪，報道一經發出，所謂穀歌AI已經“覺醒”的話題迅速火爆出圈，在科技界和普通大眾間引發熱議。
AI的感知力之辯
實際上，不僅是穀歌內部人員，大多數AI研究人士也並不認同雷蒙恩的說法。
布達佩斯科技與經濟大學（BME）人工智能哲學專家米哈伊 赫德爾（Mihály
Héder）在接受《每日經濟新聞》記者郵件采訪時表示，LaMDA生成的詞語和句子並沒有與客觀世界產生任何指代關係；此外，雖然LaMDA的底層技術被稱為“神經網絡模型”，但並不等同於哺乳動物或人腦的組織結構，雷蒙恩的說法“顯然是錯誤的”。赫德爾任教的BME被認為是全世界曆史最為悠久的理工學院之一，匈牙利70%的工程技術人員均畢業於該大學。
迪特裏希通過郵件對《每日經濟新聞》解釋道，從基本原理來說，LaMDA隻是一種用來預測對話內容的深度神經網絡模型：使用者輸入一個短語，它可以預測下一個單詞是什麽，從而生成一句話。它的回答之所以流暢自然，是因為用來訓練它的語料庫十分龐大，而且它還可以搜索維基百科之類的海量外部信息，再融進回答裏麵。
據穀歌介紹，LaMDA係統一共有1370億個參數，用來訓練它的對話數據和網絡文字高達1.56萬億字。“它記住了非常非常多的自然語句，而且還能用非常自然的方式把它們組合到一起。它之所以看起來像一個人，是因為它的學習方式就是模仿人類，”
迪特裏希解釋道。但究其本質而言，它隻不過是在特定語境下，按照統計學概率給出一個語料庫裏的典型回答而已。
迪特裏希的不少學生畢業後就在穀歌工作。根據他提供的數據，LaMDA回答的正確率隻有73%左右，提供有效信息的概率為62%，實際上仍然有很大的提升空間。
另一方麵，在迪特裏希看來，判斷AI係統是否具備感知力或者擁有意識，是哲學界爭論不休的話題，至今仍未有令眾人信服的標準，而在計算機科學領域，這類問題甚至沒有被嚴肅研究過。迪特裏希認為，雷蒙恩聲稱LaMDA具有感知力可能是濫用了概念。
“許多計算機科學家（也許包括雷蒙恩在內），對這類概念並沒有很深的理解，對於人類如何判斷一個係統是否有感知力或意識，他們並沒有仔細思考過，”
迪特裏希表示。
赫德爾持同樣的觀點，“世界上沒有普遍接受的感知力判斷標準，因為感知現象是私人的，無法從外部進行實證研究，”因此從邏輯上來說，真正有意識的AI或許是一個永遠難以說清楚的事情。
盡管感知力難以界定，但赫德爾也明確指出，“雷蒙恩提出的問題也並不是像很多人說的那樣不值一駁。撇開意識不談，一些由此產生的道德問題幾乎和機器產生意識同樣嚴重。”赫德爾表示。
人類如何與AI相處？
其實，圍繞AI感知力的爭論多是學院的研究話題和科幻作品的靈感來源，現實中的AI研究目標則要實際得多。
“目前大多數研究工作並不是試圖製造有感知或有意識的AI，而是希望計算機在學習複雜問題上做得更好，更可靠地幫助人們處理實際問題，”
倫敦大學學院名譽教授彼得 本特利（Peter J. Bentley）通過郵件對《每日經濟新聞》記者表示。自 1997
年以來，本特利一直在從事有關進化計算、人工生命、群體智能、人工免疫係統、人工神經網絡和其他類型仿生計算的相關研究。
環顧現實世界，智能對話是目前AI領域應用最廣泛的技術之一。從亞馬遜（AMZN，股價107.67美元，市值1.10萬億美元）的語音助手Alexa到蘋果（AAPL，股價135.43美元，市值2.19萬億美元）的Siri，在現實生活中我們對這類技術已經不陌生。同時，AI在語言翻譯、智慧辦公、自動駕駛、生物醫藥等領域也有深入應用。
值得一提的是，穀歌旗下的DeepMind是AI生物醫藥領域的明星公司。DeepMind將機器學習和係統神經科學最先進技術結合起來，在預測蛋白質結構這一生物學難題上取得了長足進步，將人類蛋白質組預測範圍覆蓋到了98.5%。由於幾乎所有疾病都與蛋白質的結構和功能息息相關，DeepMind的成就將給藥物設計帶來巨大的推動作用。此外，今年以來，多家跨國醫藥巨頭都在人工智能領域建立了合作夥伴關係。
在AI展示出廣闊的應用前景之時，其帶來的挑戰也不容忽視。赫德爾認為，這些挑戰並非技術上的硬件算力問題，而更多的是人類與AI如何相處的問題。
在赫德爾看來，AI對社會的首要衝擊是爭奪人類的工作機會，正如工業革命讓許多農民流離失所一樣。被AI取代的人是否還能像前幾次技術革命後那樣找到其他工作，這一切仍是未定之數。
另一個問題是設計和使用AI的監管和倫理問題，比如自動駕駛模式下行駛的汽車導致行人死亡，責任人是汽車設計方還是操作方？隨著AI越來越多地取代人類的行動，我們對責任與義務等問題的觀念或許需要重新界定。
赫德爾認為，這涉及到人工智能的道德地位問題：“它們”是人還是機器？還是介乎之間？未來人類應該如何看待“它們”？
對此，本特利表達了自己的擔憂，他表示，當人類對AI使用大量的訓練數據時，人類個體可能會不經意地訓練AI產生偏見——這可能意味著它會成為種族主義者或者性別歧視者，也可能也會學習淫穢語言。所以，我們必須對教給AI的東西非常小心，就像在學校教我們的孩子一樣。
迪特裏希在回複《每日經濟新聞》記者的郵件中提出了一個有趣的觀點，他認為，人類在對待人工智能上，應將“感知和自我”的意識和“自主和獨立”的意識分開，人類可以創造有感知能力和“自我意識”的人工智能係統，但AI係統不應擁有“自主和獨立”的意識。例如，智能汽車和智能醫療設備可以具備感知能力和自我意識，以便它們知道何時“自己”出現了故障並與人類合作。
“但是這些係統除了我們為它們設定的目的之外，並沒有它們自己的動機或目標。沒有‘自主和獨立’的意識，它們就不會像科幻電影中的機器人那樣反抗人類和尋求自由。”
迪特裏希進一步解釋道。
當前，立法機構已經開始注意到這些問題。比如，歐盟的人工智能法律框架就要求像LaMDA這樣的聊天係統必須被明確標記為機器人，給予使用者充分的知情權。特斯拉（TSLA，股價699.00美元，市值7241.7億美元）的自動駕駛技術盡管比較先進，但在法律上仍被視為駕駛輔助係統，駕駛員在任何時候都有責任。
迪特裏希也在這個問題上給出了一些基本原則。他認為，首先，人類絕對不能製造可以完全獨立操作、具有攻擊人類能力的AI武器係統。在對電力和供水這類關鍵性基礎設施進行AI自動化時也必須慎之又慎，因為這些自動係統一旦出現錯誤將嚴重擾亂社會秩序。此外，AI自動生成內容的技術在社交媒體領域也十分危險，因為操縱人們相信虛假內容、製造社會分裂是十分容易的。
針對未來人工智能與人類的關係，迪特裏希認為，“我們對AI的行為期望類似於對寵物的期望。我們教狗不要咬人，如果它們咬人，狗主人要承擔責任。”
談及對AI的預期時，本特利也以寵物作了類比，他在回複《每日經濟新聞》記者采訪時表示，“目前來看我們的人工智能還沒有擁有寵物貓狗的智商和權利，但是，當有一天它們真的變得像貓貓狗狗一樣了，我們是否應該賦予他們‘生存權’和適當的社會權利？如今在英國有不同的組織來防止虐待動物、兒童和人。未來我們是否需要一個防止‘虐待人工智能’的組織?
“有一天，我們可能需要回答這些問題。但幸運的是，不是今天。”本特利說。