(資料圖片僅供參考)

小心

AI 陷阱

最近，劉慈欣在直播時透露，自己實在沒時間，所以參加科幻大會時用 ChatGPT 寫了一兩篇發言稿。

劉慈欣表示，ChatGPT 寫得也還挺不錯的。

此前劉慈欣發表了一篇題為《科幻文學中的可持續未來》的演講，用科幻的視角解讀了一個截然不同的人類未來。

何為科幻視角？從距地球 60 億公里的太空之上，回望這顆比塵埃還小，卻又承載了和我們有關的一切的星球，即為科幻視角。

在演講結束后，劉慈欣談到了以 ChatGPT 為代表的人工智能可能會給人們帶來的影響。

2015 年，劉慈欣曾在一次采訪中引用了霍金的觀點，霍金曾預言「人工智能比核彈還危險，人類馬上就要被人工智能控制」，當時的他認為這個說法有點危言聳聽。

而現在，他認為我們是時候對未來有所警覺。

劃重點

1. 人工智能會首先取代高智能的職業，這與我們的預測相反

2.人工智能可以自我迭代出更高智能的版本，但我們的算力限制它的發展

3.人工智能或許會讓人類陷入舒適的陷阱之中

Q：現在 ChatGPT 橫空出世，被人們熱烈地討論，您覺得人工智能的發展對人類的命運會產生一個什么樣的影響？那自我迭代的人工智能有沒有可能會取代或者說消滅人類？

我覺得這（人工智能的影響）應該從這個現實或近未來和比較遠的未來這兩點來看待。

從我們近未來或甚至從我們現實來看，人工智能它對我們社會世界的影響我相信大家已經都看到了，它現在已經產生一個很明顯的趨勢：（人工智能）有可能在代替我們人去從事很多的工作。

這個應該說是一個正面的趨勢，這種趨勢它可以提高我們的生活質量、提升人類的幸福感，讓我們的生活在科技的加持之下可能變得更加舒適。

但是另一方面我們也不能不正視，人工智能的發展給人類社會帶來的沖擊。

首先，最明顯的一點是人工智能可能會代替相當多的「人的工作」，而且這個趨勢與我們以前的預測正好相反。

以前我們預測認為人工智能首先代替的是那些簡單勞動、重復勞動的那樣的工作，但是現在看來正好相反，人工智能可能首先代替的是那些需要高智能的、很高的教育程度的那樣的工作，比如像醫生、教師、股票經紀人等等這些工作可能是被首先代替的。這其中可能也包括我們作家也可能首先被代替的。

所以說人工智能對于人類的整個世界的發展來，它的影響很深遠。我們再往層次再高一些的話，人工智能可能會對我們世界中相當多的比較基礎的東西可能會產生重大的影響。

比如它會對文化藝術、文學，對這個人的創造力，對人的對世界的認識等等可能都會產生重大的影響，甚至可能讓這一些東西都會被重新定義。

當這個人工智能現在已經開始介入到我們的科學研究之中，介入到我們對整個世界規律、對自然規律的認識之中，介入到對人類發展規律的認識之中，它可能產生的影響十分的深遠。

當初人工智能在圍棋領域戰勝很多優秀的圍棋選手的時候，有一位我們國內最出色的圍棋選手說了一句話，讓我印象很深刻。

他說中國的圍棋博大精深，有兩三千年的歷史，積累了深厚的這個理論和經驗，甚至圍棋本身成為一種文化，具有了很深的禪意，但是就在這一夜之間，我們發現它的一切全是錯的。

這一個說法確實很令人震驚，這件事情會不會發生在別的領域我們不知道，如果廣泛發生的話，那么人工智能對人類文化文明最深層的影響我們是不可忽視的。

下面我回答您的第二個問題，就是說人工智能是否會把這個會消滅人類，這也應該分兩個層次來回答。

第一個層次就是這種字面意義上的消滅，就是人工智能用某種暴力從肉體上完全消滅人類或是統治世界。

這一點從目前的這個技術發展趨勢來看，特別是從目前的技術水平來看，在可以看到的未來可能性不是太大。

當然您剛才提到一個很有意思的概念叫迭代。人工智能的迭代，這是目前人工智能最可能出現危險的一個行為。

這個行為是什么呢？就是說當人工智能按我們現在的發展，它比人類的智能稍稍高一些的話，它自己也會像人類一樣去創造新的人工智能，它創造出來的這個新人工智能可能比它的智能也稍微高一點，那么它又會接著迭代下一代，這樣的話他們就會很快的把這些人工智能的智能水平提高到很高。

可能迭代下去，會提高到人類（智能）的幾百倍甚至上萬倍。

而它而由于它的這個計算機的計算時間比這個人腦人的大腦要快成千上萬倍，那么這個迭代的時間可能十分的短，據推測可能只有半個小時到一個小時。

就說我們把人工智能發展到現在用了一個世紀的時間，而人工智能百倍于現在的這個程度，可能只用半個小時到一個小時，這是很可怕的一件事。

但是做出這個預測的人忘了一點，就是我們人類的計算能力，我們所能提供的算力是有限的。它的迭代到一定程度，我們的算力不（能夠）支持它。

所以這就是一個有很諷刺意義的一件事情：我們人類的無能反而成為我們一個最后的屏障。所以您說的這這種毀滅不太可能。

那么第二種消滅則是一種我們想不到的一種方式，就是說第一種消滅人類是完全違背人類意愿的，而第二種對人類的消滅可能完全符合我們的意義。

比如說人工智能的發展，我剛才說過它可能會代替我們的這個大量的工作，而我們的社會如果適應了與人工智能的這種共存，我們發展出一種新的這種分配制度，那么我們就可能帶來一個十分舒適的那種社會環境和十分舒適的生活。大部分人可能不需要工作，把大部分的工作都交給人工智能來進行。

在這種情況下，我們會越來越多地交出自己對社會運作的操作這種權利給到人工智能。

而生活會變得越來越舒適，那么這個樣子下去的話，我們可能面臨著人類歷史上前所未有的一個巨大的陷阱。

就是說在這個科技的這種安樂窩里面，那么人類文明的活力在哪里？我們的開拓精神在哪里？如果這樣一直發展下去的話，那可能人類最后的命運就是您說的被人工智能所消滅，但這個消滅的過程完全是在我們的意愿之內，而人工智能至始至終它沒有任何惡意，它只是照著人類的指示去行駛。

而這樣的如果真的發生這樣的事，那人工智能所需要的它的智能程度以及它所需要的計算能力遠遠小于我們前面那個真正的字面意義上的那種消滅。所以這確實是我們應該對未來有所警覺的一件事情。

劉慈欣演講全文整理

作為一種基于想象力的文學形式，科幻小說并不能夠對未來作出科學的預測，它只是描述未來的各種可能性，同時它也提供了一個看世界和看未來的獨特視角，這個視角與我們從現實看世界看未來的視角可能有很大的不同。

▲

科幻的視角是什么？大家可能都知道一張叫《暗淡藍點》的照片，我本來想把那個照片拿來的，但我覺得好像大家應該都看過那張照片，就沒有把它拿來放出來。

這可能是人類歷史上最重要也是最著名的照片之一，他是上個世紀 70 年代發射的旅行者 1 號宇宙探測器，在 90 年代初在距地球 60 億公里的太空中拍攝的。

初看上去整張照片它都是黑色的，很仔細看才能發現這一片黑色中有一個小小的亮點。它十分的小，就是僅有這張照片的 0.12 個像素那么大。如果不加以指示，你說觀看者是很難發現這個白點的。

有人形容它是太空中的一粒塵埃，其實是把它說的大了。按照比例計算，這個暗淡的小點放在宇宙中，它比地球大氣層中的一粒塵埃還要小很多個數量級，要小得多。這個亮點就是地球，人類世界的全部，和我們有關的一切，所有活著和曾經活過的人，所有曾經有過和正在進行歷史和生活，都在這里塵埃上面，這就是科幻的視角。

對于人類的發展和未來，這個視角與我們傳統的視角是有很大差異的。從這個視角去看，我們對人類社會的可持續發展會有一些新的感悟。

首先，目前可持續發展所依賴的基礎環境保護，阻止全球氣候變化、對資源開采的節約和節制、基于環保的綠色生活方式等等，其重要性是無需質疑的。在可以想見的未來，堅守并貫徹以上的理念是人類文明得以延續的基本保證。

但是從科幻的視角看，從 60 億公里外，看一看那個暗淡的藍點，我們就真切地感受到，人類世界在宇宙中是多么的渺小。

對于文明的發展，這樣一個小世界存在著天然的脆弱和不確定性。這些脆弱和不確定性極大地影響著人類可持續的未來。對發展的威脅，它很可能來自發展自身。世界正走在現代化的進程中。盡管近年來遇到了包括疫情、局部戰爭、國際社會分裂和對抗加劇這些挫折，但從長遠的大趨勢來看，現代化的進程不可遏制。

現有的不發達國家和地區全面達到西方的發展程度和生活水平并非遙不可及的事，而如果全世界都進入這樣的發展狀態，我們粗略估算一下，人類將需要 4 個半地球的資源。所以，要實現人類真正的可持續發展，我們必須找到另外 3 個半地球。

另外也是更重要的就是未來的不確定性還來自地球自然界本身。地球生態系統是一個極其復雜的系統，處于不斷的波動之中。

例如在漫長的地球歷史中，在地球的地質紀年中，大氣溫度上升或下降幾度，從這個地質紀年的尺度來看那是一件很平常的事。但是對于現代人類社會來說，卻可能是滅頂之災。

地球平均氣溫上升幾度，就會因冰川融化導致海平面全面上升至使沿海地區、沿海經濟區被淹沒，大量人口向內地遷移，進而造成世界經濟的混亂和崩潰。

而地球平均溫度下降幾度將導致全球農業體系的崩潰，是世界處于大饑荒之中。就在現在人們擔憂過量的碳排放導致氣溫上升時，卻很少有人注意到地球的下一個小冰期可能正在到來。在地球這樣一粒宇宙塵埃上，生態圈的長期的穩定，它只是一種幻覺而已。

為了應對未來的種種不確定性，人類社會將在政治、經濟和文化等方面作出不斷的努力。但這也是從我一個科幻作家的這個角度來看，我們最終所能依賴的力量還是來自于科技的進步。

首先，在地球的生態空間之內，技術的進步可以開發出全新的資源。在歷史上，煤炭、石油和核能取代了木材，合成材料取代了棉花和皮革。在未來，科技的進步能夠帶來更加高效和環保的能源，能夠從之前從未利用過的自然資源中產生出新的材料，能夠培育出適應各種氣候的高產農作物。

無論是在未來變化的地球環境中生存下去，還是努力阻止地球環境發生變化，都要借助科技的力量。如果從地球向外看，我們就看到了一條更為廣闊的發展之路。太陽系中有著巨量的資源，在八大行星上，在小行星帶中，人類生存和發展所需要的資源，從水到金屬，從有機物到核聚變材料到核聚變燃料應有盡有。

我們能夠從太陽系的太空中找到的遠不止 3 個半地球，按照地球最終可以養活 1000 億人口計算，那么太陽系中的資源總量可以養活 10 萬個地球的人口，一個人只有走出搖籃才能實現可持續的成長，而人類文明作為一個整體，要想擁有真正的可持續的未來，也必須走出地球這個搖籃。

否則的話，人類的未來就有可能像阿瑟克拉克在科幻小說《2001 太空奧德賽》中描述的那樣，在一片豐饒之中他們慢慢餓死。

這兩個方向的可持續發展都是以科學技術的不斷進步為基礎的，在這方面人們面對的現實并不是很樂觀的。我們現在所處的這個年份就是 2023 年，曾經無數次在科幻小說中出現。

對比一下以往的科幻小說中的 21 世紀 20 年代和我們現在已經變為現實的 2023 年，我們能有的也只是一聲嘆息。

在科幻小說中的 2023 年，地球的同步軌道上運行著宏偉的太空城，月球像地球的近鄰近郊一樣繁榮，在火星上已經建成多處人類知名城市，生活著數以百萬的人，在小行星帶進行著大規模的礦業開發。在木衛一的冰封海洋上，在海王星的軌道之外，都有人類開拓新世界的身影。太空航行已經普遍使用核動力飛船，擁有著現在的化學動力飛船所不可比擬的運載和續航能力。

在那個 2023 年，也就是在科幻小說中的 2023 年，他們所展望的 2023 年， 10 萬個地球正在誕生之中。談到可持續的未來，這應該是一幅符合邏輯的圖景，但在現實的 2023 年中，我們確實還看不到這幅圖景的影子。

在現實的 2023 年，唯一與科幻小說中對這個年份的想象相近的是信息技術的發展。在過去的 30 年，信息技術以遠超其他技術的速度越近，信息網絡已經滲透到人類社會的方方面面，全面而深刻地改變著我們的生活。

特別是近來人工智能開始有了取得突破的跡象，也引起了廣泛的關注。科幻小說中無數次描述過的 21 世紀強人工智能，它已經現出端倪。

但正是信息技術的快速發展，掩蓋了其他科技領域進步的緩慢，造成了科技全面飛速進步的一個假象。如果把科學發展產生的技術進步看成是一棵大樹的話，那么在今天，這棵樹上最容易夠得到的果實都已經被摘光。

科技進一步的發展和突破需要巨大的投入和長遠的規劃，而這一點在目前對可持續發展所持的理念上似乎并沒有被放到最重要的位置。

目前世界各國對于基礎科學研究和航天探索的資金的投入，只有對環境保護事業投入的 1/ 10?，F在對可持續發展的規劃是建立在環境保護、節約資源和建立綠色生活的基礎上。但要得到一個長遠的、真正可持續的未來，我們還需要更多的開拓精神和進取精神。

國際社會需要更長遠的發展規劃，需要對基礎研究和技術創新全力關注和投入。在這方面的很多事業可能只有大范圍的國際合作才能完成，聯合國無疑能夠在這方面發揮重要的作用。

科幻小說描述了未來的多種可能性，用想象力構建了無數個未來世界。他們色彩各異，形態萬千，但都有一個共同點，那里的科學技術已經發展到了很高的水平，借助于科技的力量，人類能夠為自己開拓更加廣闊的生存空間。這無數個想象世界中的一個將變為現實，成為我們的未來。

也許在那樣的世界中，人類仍然會面臨來自社會發展和大自然的更多的挑戰，我們也必須接受未來的挑戰，用發展來解決發展遇到的問題。最后，對于人類可持續的未來，引用科幻作家喬治威爾斯的一句話：

要么遍布宇宙，要么徹底滅亡。

謝謝大家，我的講話完了。

比爾·蓋茨：人生的第二次革命性時刻來了 | 深度長文

英特爾做了套「護眼」字體，現在就能免費下載 | Feel Good 周報

關鍵詞