《宇視》編(bian)者按:科(ke)幻作(zuo)家劉慈欣關于人工智(zhi)能(neng)的文章,這(zhe)也是他為《智(zhi)能(neng)革(ge)命》所做序言,標題為編(bian)者所擬
這是(shi)一本(ben)論述人工(gong)智能(neng)的書(shu),在這里首先討論一個書(shu)中可(ke)能(neng)不涉(she)及(ji),但很(hen)基本(ben)的問(wen)題:人工(gong)智能(neng)的定義。
目前(qian)廣(guang)為人(ren)知的(de)(de)定(ding)(ding)義是圖靈測試,但這只(zhi)能(neng)被看作一(yi)種泛(fan)泛(fan)的(de)(de)描述,并不是嚴(yan)格和精(jing)確(que)(que)的(de)(de)定(ding)(ding)義。比如(ru),參與測試的(de)(de)人(ren)是什(shen)么樣的(de)(de)人(ren)?向機器提出的(de)(de)問題是什(shen)么?這些問題都不明確(que)(que)。
上溯歷史,我們(men)(men)發現人工(gong)智能的(de)概(gai)念與(yu)自(zi)動化(hua)有著(zhu)密(mi)切的(de)關系,可以說自(zi)動化(hua)是這個(ge)概(gai)念的(de)起源。在(zai)過去相當長的(de)一段時間里,在(zai)人們(men)(men)的(de)心目中,自(zi)動化(hua)就是人工(gong)智能。
其(qi)實,人類制造和使(shi)用(yong)自(zi)動化(hua)裝置(zhi)的時間比(bi)我們想象得要(yao)早,遠(yuan)在電氣時代之前,蒸(zheng)汽機上就(jiu)有(you)自(zi)動調節蒸(zheng)汽流量的裝置(zhi),在更早的16 世紀,伊麗莎白女王的宮廷里(li)首次使(shi)用(yong)的抽水馬桶(tong)也是自(zi)動化(hua)裝置(zhi),如果(guo)向前追溯,肯(ken)定還有(you)更早的例子。
自(zi)動化大(da)批(pi)量出(chu)現(xian)是(shi)在電(dian)氣時代,先是(shi)由模擬電(dian)路實現(xian)自(zi)動化,后來(lai)電(dian)子(zi)管(guan)被晶體管(guan)所代替(ti),再后來(lai)出(chu)現(xian)了集成(cheng)電(dian)路,由日益復雜的軟件所驅動。今天(tian),我(wo)們在生活(huo)中要與無數的自(zi)動化系統(tong)打(da)交道,比如電(dian)子(zi)商務系統(tong)、網(wang)上(shang)銀行(xing)系統(tong)和網(wang)上(shang)購(gou)票(piao)系統(tong)等。
毋庸置疑(yi),自動化(hua)系(xi)統表(biao)現出了相當多的(de)智能特征,像網上銀行這類系(xi)統處(chu)理著(zhu)相當復雜的(de)業(ye)務(wu),其(qi)效率和精準度已高(gao)于人(ren)類雇員。
即(ji)使(shi)是抽水馬桶這樣最簡(jian)單的系(xi)統,也表現出(chu)一定的智能(neng)(neng)(neng)行(xing)為,它(ta)能(neng)(neng)(neng)夠感知水箱(xiang)的水位,適時(shi)開啟和關閉給水閥門,這事(shi)它(ta)做得(de)與人(ren)類一樣好。但(dan)從抽水馬桶到網上(shang)銀行(xing),我們都(dou)不把它(ta)們看(kan)作是人(ren)工智能(neng)(neng)(neng)。
筆者曾經(jing)編(bian)寫過一個(ge)寫現(xian)代詩(shi)的(de)軟件(jian),現(xian)在還在網上(shang)流行;而(er)目前(qian)網上(shang)其他比較完美的(de)自動作詩(shi)軟件(jian),所(suo)寫出的(de)中國古典詩(shi)詞很難(nan)與人類所(suo)作的(de)詩(shi)詞區分開(kai)來(lai)。另(ling)外,近(jin)年(nian)來(lai)已(yi)經(jing)有不(bu)止一個(ge)系統在不(bu)同的(de)實驗室(shi)環境(jing)下通(tong)過了圖靈測試。但這(zhe)一切,我們都(dou)不(bu)把它們看成心目中的(de)人工智能,為什么?
筆者在20 世(shi)紀80 年(nian)代最早參與開發的(de)工(gong)業(ye)監(jian)控系統(tong)是以(yi)Z80 處理器為核心(xin)的(de),用匯(hui)編(bian)語言編(bian)程。這個(ge)系統(tong)能(neng)夠監(jian)測(ce)上(shang)百個(ge)機組參數(shu),并根據參數(shu)的(de)變化做出適當的(de)調(diao)節(jie),其功(gong)能(neng)是人(ren)工(gong)無(wu)法(fa)實現的(de)。但在我(wo)們的(de)眼中它也(ye)完(wan)全不(bu)是人(ren)工(gong)智能(neng)。
匯(hui)編語言的(de)(de)特點就是透明性,它要在硬件(jian)層次手把手地(di)教機器(qi)做(zuo)每一(yi)步操作(zuo),比如(ru)把數(shu)據從(cong)這個存(cun)儲器(qi)送往(wang)那個存(cun)儲器(qi),中斷的(de)(de)調(diao)用和返回等都(dou)一(yi)一(yi)寫明,所(suo)以當我從(cong)外(wai)部看(kan)到(dao)系(xi)統的(de)(de)動作(zuo)時(shi),腦中立刻(ke)有一(yi)幅明晰的(de)(de)流程圖(tu),立刻(ke)能知道哪幾(ji)條指令被執行了。所(suo)以在我看(kan)來(lai),這個監控系(xi)統與抽水馬桶(tong)沒有本(ben)質的(de)(de)區別。
現在那(nei)些更復雜的(de)系統,如網上銀行(xing)和(he)電子商(shang)務,這(zhe)(zhe)些軟(ruan)件的(de)編制者一定清楚所有的(de)內部操作(zuo)流程,他們知(zhi)(zhi)道(dao)系統的(de)每一步操作(zuo)在軟(ruan)件中是(shi)(shi)如何進行(xing)的(de),這(zhe)(zhe)同(tong)樣也是(shi)(shi)抽水馬桶更復雜的(de)版本。至于那(nei)些電子詩人和(he)通過圖(tu)靈測試的(de)系統也一樣,程序員(yuan)(yuan)清楚地知(zhi)(zhi)道(dao)它(ta)們是(shi)(shi)如何根據邏輯樹檢索數據庫(ku),然后組合出(chu)詩和(he)答案的(de),所以(yi)至少程序員(yuan)(yuan)知(zhi)(zhi)道(dao)這(zhe)(zhe)不是(shi)(shi)智能。
當我們意(yi)識到房(fang)間中那些忙(mang)碌查找(zhao)卡片(pian)的(de)人(ren)時,智能的(de)感覺就蕩然(ran)無存了。
現(xian)(xian)在我(wo)們(men)認(ren)為擁有(you)人工智(zhi)能(neng)的(de)(de)那些系統,比如,進化算(suan)法和(he)深度學習等,都有(you)一個共同特點(dian):它們(men)都或多或少地表現(xian)(xian)出了黑箱的(de)(de)特點(dian),雖然從(cong)理論上它們(men)內部(bu)的(de)(de)運算(suan)步驟仍然可以追蹤,但由于計算(suan)量的(de)(de)巨大,使這種追蹤實際上很困難甚至不可能(neng)。于是,我(wo)們(men)真的(de)(de)感覺它們(men)有(you)智(zhi)能(neng)了。
到這里,我們(men)仍然無法得出(chu)人工智(zhi)能(neng)的(de)準確定義,但能(neng)夠看到它(ta)的(de)一(yi)個重(zhong)要特點:一(yi)個具有(you)智(zhi)能(neng)特性(xing)的(de)人造系統,它(ta)產生、輸(shu)出(chu)的(de)內部的(de)運算(suan)過程是(shi)人類智(zhi)能(neng)所無法解析的(de)。換句話(hua)說,只有(you)我們(men)不知道機器在想什么、怎么想時,才(cai)認為(wei)它(ta)有(you)智(zhi)能(neng)。
看到(dao)這一點(dian),每個人的心中應該都生出一股(gu)隱隱的寒意。是否人工智能的本質中,就隱含著它(ta)們最終失(shi)控的可(ke)能性?
這(zhe)正(zheng)是(shi)目前(qian)人(ren)們對(dui)人(ren)工(gong)(gong)智(zhi)(zhi)能關注的熱(re)點(dian)(dian),用馬斯克的話來說,人(ren)工(gong)(gong)智(zhi)(zhi)能正(zheng)變成比核彈更危險(xian)的東西。媒體(ti)輿論給(gei)人(ren)一個印(yin)象,似乎機(ji)器的征途已經開始,人(ren)工(gong)(gong)智(zhi)(zhi)能征服(fu)世界指日可待。本(ben)書(shu)最后一章(zhang)也(ye)顯現了這(zhe)種擔憂(you)。庫茲維爾甚至在《奇點(dian)(dian)臨(lin)近》中給(gei)出了人(ren)工(gong)(gong)智(zhi)(zhi)能紀元到來的具(ju)體(ti)年份:2045 年。那(nei)時,現在讀這(zhe)本(ben)書(shu)的人(ren)有(you)2/3 還活著。
但(dan)理智地考察目前(qian)人(ren)(ren)工智能領(ling)域的(de)(de)狀況,我(wo)們(men)就能發現(xian)(xian)智力遠(yuan)超人(ren)(ren)類(lei)的(de)(de)“強人(ren)(ren)工智能”仍然(ran)屬于科(ke)幻(huan)(huan)的(de)(de)范疇。公眾喜(xi)歡從科(ke)幻(huan)(huan)的(de)(de)角度看問題(ti),比起平常的(de)(de)現(xian)(xian)實,科(ke)幻(huan)(huan)確實能讓(rang)人(ren)(ren)興奮,任何從現(xian)(xian)實出(chu)發所(suo)進行的(de)(de)理智的(de)(de)預測都被斥為(wei)保守和沒(mei)有想象(xiang)力。但(dan)筆者(zhe)作為(wei)科(ke)幻(huan)(huan)作家卻只能說,與大家通常的(de)(de)印(yin)象(xiang)不同(tong),科(ke)幻(huan)(huan)小說中的(de)(de)預言(yan)真正(zheng)變(bian)為(wei)現(xian)(xian)實的(de)(de)是(shi)少數,大部(bu)分預言(yan)要(yao)變(bian)為(wei)現(xian)(xian)實仍然(ran)遙遙無期。
人們的(de)潛意識中都認為,只(zhi)要在(zai)理論(lun)上(shang)有可能(neng)(neng)突(tu)破的(de)技(ji)術障礙,在(zai)未來就一定能(neng)(neng)夠被突(tu)破,但事實并非如(ru)此。在(zai)人工智能(neng)(neng)方面(mian),“強人工智能(neng)(neng)”的(de)實現面(mian)對著(zhu)許多巨大的(de)技(ji)術障礙,如(ru)非馮·諾依曼體(ti)系的(de)新結(jie)構計算機、對人類思維機制(zhi)的(de)深刻認識等,現在(zai)都無法確(que)知(zhi)最終能(neng)(neng)否取得突(tu)破。另外一些看(kan)似有希望的(de)技(ji)術,如(ru)量子計算等,距實用還相去甚遠。
所以,在(zai)對人工智能進行科學幻想的同時(shi),我們(men)更需要(yao)關注即將面(mian)對的“近未來(lai)”,這也正是本書重(zhong)點討論(lun)的話題。
人工智(zhi)(zhi)能(neng)近年來(lai)發展的(de)(de)(de)趨勢是(shi)開始走(zou)出實驗室,進入人類生(sheng)活,用一位互聯(lian)網(wang)大佬的(de)(de)(de)話來(lai)說,它們(men)變(bian)得能(neng)用了(le)。這樣我們(men)就面對著一個即將到來(lai)的(de)(de)(de)挑(tiao)戰:人工智(zhi)(zhi)能(neng)不會(hui)奪走(zou)我們(men)的(de)(de)(de)自由和生(sheng)命(ming),但會(hui)奪走(zou)我們(men)的(de)(de)(de)飯碗,這不需(xu)要(yao)人工智(zhi)(zhi)能(neng)的(de)(de)(de)失控(kong),它們(men)可以在資(zi)本家的(de)(de)(de)完(wan)全控(kong)制下做成這件事。
有學者認為不(bu)必為這(zhe)件事擔憂(you),他(ta)們回顧工(gong)業(ye)化(hua)的(de)(de)歷史,在20 世紀初,美國有50% 的(de)(de)農業(ye)人(ren)口,但隨著農業(ye)機(ji)械(xie)化(hua),現在的(de)(de)農業(ye)人(ren)口降到4%,而(er)城(cheng)市(shi)化(hua)吸收了多余的(de)(de)農民。但眼前發(fa)生的(de)(de)事情(qing)是不(bu)同的(de)(de),當(dang)人(ren)工(gong)智(zhi)能大(da)規(gui)模(mo)進(jin)入社會(hui)后,人(ren)類(lei)能做(zuo)的(de)(de)工(gong)作(zuo)它們大(da)部分都可以做(zuo),城(cheng)市(shi)不(bu)會(hui)再有更(geng)多的(de)(de)就業(ye)崗(gang)位留給人(ren)類(lei)。
通行的(de)(de)美好說法是,人(ren)們(men)在常(chang)規(gui)工(gong)作中(zhong)(zhong)被人(ren)工(gong)智能(neng)取代后,可以去(qu)從(cong)事(shi)創造(zao)性(xing)的(de)(de)工(gong)作。問題(ti)是創造(zao)性(xing)的(de)(de)工(gong)作不是人(ren)人(ren)都可以從(cong)事(shi)的(de)(de),也不需要(yao)那么多的(de)(de)人(ren),如果(guo)社會分(fen)配制(zhi)度不改(gai)變,一個全部(bu)(bu)由科(ke)學(xue)家(jia)(jia)和(he)藝(yi)術(shu)(shu)家(jia)(jia)構(gou)成(cheng)的(de)(de)人(ren)類世(shi)界幾乎是一場噩夢,這上百億科(ke)學(xue)家(jia)(jia)和(he)藝(yi)術(shu)(shu)家(jia)(jia)中(zhong)(zhong)的(de)(de)絕大部(bu)(bu)分(fen)注定一生碌(liu)碌(liu)無(wu)為,對社會和(he)自己都毫無(wu)用處,且淪入(ru)“創造(zao)性(xing)”的(de)(de)窮(qiong)困(kun)潦倒中(zhong)(zhong)。
但這種思維方(fang)式總有(you)些不(bu)對的(de)(de)(de)地方(fang)。人(ren)類自(zi)古以(yi)來(lai)為(wei)生存而勞作(zuo),實在是(shi)迫不(bu)得已,工作(zuo)著(zhu)是(shi)美麗(li)的(de)(de)(de),但誰都知道,不(bu)需(xu)要工作(zuo)的(de)(de)(de)生活更美麗(li)。現在終于能夠制造(zao)出把自(zi)己從工作(zuo)重負中解放出來(lai)的(de)(de)(de)機器,這是(shi)人(ren)類文明(ming)最偉大的(de)(de)(de)成就(jiu),無(wu)論(lun)如何不(bu)應該被看作(zuo)一場(chang)災難,相反,這可能是(shi)人(ren)類所面對的(de)(de)(de)前所未(wei)有(you)的(de)(de)(de)偉大機遇,只是(shi),我們需(xu)要改變。
如何完成由(you)現代社會(hui)向(xiang)人工智能社會(hui)的(de)過渡?有兩種可能。
一(yi)種可(ke)能(neng)(neng)十分黑暗:在現有的(de)社(she)會(hui)、經(jing)濟和政(zheng)治體制下,人(ren)工(gong)智能(neng)(neng)帶來的(de)問(wen)題(ti)幾(ji)乎(hu)是無解的(de)。在人(ren)工(gong)智能(neng)(neng)迅速(su)取代人(ren)類的(de)過程(cheng)中,沒有及時建立(li)起與之相適(shi)應的(de)社(she)會(hui)體制,在席(xi)卷(juan)全(quan)球的(de)失業(ye)浪潮(chao)之下,世界的(de)政(zheng)治和經(jing)濟將(jiang)陷入長久的(de)混(hun)亂(luan)之中,一(yi)切都(dou)籠罩在人(ren)工(gong)智能(neng)(neng)及其使(shi)用者與“新(xin)盧德派”領導的(de)大眾的(de)無休止的(de)沖突中。
另一種可能是,社(she)會成功(gong)地(di)完成轉型。這(zhe)將是有史以來人(ren)類生活方式(shi)最大的(de)一次改(gai)變。
不勞動者不得食,這個理念(nian)是人類(lei)社會的(de)(de)基(ji)(ji)石。文明(ming)誕(dan)生以來(lai)經(jing)歷過多次巨大(da)變革,這一基(ji)(ji)石從未改變,但人工智能(neng)可(ke)能(neng)會移除這一基(ji)(ji)石,進而導致從所(suo)有制(zhi)和(he)分配制(zhi)度,到(dao)基(ji)(ji)本(ben)的(de)(de)經(jing)濟結構,再到(dao)政治(zhi)體制(zhi),直到(dao)文化,都發生根本(ben)的(de)(de)變化。這是真正的(de)(de)人類(lei)解放,是向著(zhu)古(gu)老的(de)(de)烏托(tuo)邦理想邁進的(de)(de)一大(da)步。
2016 年是(shi)《烏托邦》發表500 周年,但(dan)托馬(ma)斯·莫爾無論如何不會想到,他(ta)的理想會借助于(yu)智(zhi)能機器實現。我(wo)很有興趣地(di)想,如果卡(ka)爾·馬(ma)克思知道人工智(zhi)能這回事,他(ta)關于(yu)資(zi)本(ben)主(zhu)義和(he)共產(chan)主(zhu)義的理論會是(shi)什么樣子?
想象人工(gong)智能(neng)時代的社會和生活是(shi)困難(nan)的,即使在科(ke)幻小說中,我(wo)們(men)(men)也只能(neng)把種(zhong)種(zhong)可(ke)能(neng)性(xing)排(pai)列出來,而哪種(zhong)可(ke)能(neng)性(xing)最有可(ke)能(neng)成(cheng)為現實,取決(jue)于我(wo)們(men)(men)的努(nu)力(li)和選擇。但不管(guan)怎么說,那是(shi)一個誘人的時代,我(wo)們(men)(men)正向它走去。