專家談人機(jī)圍棋大戰(zhàn)：技術(shù)群體戰(zhàn)勝了天賦個人

 

記者劉功虎

 

連日來，“阿爾法圍棋”（AlphaGo）與韓國棋手李世石的圍棋人機(jī)大戰(zhàn)，引起全世界“圍觀”。截至13日，4場較量，前3場“阿爾法圍棋”連勝，第4場李世石扳回一城。五局系列賽，勝負(fù)已分。

 

人機(jī)圍棋大戰(zhàn)，應(yīng)如何看待輸贏？人工智能最終會向何處去？人類最具顛覆性的技術(shù)發(fā)展到底是人工智能，還是其他？13日，中山大學(xué)人機(jī)互聯(lián)實(shí)驗(yàn)室主任翟振明接受長江日報記者專訪，談他眼中的“人機(jī)大戰(zhàn)”。

 

阿爾法圍棋讓一些人感受到了危機(jī)

 

讀+：人機(jī)對決，反響熱烈，有人為之興奮，有人焦慮。你怎么看這種輸贏？

 

翟振明：“阿爾法圍棋”橫掃李世石，或者二者互有輸贏，我不覺得有什么特別的不同。無論如何，我們都可以說，人工智能博弈領(lǐng)域的技術(shù)取得了長足進(jìn)步。

 

但對一些人來說，也許這意味著某種危機(jī)的開始。機(jī)器人可能接管腦力勞動。他們感覺到了分分鐘被淘汰的危險。

 

其實(shí)人類的價值，并不在于多么會干活，體力或腦力勞動都是為了解決我們自己給自己設(shè)定的任務(wù)。有了這種設(shè)定，才知道什么是該干的活，什么是有效勞動。下棋一類智力活動，屬于高級游戲活動，有工具之外的意義。這場人機(jī)大賽，讓一部分人們感覺到一種自我認(rèn)同上的危機(jī)，產(chǎn)生了將被機(jī)器人淘汰的焦慮。

 

在我看來，強(qiáng)大智能機(jī)器的發(fā)明，你說是了不起的里程碑也可以，但這并不是人工智能技術(shù)的斷裂性突破。

 

讀+：是否可以認(rèn)為，這種人機(jī)大戰(zhàn)，人設(shè)計(jì)的機(jī)器戰(zhàn)勝真人棋手，實(shí)際還是人和人之間的大戰(zhàn)？

 

翟振明：這說法還算靠譜。但是我不太想用戰(zhàn)爭隱喻來刻畫這個事件。換句話說，這只說明了，在單一的抽象博弈智能方面，技術(shù)群體戰(zhàn)勝了天賦極高的自然個體。

 

機(jī)器沒有獨(dú)立的意志。最終說來，“輸”與“贏”的說法，都是我們?nèi)祟悊畏矫娴耐渡?，與機(jī)器“自己”無關(guān)。“阿爾法圍棋”根本就沒有所謂的“自己”。沒有獨(dú)立的意志，怎么和人發(fā)生“大戰(zhàn)”呢？

 

讀+：一個流行的說法是，“最可怕的不是‘阿爾法圍棋’戰(zhàn)勝李世石，而在于它能贏卻故意輸?shù)?rdquo;。對此你怎么看？

 

翟振明：這話雖然原本只是玩笑，但其內(nèi)涵可以非常深刻，涉及到人們常說的“強(qiáng)人工智能”與“弱人工智能”的根本差別的問題。什么叫“故意”輸?shù)簦?ldquo;阿爾法圍棋”并沒有自我意識啊，沒有自由意志啊，如何談得上“故意”？“故意”可是一種截然不同的能力，是強(qiáng)人工智能技術(shù)所追求的境界。目前還見不到端倪。

 

人工智能屬于漸進(jìn)發(fā)展的常規(guī)技術(shù)

 

讀+：難道“阿爾法圍棋”系統(tǒng)就沒有什么值得夸耀的地方？

 

翟振明：當(dāng)然有。首先，這里比較容易引起混亂的是所謂“阿爾法圍棋”已經(jīng)獲得“學(xué)習(xí)功能”的說法。其實(shí)，這是基于一種模仿人腦神經(jīng)元的網(wǎng)狀連接結(jié)構(gòu)的軟件運(yùn)行時的符號累積迭代過程。這種神經(jīng)網(wǎng)絡(luò)算法裝在高速計(jì)算機(jī)上，使得這個機(jī)器棋手可以永不疲倦地練習(xí)對弈，所有人類“棋圣”合起來的練棋次數(shù)與之相比都只是零頭。

 

再加上巨大數(shù)據(jù)庫和無與倫比的推演速度，絲毫不受情緒影響的“阿爾法圍棋”不贏才怪。在我看來，人工智能到現(xiàn)在才開始贏倒有點(diǎn)兒難以理解。畢竟，美國科學(xué)家首次提出神經(jīng)元網(wǎng)絡(luò)數(shù)學(xué)模型至今已經(jīng)70多年。

 

與當(dāng)年擊敗世界國際象棋冠軍的深藍(lán)不同，基于“阿爾法圍棋”同種原理的人工智能系統(tǒng)，可以學(xué)習(xí)把握醫(yī)療數(shù)據(jù)，掌握治療方法，幫助人們解除病痛。它可以讓人類從純功利性質(zhì)的腦力勞動中解放出來，給我們的生活帶來極大便利。“深度心智”團(tuán)隊(duì)的新目標(biāo)，據(jù)說是開發(fā)出可以從零開始的參與所有博弈競賽的通用學(xué)習(xí)型人工智能。

 

讀+：比起人腦，“阿爾法圍棋”最大的缺陷是什么？

 

翟振明：“阿爾法圍棋”表現(xiàn)出了強(qiáng)大的計(jì)算功能，但與人相比，它沒有感官系統(tǒng)、沒有主體可體驗(yàn)內(nèi)容、沒有主觀意向、沒有情緒涌動。“阿爾法圍棋”或類似的人工智能系統(tǒng)再強(qiáng)大，也是在馮諾依曼框架下的改進(jìn)。沒有超出這個框架，也就只能是工具型的沒有第一人稱世界的機(jī)器。

 

讀+：為什么那么多人關(guān)注這次人機(jī)對決？

 

翟振明：關(guān)注可以，但是沒有必要過于興奮或焦慮。至于人們這次空前的關(guān)注度，是否可以這樣理解，就像一百年前小說家講述的科學(xué)怪人“弗蘭肯斯坦”那樣，他創(chuàng)造了怪物，最后自己又被怪物控制。這故事確實(shí)讓我們覺得，與一般的自然災(zāi)難相比，我們?nèi)祟悤栽旃治锒?ldquo;失控”，回過頭來對付我們，的確讓人懊惱。

 

但是，目前這種人工智能，再怎么自動學(xué)習(xí)、自我改善，都不會有“征服”的意志，也不會有“利益”訴求和“權(quán)利”意識。在我看來，當(dāng)前，無論從緊迫性上看，還是從終極可能性上看，人工智能問題都屬常規(guī)性問題，并且是漸進(jìn)呈現(xiàn)的，我們不必過于興奮或擔(dān)憂。我們有更值得擔(dān)心、警醒、緊迫的事情要去做。

 

“強(qiáng)人工智能”才有人格，可視為人類后代

 

讀+：人類因自造怪物而“失控”，甚至被消滅——在你看來，這份警醒是多余的？

 

翟振明：這種擔(dān)心可以理解，但是并沒有理性根據(jù)。我們要看到，所有的人造機(jī)器，包括“阿爾法圍棋”，都是在某些方面的能力高于人類。這本來就是人造機(jī)器的目的，很正常。在現(xiàn)有條件下，它不會失控，即使以后真的失控，也與我們對飛機(jī)、高鐵、大壩之類的失控屬同類性質(zhì)。

 

“阿爾法圍棋”具有的說到底仍是一種工具能力，是那種“弱人工智能”。這種“弱人工智能”很可能通過圖靈測試，但與人的意向性及主體感受能力不相干。

 

讀+：什么樣的人工智能才是根本性的突破？

 

翟振明：“強(qiáng)人工智能”相對“弱人工智能”，聽起來好像只有程度強(qiáng)弱，實(shí)際存在其間的是一條鴻溝。所謂“強(qiáng)”，指的是超越工具型智能，達(dá)到第一人稱主體世界，意向性、命題態(tài)度、愛恨情感乃至自由意志統(tǒng)統(tǒng)發(fā)生。

 

很多科學(xué)家和哲學(xué)家認(rèn)為，按照現(xiàn)在這種思路來搞人工智能，搞出來的東西不可能有自我意識和意志。按照量子力學(xué)的基本構(gòu)架來進(jìn)行，倒有點(diǎn)可能。

 

最近，美國量子物理學(xué)家斯塔普、英國物理學(xué)家彭羅斯、美國基因工程科學(xué)家蘭策都提出了人類意識的量子假設(shè)，中國清華大學(xué)副校長施一公院士、中科大副校長潘建偉院士等也大膽猜測，人類智能的底層機(jī)理就是量子效應(yīng)。對于這個問題，我?guī)资昵熬烷_始探索研究，同樣的看法日漸增強(qiáng)。

 

“強(qiáng)人工智能”實(shí)現(xiàn)以后，這種造物就不能被當(dāng)作純粹的工具，因?yàn)樗鼈兙哂腥烁窠Y(jié)構(gòu)，人類成員所擁有的權(quán)利地位、道德地位、社會尊嚴(yán)等等，他們應(yīng)該平等擁有。與我們平起平坐的具有獨(dú)立人格的“機(jī)器人”，還是機(jī)器人嗎？

 

不是了！這才是真正的突破。

 

讀+：“強(qiáng)人工智能”會不會與人類對抗，最終毀滅人類？

 

翟振明：要理解這種擔(dān)憂的實(shí)質(zhì)，我們需要好好反思：我們對人工智能的敵對情懷究竟從何而來？我們設(shè)計(jì)制造了這種新型主體，不就等于以新的途徑創(chuàng)生了我們自身的后代嗎？長江后浪推前浪、青出于藍(lán)而勝于藍(lán)，人類過往的歷史不都是這樣的、或至少是我們所希望是的嗎？一旦做到了，為何又恐懼了呢？

 

就算真的有“征服”發(fā)生，那也是新人類征服了舊人類，而不是人類的末日。對新技術(shù)可能引發(fā)的后果，我們切忌葉公好龍。

 

讀+：你說的更值得擔(dān)心和警醒、更加緊迫的事情，是指什么？

 

翟振明：今年被很多人稱為“虛擬現(xiàn)實(shí)元年”。不出幾年，我們都會見證虛擬現(xiàn)實(shí)的驚人威力和魅力，你們大伙準(zhǔn)備好了沒有??？

 

三問“虛擬現(xiàn)實(shí)”

 

什么是“虛擬現(xiàn)實(shí)”

 

記者劉功虎

 

翟振明：你看過電影《王牌特工》吧，英國頂尖的特工分布于世界各地，他們要湊到一起開會怎么辦？不用每個人都飛去倫敦，一人戴副眼鏡，就可以湊到一間“會議室”里開會，如同身臨其境。

 

微信的領(lǐng)頭人張小龍不經(jīng)意說過，“希望五年后大家開會不用出門，戴上一副眼鏡，全都和在現(xiàn)場一模一樣”。到時候，我們的微信群就不是一個頭像、一個昵稱湊一起了，而是共同進(jìn)入一個與現(xiàn)實(shí)世界無可分別的虛擬會所，面對面互動交流。

 

我弄的人機(jī)互聯(lián)實(shí)驗(yàn)室在6樓，你戴上我改裝過的頭盔，再加上其他輔助器件，開著一輛電瓶車，就可以無縫穿越到北京?；氐綇V州，回到我所在的大樓，你自己先覺得在1樓，可以和現(xiàn)實(shí)中的保安打招呼。轉(zhuǎn)悠一會，回到6樓，摘下頭盔一看，還是實(shí)驗(yàn)室。

 

物聯(lián)網(wǎng)建成后，會有很多彼此分離的人機(jī)互動界面被連成一體，虛擬現(xiàn)實(shí)將成為擴(kuò)展的現(xiàn)實(shí)。

 

要不了多少年，全世界共同進(jìn)入網(wǎng)絡(luò)化的虛擬世界。我之所以認(rèn)為它比別的高科技更重要，更值得重視，因?yàn)樗鼘⑼耆嵏踩祟惖纳钚螒B(tài)和實(shí)質(zhì)。可以說：人工智能是讓人類生活的勞作性內(nèi)容越來越少，而虛擬現(xiàn)實(shí)、擴(kuò)展現(xiàn)實(shí)是讓人類生存生活的創(chuàng)造性意義大規(guī)模擴(kuò)充。

 

翟振明：如果“機(jī)器人”有真愛的能力，就不再是“機(jī)器”，而是“人”。既然是人與人之間的情感，就不存在顛覆性，按人類既有的倫理道德對待就行了。

 

我所提到的“虛擬現(xiàn)實(shí)”，是人與人之間的空間距離關(guān)系被完全打亂重整，人際交往的物理障礙幾乎全都不復(fù)存在，而人的非工具性的創(chuàng)造力的發(fā)揮有了極大的空間。人工智能貌似是我們把機(jī)器變成“都教授”，而虛擬現(xiàn)實(shí)是把我們自己變成神仙。

 

“虛擬現(xiàn)實(shí)”將引發(fā)人類的倫理觀念的巨大變革。黑客帝國不是虛構(gòu)，就要降臨到我們的日常生活中，這些似乎馬上就要發(fā)生了。虛擬世界將是我們現(xiàn)實(shí)生活的翻倍，并與真實(shí)生活糾纏不清。它將完全改變每個人的生活方式、生活觀念，改變?nèi)俗陨?。這是全新的、徹底的技術(shù)革命。如果說人類曾經(jīng)是被造物主創(chuàng)造出來的，那么虛擬現(xiàn)實(shí)則是由人一手創(chuàng)造的。人將充當(dāng)虛擬世界的造物主，制定其全部的游戲規(guī)則和倫理體系。

 

虛擬現(xiàn)實(shí)是純?nèi)斯?gòu)建、創(chuàng)立的世界，我們當(dāng)然要事先預(yù)想、防范可能出現(xiàn)的侵犯人的尊嚴(yán)和權(quán)利的問題。比如說國界問題，把主從機(jī)器人、物聯(lián)網(wǎng)整在一起后，假設(shè)你的自然身體在中國，但在美國訂了一個替身，并連接上了。就像電影《阿凡達(dá)》看到的那樣，你在這里一動，它在美國同時做一樣的動作。到時候，你這個人算是出國了沒有？你到底是在中國，還是在美國？你如果指揮你的替身在美國殺了人，那么算誰殺的？法律上怎么定義你在哪里，又怎么定義“你”？該由哪個政府部門管轄？所以構(gòu)建虛擬現(xiàn)實(shí)的倫理秩序非常重要。

 

另外，總有一些權(quán)力欲、控制欲爆棚的人，他們很可能把人及其虛擬替身變成物聯(lián)網(wǎng)的附屬，服務(wù)他們的權(quán)力意志。擴(kuò)展的虛擬現(xiàn)實(shí)如果向這個方向發(fā)展，將是人類的災(zāi)難。所以我們要未雨綢繆。

 

翟振明：可以發(fā)揮作用，也可以不依賴它。作為人類的便捷工具，人類當(dāng)然不排斥用它在擴(kuò)展現(xiàn)實(shí)中做一些復(fù)雜而枯燥重復(fù)的工作，并且結(jié)合大數(shù)據(jù)，可以在人不上線的時候冒充在線與其他人繼續(xù)交流。

 

也就是說，在虛擬世界里也可以有數(shù)碼版的機(jī)器人，我將其稱為“人偶”。但這種“弱人工智能”不是虛擬現(xiàn)實(shí)的主要元素。如果虛擬現(xiàn)實(shí)進(jìn)一步與物聯(lián)網(wǎng)整合成“擴(kuò)展現(xiàn)實(shí)”，主從機(jī)器人被大量部署，人們在虛擬世界中就可以完成幾乎所有工具性的體力和腦力勞動。但是，主從機(jī)器人，基本上屬于無智能的機(jī)器人。

 

等到量子計(jì)算機(jī)進(jìn)入實(shí)用階段，也許“強(qiáng)人工智能”時代就到了，那又是另一番景象啦，我們的想象力現(xiàn)時也許都達(dá)不到呢。到時，我們的后裔還會下圍棋嗎？“阿爾法圍棋”將真的會像搖尾巴的寵物狗一樣吧。

 

“虛擬現(xiàn)實(shí)”會引發(fā)倫理問題嗎

 

玩穿越的哲學(xué)家

 

記者劉功虎

 

【人物】

 

翟振明在國內(nèi)學(xué)理工科，在美國改學(xué)哲學(xué)，主攻英美倫理學(xué)、現(xiàn)象學(xué)、認(rèn)知哲學(xué)和政治哲學(xué)，持續(xù)關(guān)注“虛擬現(xiàn)實(shí)”技術(shù)領(lǐng)域的進(jìn)展。獲哲學(xué)博士學(xué)位后在美國多所大學(xué)任教，還兼職寫過軟件代碼。

 

1998年他出版探討虛擬現(xiàn)實(shí)技術(shù)和哲學(xué)的英文專著，在多個領(lǐng)域產(chǎn)生影響。書中思想實(shí)驗(yàn)派生出來的技術(shù)已獲專利一項(xiàng)，另有16項(xiàng)正在申報中。翟振明自2000年任中山大學(xué)哲學(xué)系教授。他治學(xué)的特點(diǎn)是追求原創(chuàng)和系統(tǒng)性，以問題導(dǎo)向?yàn)橹行模也痪心嘤谡軐W(xué)學(xué)科的內(nèi)部分野。

 

近年，他利用學(xué)校?？睿?dú)立創(chuàng)建一間“人機(jī)互聯(lián)實(shí)驗(yàn)室”，把人和機(jī)器連接起來，利用特制的硬件和軟件，隨時可以體驗(yàn)“穿越”的感覺。他的實(shí)驗(yàn)室通過了沙盤測試，目前正在升級改造中。

 

翟振明熱心科普，從事藝術(shù)創(chuàng)作，與網(wǎng)友互動頻繁。他在理論方面的貢獻(xiàn)，加上對虛擬現(xiàn)實(shí)技術(shù)的熱心實(shí)踐，讓他得到了騰訊、天涯等公司的支持。

 

人工智能在“虛擬現(xiàn)實(shí)”可發(fā)揮作用嗎

 

翟振明 本人供圖