→ 左岸讀書,一如既往。

為什么害怕人工智能?

2016-03-15 . 閱讀: 1,905 views

今天,看到Clark在上一篇文章后面的評論,很有喜感:

從今天起,對我的電腦好一點,擦灰,打蠟,關心電壓,關心內存,我有一臺電腦,面朝大海,春暖花開……
明天李世石再輸給阿爾法狗的話,就得考慮以后AI掌權的時候咋混了,所以從現在起就做個親電腦派,好好伺候主子,為主子鞠躬盡瘁、奉獻身心,爭當優秀鏟屎官(沒屎可鏟不是我的錯),以后在AI眼里成為一個良民。
世界潮流,浩浩蕩蕩;順之者昌,逆之者亡……

大家預測一下,今天這一局誰會贏呢?

對人工智能,我取積極的態度,人類不能因為害怕機器的智能而禁錮自己對智慧的開發。特分享古雴的這篇文章。

文/古雴

AlphaGo與李世乭的圍棋大戰正在進行,人工智能以3:0獲勝,還剩兩把榮譽之戰(目前是3:1),但結局基本沒什么懸念了。

無論最終的比分如何,這場比賽的歷史意義是毋庸置疑的了。

這場比賽的的意義主要是象征性的,事實上,既然AlphaGo在去年已經打敗了圍棋歐洲冠軍,證明了其棋力達到了職業圍棋選手的水準,那么它全面戰勝人類也就只是一個時間問題了。當然,或許我們也可以說,從當年的深藍稱霸國際象棋開始,人工智能攻占圍棋也就只是“時間問題”了。

但在當時,即便是對人工智能技術持樂觀態度的人,都沒有料到這個“時間”竟如此短暫。很多人以為這一天起碼要等幾十年、上百年,甚至也有一些人相信這一天永遠不會到來。而AlphaGo的第一大意義就在于,展示了人工智能技術發展的驚人“速度”。

人工智能向來也是科技哲學家的熱門話題,德雷福斯批判人工智能的名著《計算機不能做什么》更是現象學技術哲學的經典名著。事實上這本書中涉及了許多深刻的思想,問題在于哲學家們往往過于托大,試圖對技術的發展提出一些定論和預言,這就容易被打臉。德雷福斯的臉就基本被打腫了,雖然如果他能夠把書名改成《計算機為什么難以做這些》,就會好得多。

我個人對于人工智能技術的發展前景持有相對樂觀的態度,但我也無意于提出任何預言,人工智能是否能夠實現以及何時以何種方式實現,這是技術專家們的問題,而哲學家的問題的恰當提法是:人工智能意味著什么?

討論人工智能的意義,并不必須設定人工智能注定能實現。這就好比我們可以討論上帝和天國的意義,討論烏托邦和共產主義的意義,而并不必定要相信它們。

“人工智能為什么讓人害怕”是一個不錯的問題,當然有許多人根本不害怕,其中一部分是因為堅信強人工智能不可能實現,另一部分人則相信人工智能的發展只會造福人類,沒有什么可怕的。

這兩種態度都有些天真。首先,人工智能技術不斷發展的趨勢幾乎已經成為必然,也許像“天網”那樣最終反客為主、統治人類的局面不會成為現實,但在更多的情況下,人工智能的“實現”是一個進行時,而不是一個完成時,人工智能已然正在不斷實現之中了。其次,即便你相信人工智能的結果一定是會造福人類的,也不代表它不可怕,我們可以說火器的發展是好事,但不代表你不應該害怕火槍,你可以說原子能總體上是造福人類的,但不代表你不必害怕原子彈和核泄漏。樂觀是一回事,無知是另一回事。無知者才能無畏,新技術也許是能夠造福人類,但前提是人類能夠理解和承受其危險,對其可怕之處避而不談,甚至把一切流露出警惕態度的人斥為愚昧,這才是更大的愚昧。

技術的發展和科學史有類似的結構(這是我希望進一步闡發的觀點),并不是一味地擁抱革新就是好事,因循守舊并非總是壞事。不能因為人工智能技術的發展是大勢所趨,就放棄了警醒和反思。

20160315

技術史同時也是觀念史,每一項技術變革都牽涉到或大或小的觀念變革,人工智能當然也不例外。顧名思義,人工智能牽涉到的核心概念是“人工”與“智能”這兩個概念,而這兩個概念恰恰關乎人的自我理解。

我們一般會認為,人類之所以在萬物中獨領風騷,無外乎“心靈手巧”,即大腦和雙手。腦與手在許多情況下是統一的,人類憑借智慧的大腦去理解萬物,然后用靈巧的雙手去控制和改造萬物。特別是在科學與技術互相推動的現代,科技的膨脹同時也讓人的自信心和優越感大大膨脹了,人們仿佛覺得自己可以改天換地、無所不能。

但智慧與力量在人工智能這里出現了“矛盾”——智慧的人類能否用自己的雙手創造出超越自己的智慧?這個問題幾乎是一種褻瀆,就好比在問:全能的上帝能否創造出凌駕于自己的存在?

“制造出凌駕于自己的存在”,這恰恰是人類技術史最初和最終的追求。技術是人的“延伸”,任何技術都是對人的某種能力的外化、固化和強化。

錘子是拳頭的延伸,用錘子砸東西當然比用拳頭砸更有力,這并沒有什么奇怪的,或者說這正是所謂“技術”的應有之義。當然,技術的發達反過來會讓我們的身體機能退化或貶低,例如兵器越發展,肉搏的能力就越退化,靠蠻力肉搏要么被貶低為野蠻落后,要么變成藝術或游戲,而不再實用。

技術的這種外化和固化的特征呈現出某種矛盾——一方面技術的發展無疑是增強和擴展了人類的能力,但另一方面,由于這種增強往往由外在于人體的技術器物所承載,那么一旦剝奪了人類對這些“外物”的依賴,那么也可以說技術的發展是削弱和貶抑了人類的能力。

那么技術之于人類,究竟是增強還是削弱,是膨脹還是貶抑呢?柏拉圖在討論“書寫損害記憶”的時候,這個難題就已經被擺在了哲學家面前,直到今天,這個問題反而日益尖銳了。

文字、兵器之類,這些古老的技術就已然有了一定的獨立性,也就是說,它們除了被人支配之外,還有某種“不以人的意志為轉移”的慣性。所以秦始皇會去焚書坑儒,會去收繳天下兵器鑄造銅人。因為這些書籍和兵器只要流傳于世,就具有某種力量。雖然這些力量最終總要通過具體的操作者的意志才能發揮出來,然而這些操作者的意志在某種意義上也正是由這些技術物所促成的。

當然,這些古代技術的“獨立性”并不顯著,因為它們畢竟還需要人去操控,否則就是一堆死物。當然技術物的力量未必需要在活動時才能發揮,比如城墻、建筑、墓碑等等,它們只是放在那里不動就在導引乃至支配著人類的行為和觀念,躺在地窖里的原子彈更是左右著全球的秩序。但是畢竟在一般人眼里,這些器物相對于人類而言始終是“被動”的。

什么時候開始計數器物獲得了一定的“主動性”呢?最具標志性的就是機械技術的發展。從較早的水車、風車等等,到中世紀晚期的機械鐘,一直到蒸汽機、紡織機和工廠流水線。這些機械的新特點是,除了上發條、添加原料或能源等環節之外,機械在正常運作的過程中是相對獨立的,它們脫離于人,按照自己的節奏自行運轉。

在紡織機和流水線中,人類的參與仍是一個必要的環節,但在這些機械活動中,人類所扮演的不是操作者,而是動力源(馬克思所謂工業革命的關鍵)。在工廠流水線之類的大型機械聯動運轉的流程下,人類所扮演的并不是充滿智慧的創造者,反而比機器更機器,像牲畜一樣出賣勞力,像機械一樣單調重復(馬克思所謂人之異化),也正是從這個時候開始,對技術的恐懼和抵觸態度也日益顯著了起來。

啟蒙思想家提出了“人是機器”的主張,這一主張合理不合理姑且不論,但這一主張的提出首先暗示了這一實情——“機器像人”。人們未必是因為對于人體結構的細致分析而得到人是機器的信念,相反,人們更多地是基于對機器的經驗,從機器中發現了人的形象,這才得到了人是機器的結論。機械不再是一堆死物,技術逐漸“活”了起來。

從動物到人類的智能經歷了漫長的演化,然而技術物從自動機械到人工智能的發展似乎非常迅速,這是因為技術的演化不只是通過盲目的“自然選擇”,更是從一開始就不斷灌注著人類的智慧。

每一項技術物在外化或延伸了某一項人體技能的同時,也固化或者說凝聚了某一套人類的智慧。比如一把簡單的錘子,它的構造不僅能夠放大人的力量,也蘊含了如何把握、控制,如何發力等等的一系列智慧,以及牽涉到關于釘子和修繕活動等方面的智慧,還包括關于鐵和木頭等材質之特性的智慧……人們把方方面面的智慧“打包封裝”在每一個技術器物之內。

當技術運作起來的時候,既是力量的展現,同時也是智慧的展現。但技術展現的是誰的力量,又是誰的智慧呢?

人們似乎更容易接受:“力量”是歸功于技術本身的。比如一個瘦弱的女孩可以用散彈槍打死一個強壯的摔跤手,我們會感嘆散彈槍的威力強大,而不會說這個女孩本人力量很大。然而當我們談到“智慧”時,卻總是拒絕把它歸功于技術器物。

一個隨時可以查閱印刷書的人可以表現得比一個孤立無援的老學究更加博學,我們會認為他借助了別人的智慧。我們仍然拒絕認為印刷書本身是有智慧的,而只是說其他人可以通過印刷書傳遞智慧。

一件器物中匯聚和凝結的往往不只是一個人的智慧,比如對于一架鋼琴,工匠懂得如何制造,但不需要懂得如何演奏,演奏家卻未必懂得調音,調音師也未必懂得欣賞樂曲。由工廠流水線生產出來的各種復雜的現代技術物更是如此,一輛汽車的成功運轉依賴于幾乎整個現代工業體系的各個環節協同貢獻。

因此,在技術物中凝聚和展現的,并不是某一個或幾個具體的人的智慧,而只能勉強說,技術是“人類的”智慧的結晶。

然而,個體的屬性和全體的屬性往往不能混為一談,我們未必總是能用相同的范疇去涵蓋它們。例如我們可以用磚瓦組成房屋,但談論磚瓦的形狀和談論房屋的形狀是兩碼事;人體由細胞組成,但談論人體的壽命和談論個別細胞的壽命是兩碼事。那么談論所謂“人類的智慧”,和談論具體個人的智慧還是一回事嗎?

制造技術物的智慧、選取和運用技術物的智慧,與通過技術物的運轉展示出的智慧,似乎也是不同層面的范疇。

如果說,一個老學究展示其博聞強記的能力時,展現的是“他的”智慧;而我借助工具書或搜索引擎展示同樣的博學時,展現的是否是“我的”智慧呢?注意到善于檢索本身也是一種實踐智慧,假如把我所仰賴的技術工具同時也分給老眼昏花的老學究用,他也未必能展示出更多的智慧。所以說,當我借助谷歌展示博學時,也的確展示了“我的”智慧,然而這種智慧似乎與老學究所展示的智慧屬于不同的層面。那么,如果說這些博學的信息根本就不再需要一個善于檢索的人運用自己的技巧來呈現,谷歌本身就能夠像一個老學究一樣聽取他人的求教,幫人答疑解惑,那么,在這一過程中所展現的智慧究竟是誰的智慧呢?

我們硬要說這是“人類的”智慧,但老學究博學的知識難道不也都來自其他人的積累嗎?只是他通過常年的學習,把無數人智慧匯聚在自己的頭腦中,出版商則把無數人的智慧匯聚到印刷書中,而谷歌則把無數人的智慧匯聚到數據庫里。我們非要說,只有這些“人類的智慧”通過老學究的腦與嘴表達出來的時候,它們可以被歸為老學究的智慧,而當同樣的東西通過谷歌的數據庫和顯示屏表達出來的時候,卻為何不能說它們是谷歌的智慧?

無數人積累了各種知識;老學究學習并記住了許多知識;我認識老學究并善于和他交流;當我的小伙伴向我出了一個難題時,我向老學究求助從而得到了明智的解答。——這一系列事情中,每一個環節都涉及不同層面的“智慧”,但另一方面,每一個環節的主角都有可能被機器取代,那么憑什么不能把相應層面的智慧歸功于機器呢?

技術是人類能力的延伸和凝結,這里所說的既包括體能,也包括智能,如果我們能夠把力量歸功于技術,那么也應該把智力歸功于技術。

“人工智能”在某種意義上就是一句廢話,所謂“技術”,無非就是“人工智能”,也就是說,“凝聚為人工物的智能”,這種“凝聚”已然改變了“智慧”的歸屬。比如說當無數人的智慧匯聚在老學究的頭腦中時,表現出的就是屬于老學究的智慧,當老學究幫助我們解決疑難時,我們首先感激和夸贊的顯然是老學究的智慧,而不是去談老學究的父母和老師們,更不是在談所謂“人類的智慧”。在技術器物中凝聚的智慧,表現出來時,理應也歸功于技術器物,至少頭功該屬于它。

在希臘人那里,智慧、勇敢、公正和節制并列,被理解為人的“德性”之一,但“德性”一詞本來就不是人類的專利,古代漢語中“道”、“性”、“善”等都包括一般事物,希臘人的“德性”最初也是談論的某種事物的特性、品質、功能之類,比如奔跑是馬的德性。

奔跑是馬的特長之一,但獵豹、羚羊、長跑運動員等等,許多其它事物也同樣可以擅長奔跑。智慧是人的德性之一,但一定專屬于人嗎?

馬在速度上勝過了人,而火車又勝過了馬,人們都沒有感到屈辱,但為什么機器在智慧上勝過人就讓人失去“尊嚴”了呢?

這似乎是某種報應循環。當人類技術發明的力量超越動物和自然的時候,人們信心膨脹,自以為征服自然、凌駕萬物。正是因為把傲慢自大當作所謂“尊嚴”,這才會在人類的霸權地位可能動搖時感到尊嚴受損。

當然,很多人也許會指責我概念混淆,因為“智能”和一般的力量、速度等能力不同,似乎牽涉到“心靈”或者說“自我意識”的存在,因此對于一個沒有自我意識的事物,是不能擁有智能的。但這其實是另一個問題,事實上我們能夠確定有“自我意識”的,只有“我”一個人,至于他人也有心靈,這本來就是靠同情的推斷,我們是先看到他人表現出與我相似的“智能”行為,才認為他人擁有與我相似的心靈。而不是說我們先需要識別他人是否有心靈,然后才能談論他人是否表現出智能。對于他人心靈的問題,只有這種偏向行為主義的理解是合理的,“心靈”本身是看不到的,我們只是把“心靈”認作一系列行為的最終負責者而設定出來。

電腦的形式和質料與人腦有極大差異,但這些差異本身并不能先驗地否定電腦可以被認作有心靈的。比如一個植物人的腦結構也許與我們差不多,但鑒于他再也無法表現出任何有意識的行為,我們可以說他已經沒有自我意識了。而假定有外星人造訪,在我們能夠敲開他們腦殼研究清楚其結構之前,我們恐怕就早該以他們擁有智能和意識為前提與他們打交道了。

外星人我們恐怕是碰不到的,然而人工智能卻已經近在眼前。“圖靈測試”早已不是高不可攀的圣杯,而是在許多意義上早已實現了。現在的電腦已經能夠在許多具體的場景下模仿人類,讓人無法分辨。例如在5分鐘內扮作一個13歲的男孩,又比如扮演在線客服,扮演棋手等等。在哲學家中,塞爾的“中文屋”思想實驗是少數值得認真對待的質疑,但它和我們在這里談論的問題沒有太多關系——人工智能究竟有沒有“心靈”與他們是否可怕沒有關系。

“中文屋”暗示出來的一個關鍵問題是:當我們可以把“意識”的過程外在化地把握時,當這種過程失去了內在性,也就是失去了神秘性時,我們便傾向于認為這種意識是虛擬的。比如當這個人之所以表現出“懂中文”,依靠的是外在的可見的可把握的行為——查詞典——的時候,我們會以為他是假懂,但如果他之所以“懂中文”是依靠著大腦內部的一些特定區域,而這些區域的運作機制仍然晦暗不明,也沒辦法外在化,在個人之外滯留和復制,那么我們就以為他是真懂。事實上,諷刺的是,恰恰是當我們搞“不懂”他如何“懂”時,我們才相信他是真“懂”。

而人工智能或計算機的意識過程從一開始就是外在化的,是可見的、可把握的,于是我們能搞懂它為何顯得懂,于是我們認為它是假懂。

暫且不深究上述邏輯是否合理,可怕的是,關于人工智能的“為何能懂XX”的機制,人們也開始搞不太懂了。這是基于“神經網絡”的新一代人工智能模式的特點,機器開始變得能夠自主學習,而不是照搬人類預先制定的框架。

比如谷歌的人工智能已經能從幾千萬張圖片中“學會”了對“貓”的辨識。這不同于以往的人臉識別之類,以往是人類程序員編制好如何識別的完整程序,制定好何謂人臉的標準,讓電腦去“按圖索驥”。最后機器自己形成了貓的“概念”,用程序員預先并不知道的方式去辨認貓。(既然機器能夠自發地形成貓的概念,那么它能否自發地形成“自我”的概念呢?我認為這有可能,但非常困難,有機會我再專門討論“自我”概念的特殊性。但“天網”即便沒有自我意識也照樣可以支配人類,就好比工廠流水線已然可以支配工人那樣。)

這也是這次的AlphaGo與以往的深藍之類的人工智能相比的關鍵改進,現在不再需要人類去預先編制好應當如何下棋的程序,而是讓計算機自己在無數棋譜和無數實戰中自行總結出怎樣下棋的策略。理論上說,設計AlphaGo的程序員根本不需要擅長下圍棋,甚至可以連圍棋的基本規則都不知道,就像讓電腦在無數圖片中學會辨認出貓那樣,讓電腦自己去發現圍棋的奧妙。這次的AlphaGo還沒有完全從零開始學習(據說之后會這么做),但計算機已然表現出許多超出人們理解的方面,可怕之處不在于AlphaGo贏了,更在于人們開始不知道它究竟憑什么贏的。它的許多走法都超出了所有人類高手的判斷。

如果說深藍戰勝卡斯帕羅夫時,我們說電腦的優勢無非是計算速度,那么現在,AlphaGo卻是在那些傳統上人們引以為傲的方面擊潰了人類對手。比如所謂的直覺、大局觀、創造性等等。一開始李世乭還試圖用打破刻板定式的新奇走法擾亂電腦的陣腳,然而結果發現電腦才是更善于打破定式的一方。

人的智能包括許多能力,比如推理、想象、判斷、表達等等,但其中最核心和最重要的一點,恐怕就是“學習”,如果說工業革命的關鍵突破在于“工具機”的興起(馬克思指出工具機取代了人直接作用于勞動對象),在“操作”的環節讓機器取代了人,那么現在的這一場信息技術革命或者說人工智能的關鍵突破恐怕就在于“深度學習”的興起,也就是在“學習”這一環節,機器開始也取代人。從此我們再不能把機器看作“機械的”,或者說只會刻板地重復人類預先設定的套路,相反,機器將在打破成規方面走在人類前面。

從此以后圖靈測試將變得越來越無關緊要,因為圖靈測試無非還是說如何讓機器模仿人類,但事實上機器大可以比人類更加高明,根本不需要通過模仿人類來形成智能,而是可以繞過人類,不需要以人類為榜樣,直接從事物那里學習,用自己的方式發展智能。也許到什么時候,讓機器參與圖靈測試來模仿人類,就好比讓人類去模仿一條狗那樣無趣。

在圍棋方面或許已然如此了,在前幾年,我們可以難以分辨某個棋手是一個業余人類選手,還是一個人工智能。但在今年之后,我們又可以分辨了,機器的高明而非笨拙反而成了機器和人類的差距。

先寫到這里吧,談得有點亂,以后再慢慢整理吧。人工智能是我寫作技術通史一定要涉及的東西,因為它是整部技術史的“終點”,也體現出人與技術之間最深刻的統一性和悖謬性,更能夠貼合我自己的“外化”、“學會”等關鍵思路。

原文地址:http://yilinhut.com/2016/03/13/5592.html

左岸

愛讀書,愛生活!

澳洲f1赛车b盘开奖套路 福彩30选五走势图 河北快三从哪买 11选5黑龙江 南京麻将比赛规则 重庆福彩快乐10分和值走势图 3d试机号走势图 上海天天彩 老鹰vs灰熊林书豪视频 广西快乐双彩开奖 北京pk10免费全 黑龙江p62玩法 李嘉诚教你一个月理财 湖北快3综合走势 十一选五怎么玩赢钱 大发pk10全跳最准计划 今晚20选五开奖结果