2015年的第一個週末，一群人工智慧領域頂尖專家來到Puerto Rico參加一個很特別的私人會議。之所以特別，則是因為這次會議的主題。如今，不論人工智慧的發展對於人類發展是否有益，絕大多數討論都停留在非專業群體領域，缺少來自人工智慧領域的看法。而此次會議的組織者也很有意思，這是一家名為Future of Life Institute的智庫舉辦，該智庫由MIT宇宙學家Max Tegmark運營，Max Tegmark的名氣來自他曾經出版的一本書，他在書裡提出宇宙是一個數學結構的假設。而這個智庫的支持者，則站著Skype聯合創始人Tallinn、特斯拉 CEO 伊隆·馬斯克，他們當天也來到會場。
與會者們有兩大主張。第一個派別認為人類正在進行一次前所未有的嘗試。MIT經濟學家 Erik Brynjolfsson這樣說到：「我們正站在歷史變革的中途。」這些人還預測了機器全面超過人類的時間，他們給出的保守時間為2050年。
第二種主張相對來說更複雜，因為這一主張認為這種歷史性創新並不是件好事。知名的科技從業者不斷呼籲人類要關注AI帶來的威脅，這些人中不僅包括馬斯克、比爾·蓋茨這樣的企業家，還有科學家霍金，他最近公開指出：真正的人工智慧會導致人類滅絕，至於馬斯克，他曾在去年宣稱：人工智慧是人類召喚的惡魔。
機械人已然可以感知周圍世界並完成實際任務
作為會議組織者，Tegmark 要讓與會者勾勒出這個「惡魔」的模樣，以此讓更多科學家、企業家以及普通民眾重視起來。Brynjolfsson等經濟學家們認為，越來越聰明的機器將帶來人類新一輪失業浪潮，從而加劇人類的不平等。從學術和行業的角度出發，與會者們則詳細介紹了機器腦的發展情況，如今機器腦能夠理解和產生被稱之為「信仰」的概念；法律人士闡釋如何界定計算機在處理類似電車試驗時的法律挑戰。
周日傍晚的會議以牛津哲學家Nick Bostrom提出的「智慧爆炸」（即機器的能力會迅速的超越人類）為題，Tallinn回顧了他所投資的人工智慧公司DeepMind是如何指示演算法去玩雅達利的Breakout遊戲，這個遊戲的玩家需要用一個彈力球擊碎多排磚塊獲得積分。計算機程式並沒有球或彈板之類的概念，也並沒有得到如何贏得積分的解釋。然而，兩小時之內，計算機程式知道了遊戲的玩法；四小時之內，它就已經懂得了如何贏得遊戲——即利用彈力球在磚排中開一個隧道，從而很快從後面擊碎磚排。Tallinn認為這能讓我們瞥見了未來——它迷人又可怕。對於擔心人工智慧的人來說，每一次機器智慧的進步都會再次引發如何掌控它們的問題。
資本主義社會的生活經驗告訴我們，如果億萬富豪警示你的工作將引發道德問題時，那麼你所做的工作就是意義深遠的。不久後，馬斯克為研究院捐款1000萬美元用於人工智慧方面的研究，另外包括所有與會者在內的上千位人工智慧領域研究者，將簽署由Tegmark起草的、旨在保證智慧機器有益於社會的聲明。當我問到Tegmark這些問題為什麼突然變得如此緊要時，他說道：「人工智慧的運作已處於走出實驗室進入社會的階段了。」
機械人已然可以感知周圍世界並完成實際任務：無人駕駛汽車已經成為現實；而（機械人可以獨立為你準備菜餚的）全自動廚房也計劃將於2017年實現。社會機械人方面也有很多進展——機器已經能以接近人類的水準解釋其所見事物，我們也教他們理解人類表情背後的情緒，從而使它們可以模仿我們的經驗。
台下觀眾中，有些AI從業者在日常工作中苦於機器的缺陷，因此他們更傾向於認為進展是漸進的而非爆髮式的，對於他們來說臺上討論的警告顯得有點華而不實。在聽到Bostrom的觀點後，AAAI（美國人工智慧協會）會長、俄勒岡州立大學教授Tom Dietterich咕噥道：「演算法不是以這種方式運行的。」他之後告訴我說：「人們問我人與機器的關係是什麼，我給他們一個顯而易見的答案：機器就是我們的奴隸。」但是Dietterich還是簽署了Tegmark的公開信，並且在幾周後的AAAI年度大會上重點討論了機械人倫理。
你好，我是沃森，今天我們要做些什麼？
「機器是否可稱得上有社會性」之所以成其為一個問題，很大程度上來源於IBM的一個名叫沃森的智能機器。它是紐約州威斯特徹斯特縣北部IBM研究中心的一個研究小組花了近十年時間建造的成果。IBM的工程師們原打算要建造一個可以在電視智力競賽Jeopardy!中擊敗最強人類高手的人工智慧機械人——這需要掌握押韻、典故、雙關等語言的精妙之處。
沃森在2011年的勝利成為了人機戰爭中的一個裡程碑，而且自此後沃森繼續演進——它的思考變得更有創意、它的設計變得更有效，從而可以更準確的滿足我們的需求。
沃森目前已經接受了分子生物和金融領域的培訓，它還寫過一本烹飪書，也在石油勘探這一行「工作過」。現在，它正在學習如何幫助人們解決犯罪問題。早前，《連線》雜誌還預測道，沃森很快便會成為世界上最好的醫療診斷專家。按照IBM的說法，沃森也會被運用在17個國家的75個行業當中，使成千上萬的人可以在工作中使用沃森。沃森的這些經歷很好詮釋了時下人們對於人與機器探索的曖昧關係——既需要他們滿足人類需要，又給人類帶來恐慌。
全新的體驗所帶來的，不經意的，迷失般的靈光乍現，往往是通往哲理的不二法門。沃森的創造者，那些自它誕生以來就一直在從事這個項目的IBM工程師們，在談論他們的機器時，有著不同於Tegmark的觀點。工程師們看到的是一部體驗、技術提升與改進性失敗的編年史，就好像這個機器有它的自傳一樣。其中一些人會使用更私人化的詞語來形容他們和沃森之間的關係，他們將自己比作沃森的父母。
去年十月，IBM給這個項目搬了新家，這是一座位於紐約亞斯特坊廣場的辦公大樓。看起來，沃森的成長道路很像像：在郊區家庭環境中度過童年；接著上課，接受教育，為進入一個更複雜的世界做準備；然後為了賺錢，搬去曼哈頓東村，找一個東家。這也意味著，它有可能會像我在最近某個下午所做的那樣，離開辦公室，穿過曼哈頓區，乘電梯上樓，駐足在球場的螢幕前，注意到角落裡那個像一小堆硬盤的東西，並思索著人類在萬事萬物中的地位，然後聽到一個平靜的計算機聲音說，「你好，我是沃森，今天我們要做些什麼？」
「這種感覺很像是沃森自己長大，然後自己奮鬥成功。」
IBM在全球的僱員共有40萬人，它本身就是一個龐大的帝國。它的總部設在美國紐約州的阿蒙克市，研究中心設在約克敦海茨，這兩個地方都看似與創新中心——矽谷相隔十萬八千里。IBM研究院位於一座長長的拱形建築物內，由建築師埃羅·沙裡寧（Eero Saarinen）於半個世紀前設計修建。正如尚在施工的蘋果公司新總部大樓一樣，IBM研究院的建築也成為了這個烏托邦企業的符號和象徵。然而，它也是上個時代的古董，因為陳設和傢具都來自沙裡寧最初的設計，看起來更像一個修道院，而不像新潮的科技公司（大多數辦公室都是完全相同、沒有窗戶的隔間）。樓下陳設著許多獎章，紀念13位獲得諾貝爾獎的IBM科學家。一位名叫戴夫·費魯奇（Dave Ferrucci）的工程師告訴我：「這座大樓裡裝滿了歷史。而IBM的歷史，正是計算的歷史。」
沃森項目就開始於這裡。從一開始，它就屬於費魯奇。這是一位53歲的計算機科學家，來自布朗克斯區（紐約市最北端的一區）。從1994年，他在美國倫斯勒理工學院獲得博士學位起，就一直為IBM全職工作。他是一個可愛、健談、熱情的人——颳得短短的山羊鬍子，整齊的頭髮，有著外區（outer-boroughs，紐約市除曼哈頓外的其他四個行政區）特有的母音口音。在研究生期間，他曾開發了一個項目叫做Brutus，可以給它確定一個主題（比如，背叛），然後它就能自由發揮，原創出一篇小說。今天，費魯奇依然保留著那個項目的理想主義。他說：「語言就是聖杯，映射著我們看待世界的方式。」他指著自己的頭，繼續說：「是進入這裡的路。」
建造一台能贏得「危險邊緣（Jeopardy!）」遊戲的機器，是具有IBM特色的人工智慧研究方法，也是一記來自上個世紀90年代的清晰回聲——那時候，IBM的弈棋計算機「深藍」成功擊敗了國際象棋冠軍加里·卡斯帕羅夫（Garry Kasparov）。除了技巧之外，沃森項目的科學家還必須在費魯奇帶領下，衝鋒陷陣，佔領一個新的高地——語言。因為語言是和埃裡克斯·崔柏克（Alex Trebek，危險邊緣的主持人）溝通的唯一工具。
過去，為了把語言教給機器，程式員們會用數學的方式，逐字逐詞地把每個概念描述給機器——先用一個公式來解釋「大」和「小」，再用第二個公式解釋「昂貴」。這種方式對一個項目來說，簡直是天方夜譚。2007年，當費魯奇的團隊開始工作時，為了提高效率，他們利用了大數據和機器學習演算法。沃森不再需要那些線索背後的公式，而只需要依靠上下文的語義環境、接近度和統計模式，就像小孩子愛玩的Memory遊戲（譯者注：一種撲克牌配對遊戲）。
費魯奇的團隊上傳了一個巨大的文本數據庫，包括百科全書、網站和參考書，還開發了數百個程式，每一個用來仔細檢查線索的不同方面，並各自生成一個備選的答案，然後權衡和排序。比如說，符合「英國作家」和「埃文河畔斯特拉特福」的答案是什麼呢？用足夠多的程式，跑足夠多的文本，生成了一些候選答案，並讓核心演算法評估這些答案，很快你就能得到一個答案——威廉·莎士比亞。沃森項目的科學家約翰·普拉格（John Prager）解釋說：「準確性優化了，但理解力並沒有提高。」比如說，沃森能說出：「克裡特島是什麼？」「誰是莫里斯·舍瓦利耶？」然而，它卻無法理解，因為它不明白舍瓦利耶究竟是何方神聖。（譯者注：危險邊緣遊戲中，參賽者需要用問句來回答。上例中的兩個問句，都是沃森對問題的回答。這裡的意思是說，沃森懂得用問句來回答問題，但它並不理解這個問句的意思。）
沃森的確有著人工智慧的標誌：它能從經驗中學習。當它觀看「危險邊緣」的檔案片時，每當它對一個線索作出正確的回答，它就會牢牢記住面對此類問題，哪一個程式是值得信任的。沃森的工程師還教會它識別節目製作人所玩的語言遊戲。沃森學習了如何更好地從語法上分析每個線索。慢慢的，年復一年，它的反應變得越來越迅速，也越來越精準。到2010年，它的正確率與節目的總冠軍們已經相差無幾。一開始，沃森的反應速度相當慢，以至於工程師們都習慣於在飯前給它一個線索，然後讓它慢慢計算著，而自己去吃午飯。而現在，IBM的工程師們已經讓這個時間降到了三秒鐘。
結果證明，對於機器來說，語言是一個奇妙的、私密的空間。一旦進入了這個空間，沃森就可以仔細精讀「整個人文語料庫」，一位IBM科學家後來這樣告訴我。這是人類為彼此解釋而寫下的所有東西。沃森精讀了語料庫的所有內容，不帶任何成見和偏好。慢慢的，它逐漸諳熟于挖掘那些曾被人們趨之若鶩後又拋諸腦後的信息。
沃森就是人類失落知識的一聲迴響。與此同時，它也可以非常幼稚。在2010年的測試比賽中，它開始在每個以字母n結尾的答案後加上一個「d」的聲音——比如說，「什麼是巴基斯坦『的』？」它的口音聽起來就像那位激進的黑人思想家馬爾科姆。還有一次，沃森被問到第一位進入太空的女性是誰，它調皮地說：「神奇女俠是誰呢？」IBM的自然語言處理專家珍妮佛·楚-卡羅爾（Jennifer Chu-Carroll）說：「我真的很喜歡它這樣。」沃森同時也會犯那些小孩可能出現的錯誤，比如發錯新單詞的音，混淆現實和神話的界限，曲解成人沒法清楚表達的意思。
在「危險邊緣」的一期特別節目上，沃森終於出現了。它面臨的對手是創造了74場連勝紀錄的肯·詹寧斯（Ken Jennings），以及最終打敗了詹寧斯的布拉德·魯特（Brad Rutter）。根據IBM的計算，沃森有70%的幾率贏得比賽。「一場勝率很高的賭博，但依然只是賭博，」費魯奇說。中場休息時，鏡頭搖過擁擠的觀眾，抓住了費魯奇——整齊的頭髮往後梳，看起來很緊張。「在那個時候，你完全失去了控制力，」費魯奇的副手埃裡克·布朗（Eric Brown）說，「你只能交叉手指，祈禱好運。」
在問題類別「練習曲，笨拙的？（Etude, Brute?）」中，沃森所向披靡，成功地猜出了幾位古典音樂作曲家的名字。同樣的，它也答上了類別「帶刺的（hedgehogs）」中的所有問題。它聲稱，它想要賭6435美元的「每日二重彩」。主持人崔柏克有些遲疑地說：「要是我，就不會賭。」後來，詹寧斯在下一輪比賽中稍微掰回一局。當沃森正在冥思苦想丹澤爾·華盛頓和肖恩·潘的名字時，它的對手也想出了答案，但沃森的模式識別以絕對的優勢勝出。到最後，沃森已經贏得77000美元，比詹寧斯和魯特各自的三倍還多。
「《危險邊緣》從來不是我的目標。」費魯奇這樣說道。在最後幾天的準備中，工程師們已經著手拓展沃森的能力範圍，使得它不僅是一個模擬機器。這一部分是由於競爭的需要。Chu-Carroll注意到沃森在某些類型的問題上還是顯得笨拙，在這些類型問題中有一個至關重要的資訊被隱藏。
比如在聽到George Mallory（英國探險家，在嘗試攀登珠穆朗瑪峰途中喪生——譯者注）的屍體被發現的敘述後，沃森告訴記者，他仍然認為George Mallory是第一個登頂珠峰的人。正確的答案其實Edmund Hillary，他曾在登頂珠峰中存活下來（而Mallory那時不幸去世），但「George Mallory」這個答案深深植入到沃森「頭腦」裡。此時，機器需要理解的概念是珠峰，這在沃森關注領域的文本中隨處可見。但因為它不是答案，Chu-Carroll作了調整，當機器注意到看起來像這樣圍繞著答案的短語，它會運行一個二次查詢，包括搜索這句話，如果偶然在文本庫中發現了一個不起眼的文檔，就會按研究者相同的方式開放查詢——發現新的聯繫，並把這些聯繫建立起來。機器可以自行探索。不久以後，一個暑期實習生寫出了一個程式，讓沃森把互聯網引入從而拓展它的認知範圍。沃森像被下了魔法一樣開啟了一段傳奇。
機器開始逐漸提升自己的能力。IBM收購了一家澳大利亞公司來「教沃森理解人情世故」；計算機視覺專家的任務則是「教沃森如何觀察。」就在我開始拜訪沃森工廠的那個冬天，那裡的人們也不再談論計算機只能生成備選答案了，計算機還可以產生假設並迸發新想法。
「只要換個名字，你會突然大幅拓展它的潛在應用」，Brown說。從這個角度來看，一個更高階的人類思想的特性——創造力——似乎不那麼難以捉摸或者神秘。
Ferrucci讓我想像一個百老匯作曲家，坐在鋼琴旁尋找某個完美樂句的結尾方式。「他有兩個音符，而他正在尋找第三個，」Ferrucci說。他會怎麼辦呢？他不會戳著他的食指去尋找另一個偉大發現，也會搖搖頭像個憤怒的大師。「不」，第三次，這一次Ferrucci豁然開朗，他的食指指向空中。「啊哈！」音樂大師！Ferrucci很高興。尋找一個統計模式的關閉，使它與經驗匹配——這正是計算機能做的。音樂大師的行為表現得像一個實驗機器，但音樂大師其實並不知道這一點。「作曲家——他正做的就是是生成和測試！」
沃森並不真正明白女人的痛苦。但即便如此，他實際上做了醫生要做的事情——指出精確的臨床報告的相關部分，發現疾病，確定它的生物學原因。
在《危險邊緣》勝利之後，Ferrucci在超過40場活動中顯示這個世界上最著名的機械人。他與Tegmark爭論人工智能的影響，在大學做的報告，在計算機歷史博物館接受一個長長的訪談。Ferrucci很不習慣這樣的行程，這幾乎使他崩潰。但在他旁邊，則是一個從來不知疲倦、並已成為某種公眾符號的沃森。
沃森到底是什麼？
這個項目從一開始就被一個困惑所纏繞，並隨着沃森的成名而不斷增長。這個困擾就是「沃森到底是什麼？」它的確具有一定意義上人的屬性：它能獨立學習；你可以認為它會產生新的想法。Brown曾被問到沃森是否可以通過有名的圖靈試驗（機器是否能讓人類把它誤認做人類）。他的回答是它可能在某些嚴格設限的情況下（比如成為《危險邊緣》節目參賽者）成立，但更普遍的模仿是不成立的。
專家認為，人工智能的另一種模式，被稱為深度學習，將很快帶來一個遠比沃森更加靈活可塑的機器。在理解人類的表達和導航物理世界上其他機器會更擅長。也許沃森並不能代表AI的最前沿，它仍然是罕見的與人互動的通用智能機器。沃森的傾向已經人格化。「你會看到一個機器像人一樣站在那裡回答問題，這是一件非常自然的事情，」Ferrucci說，「我需要的僅僅是一些線索。兩隻眼睛。一個微笑。是的，我就在這裡。」
彼時，IBM助長了這種困惑。公司的營銷主管曾探討，是否該給機器配置一個仿人類的臉和身體，以便其出現在電視熒幕上。雖然最終他們放棄了這種想法，但當沃森出現在Jeopardy!上時，它有着細小的聲音，機械的手指，以及企業標誌做成的臉。更重要的是，它有自己的名字。現在沃森的大部分都處於雲端，但困惑仍然存在。
上個月，IBM的CEO，Ginni Rometty在Charlie Rose的節目上發言時，一開始用「它」來描述沃森，很快，就換了用詞。她說道「他會查看你的醫療記錄，他由世界上最好的醫生所培養教育。」Rose沒有打斷她，從某些功能上來說，事實的確如此。不同領域的專家教會沃森項目獨特的語言以及他們的專業知識，評估機器回答的問題哪些是正確的。（其中一個項目要求醫學學生向沃森解釋他們如何理解疾病及治療方法，這樣，機器就能回答醫療執照考試的問題。）
沃森為其職業生涯做好了準備，和沃森一起工作是令人十分愉悅的。如果你是個專家，你花費大半職業生涯建立了工作捷徑和自己的直覺，但卻難以傳授給他人。這時來了一台機器和一些工程師，他們對你所說的直覺非常好奇——他們詢問，測試，判斷哪些是真實的，並將這些知識轉變成真正的數學。像是偵探描述他們如何破解犯罪問題；設備調度員解釋他們在發生突髮狀況時如何行動。Sloan-Kettering的肺腫瘤專家Mark Kris告訴我，沃森最困難的方面在於做出微妙的判斷：當患者需要一種非常規的治療方法，或者當一項新研究如此引人注目，需要改變病人的治療方式時。他們沒法編碼他們的直覺。
事物總有兩面性，沃森有時也想要了解跟它一起工作的人。（為了人工智能能夠真正的工作，Ferrucci認為「機器應該以你自己為模型。」）和一家石油開採公司合作的IBM工程師們已經為沃森開發了一系列問題，沃森可以向每個地質學家提問，以便它理解科學家對風險的承受能力，並據此判斷他可能會有的偏見，並衡量他的建議。一家名為Elemental Path的公司正在建設一個問答玩具恐龍，它將採用沃森的技術了解孩子的興趣和理解能力，並針對性的做出回應。
沃森正在變得奇怪，並新穎——一個剛開始理解的專家。一天，一個名叫Mike Barborak的年輕工程師和他的同事們寫了一些他所能想到的最簡單的規則，將之從代碼翻譯成英語的話，簡單來說就是事事相關。他們打算將該規則作為基礎和指令，開始製作一系列的推導，讓每一個結論自動跳到下一個。Barborak從描述一個老婦人因震顫進入醫生辦公室的病人筆記中摘選出的部分語句創建了一個醫療場景。他開始運行這個程序---事事相關——並讓沃森自行發展。
在很多方面，沃森最真實的表達是一張圖表，一張概念圖，包含了集群和連接線，顯示出它做出的跳躍連接。Barborak開始研究它的集群，這是沃森探索出的成百上千的想法，很多都很奇怪或模糊。Barborak說：「人工做這些搜索只是因為沒有辦法。」當Barborak檢查它時，發現推論使它得出一個結論，大腦中叫做中腦黑質的那部分因帕金森病而發生了病變。Barborak認為這非常讓人驚訝。沃森並沒有真正理解這個女人的痛苦，但即便如此，它仍然精確的做出了醫生會做的事----針對臨床報告的相關部分，辨認出疾病，並確定生物病因。為了能做出這樣的連接性跳躍，你所需要做的就是像機器一樣貪婪而完美的閱讀。
很難得聽到這樣的故事，並且對人類將擁有怎麼樣的超凡技術不再懷疑。在Baylor，一個名叫Lawrence Donehower的癌症教授談到，他在研究中發現一種癌症基因，命名為p53。他預計所有腫瘤研究者都立志將為此研究出新的治療藥物。沃森「閱讀」了所有70000篇與p53有關的學術論文，並且發現8個新目標。這些來自俄羅斯新發現被淹沒在海量的論文里，以人腦的查閱能力被完全忽略，事實上，這些論文非常重要。Donehower認為他們重新發現真令人興奮，他說：「我在變老，而你會得到更多希望。」
站在沃森「父母」，也就是IBM工程師的角度來看，似乎沃森已經長大成人。「我有一個十幾歲的女兒，」Chu-Carroll笑着說：「感覺很像沃森已經獨立長大成人。離開了安樂窩。」
當我打電話給他談論沃森時，Max Tegmark告訴我：「對於人工智能越發強大並能獨立完成一些事情，人類有一些憂慮，就在不久之前，你還依靠人類的專家資源完成一些事情。」對 Tegmark來說，人類的一些專業技能可以避免被人工智能替代，「如果你仔細想想，為什麼人類比獅子更文明呢？這是因為我們更聰明，因為我們有更多的專業知識。」
Ferrucci 和 Tegmark簡直就是「天造地設」的組合：一個是理論家，另一個是工程師，他們都非常有學問和魅力的人，並都參與了關於人類未來問題的討論。如果你認為沃森和類似這樣的機器會變得造型更酷和更靈活，並進一步進化到做更多人類並不擅長的事務，那麼你在AI這個問題上，更多的是從如何以最少的人力推動社會進步。
在這個問題上，Ferrucci是絕對論主義者。從機器的角度來看，人類真的需要機器的版主，人類思考方式很狹隘，對事物的判斷要麼來自有偏見的個人經驗，要麼來自於不完善的信息。
來自普林斯頓大學的諾貝爾獎得主Daniel Kahneman，作為一位在認知偏差和人類非理性方面的理論家，他在IBM宣傳視頻和一個訪問IBM的先進實驗室研究總部的兩次談話中指出：「毫無疑問，人類的這些認知偏差的存在是令人擔憂的。」
與人類相比，機器想要擺脫創造它的文化基因並不那麼容易。IBM花了數十年時間向商業公司銷售電腦，以期幫助公司僱員彌補認知能力的不足。從某種意義上說，機器越具智慧，就越容易暴露人類的缺點。一位名叫Dario Gil的行政主管告訴我，他在沃森參與的一個項目中工作，該項目的應用程序致力於提高如何在風暴來臨時有效分配資源的能力。傳統的決策過程依賴於一些荒誕故事，Gil默默地伸出一根手指在地圖上說道，「比如說，當暴風雨來自北方和狗被吹了起來」之類的。如果近年來Kahneman的觀點沒有變得如此流行，或者他的住處遠離Yorktown Heights，亦或者項目的開發在硅谷進行，沃森也許會獲得不同的使命。但沃森來自一個獨特的公司，在這裡成功源自合作，個體要有所限制，機器為了團隊而不是某個超人。
IBM為沃森的商業化制定了兩套方案：以服務的形式和以授權技術的方式。潛在的客戶會被邀請到Astor Place參觀，這裡的機器是由硬盤豎直堆起的存儲器構成，其內部的運行被投放到屏幕上面，這些屏幕環繞在人的周圍就像一個私人的天文館。
展示以兩個年輕職業女性的視頻作為開始，她們一個是廚師，另一個是律師。「我們看到有些地方因果關係根本不存在，」一個講解員說道，他表示人類解決問題的方式和占星術一樣不科學。「我們過於自負並犯下重大錯誤」名叫Frederik Tunvall的年輕人類嚮導，指着投射到我們後面的屏幕上的廚師的形象說道，「她堅信橄欖油是是做好地中海菜品的唯一用油，或許因為這一偏見她會錯過某些機會。」說到這裡的時候，Tunvall顯得有些難為情。他告訴我最近他把這一報告提交給了一批意大利的金融高管，當他們聽到烹飪意大利菜的時候除了橄欖油之外，還可以放其他任何東西的時候他們被激怒了。Tunvall的語氣暗示這件事情既有趣又可笑。對於意大利食物，一邊是諳熟海量潛在食物配方的超級計算機，一邊是出生在博洛尼亞附近有些狗屎運的銀行家，那麼，你賭哪邊知道的更多呢？
沃森也像學習其他食物那樣學習如何下廚。它會「閱讀」整個由Bon Appétit撰寫的菜單數據庫，並從中搞清楚墨西哥廚師和法國廚師在操作方式上的不同之處。接着，在工程師也是首席大廚James Briscione的「催促」下，沃森開始琢磨新菜品。沃森的特色菜是從哪些傳統的名菜或調味品里挑出一部分，然後進行組合。於是就有了諸如 Tanzanian-Jewish matzo-ball湯、Czech pork-belly moussaka等菜品，而另一個名叫Harlem雞肉的靈感來自於非洲裔美國人和西非國家中使用的食材和做法。當沃森 精通了菜譜，就嘗試新餐品，Briscione便開始審視這些菜品中各個食材的關係。其效果令人鼓舞，Briscione說道：「這讓我不得不去思考我會如何將番茄與羅勒（一種芳香植物，多用於烹調）放在一起烹制。」
我把一本上月出版的《跟沃森大廚學烹飪》（Cognitive Cooking with Chef 沃森）送給洛杉磯一家頗具創意的餐廳主廚Ari Taymor。Ari Taymor翻完沃森的菜譜后認為，沃森的確表現出某種認知行為特徵，但似乎還是和人類不同。Ari Taymor說：「我還是無法想象這些菜品能夠登上餐廳的菜單。」沃森 在廚藝上的震撼表現讓Briscione有着被智力所拋棄的感覺。而對Ari Taymor來說，沃森似乎無法理解食物帶來的意義，他說：「（食物）應該是那種能喚起特定地點特定體驗」，比如家的感受，這是機器所無法複製的。
現代對於人工智能的恐懼源於人工智能可以相當完美地和人類的不足和缺陷吻合，使得我們察覺不到它如何圍困人類。比如，直到無人駕駛汽車橫衝直撞，軍用無人機瞬間可以獨立思考，「機械姬」里惡魔般聰明的機械人開始勾引它的主人，我們才會警惕起來。從那本對Elon Musk影響很大的書——「超級智能」，Nick Bostrom引用了一個很荒謬的例子：「原先用來工廠生產管理的AI，最後開始執行大批量生產回形針的任務，把從地球到宇宙任何可觀察到的更大的物質塊變成回形針。」
但是仔細觀察，有關人工智能的恐懼，甚至普遍存在的不確定性的氛圍，也會讓人與科技之間有隔閡。哪怕世界上最資深的技術人員，他們都和普通人一樣是保持警惕。這和你如何看待這個風險毫無關係，因為它取決於還沒有完全實現的科技，因此難以判定和下定論。而我覺得這個很大程度上依賴於你對人類本身作何思考：對於人類的限制和非理性的智力戰爭，你如何站隊，你多大程度上同意Ferrucci的觀點——我們人類亟需幫助。
2013年底，Playwrights Horizons劇院推出了一部Madeleine George的戲劇--The (Curious Case of the) Watson Intelligence。它是由四個有關於被圍困的科學助手的小故事組成。他們都叫沃森: 偵探福爾摩斯的助手，著名科學家貝爾的助理，一個虛構的 IT 員工以及電腦本身。Eric Brown住在Connecticut，趕去看了兩次獨立的演出。每一次，他都留下來參與劇后的專題討論。Brown回憶說說，「那個有關助理的概念很有遠見。助理扮演的角色以及在某些時候他們是否得到了他們應得的。」因為Brown為Ferrucci做了好幾年的助理工作。「只是，」Brown說，「你是否欣然于為比你更出名的人當助理。」
在一個歷史意義重大的深冬，一個冰冷的周一晚上，我驅車前往Yorktown Heights去Ferrucci家赴約。自從他完成博士學業回到IBM，他一直住在這個死巷裡。當時正是IBM大量投資研發人工智能的階段。在他的起居室，他給我展示了從《危險邊緣》得來的一個極為珍貴的紀念品——一個有關於沃森比賽的廣告海報，上面有他團隊所有成員的簽名。
Ferrucci兩年前離開IBM，後來在韋斯特波特著名的對沖基金Bridgewater Associates謀了一份工作。他說：「我忠實地愛過IBM，IBM曾是我的家。」他提到當他還是高中生時在地下室鼓搗一台古老的Apple電腦，沉迷於人工智能的時候，他第一次發現了IBM的研究。當時IBM在他父親經營的雜誌里投廣告，還召集了一大幫科學家搞研發，並保證他們研發的絕對自由。
儘管他曾經一度覺得IBM正在做的沃森是件很有意思的事，策略上也很高明，可這已不是他的菜。「真的是純商業，這隻是不再那麼有意義了。」
對沖基金的工作有很多不錯的津貼，儘管這份工作也許使他離人工智能研究的突破口遠了一點，但是Ferrucci還是經常回想沃森，同時對人工智能領域未來的發展方向浮想聯翩。
他講述了一個柴可夫斯基《第六交響曲》的故事，一個對作曲者本身意義深刻的作品，柴可夫斯基認為此作品描繪了人類的整段歷程。在聖彼得堡首演的那一晚，這個曲子徹底失敗了。柴可夫斯基一直到深夜都未入睡，對編曲做出了不小的改動，根據曲目介紹冊子說明，這晚他的改動主要重新闡釋了此首交響曲的意義。
第二天晚上演奏的時候，表演大受好評。Ferrucci談到那晚柴可夫斯基的表現，稱其為「人肉模擬裝置」——具備了一種對人類能回應的和不能回應的事物都理解領會的能力。一部計算機永遠也做不出那些改動來的，他說，除非它能在一個比數據統計更深的層面上對世界進行模擬。 Ferrucci表示，「這將是我從今以後畢生致力於的事，也就是真正的人工智能。」
晚餐時，Ferrucci的妻子，伊麗莎白，做了一道用 「法國蒸汽浴」（Sous－vide）烹飪的海鮮與牛排。「對我來說，深度哲學上的問題比會發生的經濟和社會改變等問題更會讓我們恐懼。」 Ferrucci邊吃邊說道，「當機器能比人類更勝任幾乎任何任務時，你的自我認可要往哪兒擱？」
人類的進化過程中，首領在一開始時體格最龐大最強壯的人（因為他能傷害任何人），到後來首領是最聰明的人，對吧？你在解決社交場景的時候有多機靈？那麼商務場景呢，或者說解決複雜的科學、工程問題的時候。如果人工智能發展先進到你會輕易地優先給一台計算機布置任務，而不是給一名人類布置任何任務，你會怎麼評價你自己？」
Ferrucci說儘管他覺得 Tegmark 對世界毀滅的敏感性很令人着迷，但他本人不認為近期就會發生毀滅性的大事件。他還未在Tegmark的公開信上籤字。 未來有些職業將會消失，而政策制定者將會與智能機器帶來的「社會後果」進行一番搏鬥。但這些對他來說都將只是短暫的過渡。「在我看來， 最後階段（endgame） 是強大又美妙的，人類將終於能夠做他們享受做的事——探索自己的心靈、探索思想的過程，他們對世界的概念，機器在這個過程成為了思想的夥伴。」
這讓我想起我讀過的一篇關於英國激進分子的報告。他們在報告中提議，當我們能依賴於機械人的勞動力后，人類一周只工作十個小時。他們的標語是：「為所有人能享受的奢侈」。太多對於人工智能的反應都是相對的——億萬富翁害怕被篡權、失去控制，中產階級的工程師則幻想着安逸閑暇的生活。Ferrucci對 最後階段（endgame）的願景的背後，是他認為，人類也許生來本不適應完成複雜的認知類工作。因為，從基本的生物學角度來說，人類不是為此而生，也許是因為有更好的東西在等着我們。
Ferrucci給我看了他平板電腦上一段他女兒彈奏鋼琴的長視頻。當視頻結束后，他又再次按下「播放」，接着我們又看了一遍那個鋼琴獨奏的視頻。他說道，「我沒什麼好怕的。」
添加個人微信號「jiqizhixin2014」。本文來源於微信公眾號：機器之心（almosthuman2014）
From 機器之心
本文原載《紐約雜誌》，機器之心翻譯出品，參與成員：光磊、葉雨溪、汪汪、鄭勞蕾、柒柒、Viola、補、泥泥劉、Karalli、趙賽坡。
沃森已經長大成人，我們應該害怕它嗎？
