《三體》作者劉慈欣：AlphaGo贏了，但人工智能不可能強大到沒有弱點

虎嗅注：昨天中午，谷歌圍棋人工智能AlphaGo贏下與李世石對決的最終局，以4:1的大比分拿下了具有劃時代意義的人機大戰。

在整個5場人機大戰過程中，人們圍繞比賽結果、AlphaGo的表現不斷猜測，但面對表現不俗的AlphaGo，大家最關心的還是，我們該對人工智能的快速發展感到恐懼嗎？人類是否最終會為自己所害？

環球時報就此問題採訪了《三體》作者劉慈欣，作為科學背景深厚的科幻作家，劉慈欣認為「這種恐懼並非完全沒道理，但可能方向錯了」，那麼正確的方向是什麼呢？

AlphaGo和李世石的圍棋大戰最終以4:1落幕。伴隨人機大戰而起的，除了有關人類尊嚴的話題，就是對人工智能快速發展的恐懼。這種恐懼並非完全沒道理，但可能方向錯了。

像科幻小說或電影描述得那樣，人工智能將「崛起」並最終統治人類，這是許多關心這一問題的人共有的恐懼。

電腦剛出現不久，計算速度就遠比人快；現在人工智能在圍棋比賽中戰勝人類，也只是量變而非質變，因為原本計算、檢索等就是其擅長領域。而在其他領域，人工智能進展十分緩慢。很多事人類做起來易如反掌，電腦卻基本上做不了，最明顯的是理解自然語言，目前電腦只能做到把語言抽出來和數據庫相匹配進行對應式理解，對於複雜語言的理解，電腦也無能為力。此外，人類的直覺、想象力和依靠極不完整的信息做出判斷等能力，對目前的電腦來說非常困難。目前，包括「阿法狗」在內的弱人工智能，要想在智力上全面超越人類還遙不可及。至於說「天網」覺醒，只需要科幻作家考慮就行了。

「天網」般的強人工智能如真能出現，人類依然可以應對。人工智能不可能強大到沒有弱點。人類也不可能預測不到某種級別的強人工智能即將出現，所以必然會在其出現之前採取一系列措施，譬如不讓它與外部世界有硬件上的連接或是斷絕所有能量供應，讓其沒辦法生存等。再退一萬步，即便強人工智能最後自我生存下來，避免被人類消滅，人類也可能找到與之共存的方法，並不是一定會被其奴役，比如人機結合就是一個共存的途徑。

人類要想抵達強人工智能階段，至少還面臨三道技術障礙,最終它們能不能被克服，目前仍不得而知。第一，我們對自身意識的產生、智力以及腦科學研究還處於初級階段。大腦神經元數量就像銀河系的星星一樣有上千億個，每一個神經元結構都極其複雜。

目前，有科學家認為人的智力過程可能是在量子層面上發生，而量子世界的物理規律比宏觀世界的要複雜得多。第二，目前電腦的性能提升速度很快，但使用的還是上世紀四十年代馮·諾依曼結構，這與我們並行的大腦結構完全不同。而對新結構的電腦研究進展卻很緩慢。第三，更為傳統的障礙是現階段電腦總體計算容量還沒達到人腦的容量。基於電腦摩爾定律，人們曾預測電腦不久就會達到人腦的計算容量。但目前集成電路工業的發展趨勢已有放慢跡象，摩爾定律可能行將失效。

本文轉自環球時報，由吳志偉採訪整理。