虎嗅注：最近，德國大眾公司的一個生產線機械人「殺死」一名工人的消息再次引發公眾對於「人工智能」的熱議，人工智能真的會威脅人類的生存嗎？《紐約時報》本週末的一篇文章卻表達了不同的觀點，有業內人士在該文中指出，人工智能真正的威脅在於「人工愚蠢」帶來的浪費，例如機器在無意識的情況下完成大量重複勞動，造成浪費。全文如下：

去年10月，特斯拉CEO伊隆·馬斯克（Elon Musk）曾表示，人工智能是「對人類生存最大的威脅」，而開發能思考的機器就像是「召喚惡魔」。去年12月，著名物理學家史蒂芬·霍金（Stephen Hawking）指出，「全面的人工智能將意味著人類這一種族的滅亡」。今年，微軟創始人比爾·蓋茨（Bill Gates）也表示，他「對超級智能感到擔憂」，而這樣的超級智能只需幾十年就會誕生。

不過，即使認為人類將由於「殺人機械人」而面臨威脅，這樣的問題也不太可能來自人工智能，而更有可能是由於「人工愚蠢」。人工智能和人工愚蠢之間的差異反映了我們看待計算機的方式。

關於人工智能，大部分人擔心的一點在於，計算機會認為人類是錯誤的產物並殺死人類。對人類來說，這無疑非常糟糕，但對計算機來說可能是明智的決定。

但業內專家表示，真正令人擔憂的是，計算機程式會在無緣由的情況下，迅速而過度地完成某項單一工作。例如，一個生產回形針的機器可能會失控，導致在一夜之間生產出大量無用的回形針。

換句話說，這裡發生了非常愚蠢的錯誤，而錯誤影響範圍很大。在關於人工智能導致世界末日的報道中，你可能會看到「終結者」機械人的說法，但實際上這仍停留在想像之中。

麻省理工學院物理學教授、未來生命研究所主席馬克斯·泰格馬克（Max Tegmark）表示：「你真正應該擔心的是，一台計算機在某個非常狹隘的領域變得非常強大。」

今年6月底，德國一名工人遭到工廠生產線機械人的意外傷害而身亡。當時，泰格馬克表示：「這表明，機器非常愚蠢，將人體當做了一塊金屬材料。」

未來生命研究所近期獲得了馬斯克的1000萬美元資助，以探索如何避免自動化程式帶來危害。不過包括馬斯克、霍金和蓋茨在內，許多人似乎都沒有注意到真正的潛在威脅。

目前來看，沒有任何證據表明，機械人工智能能產生意識，並出現殺死自己創造者的想法。

非盈利組織艾倫人工智能研究所負責人奧林·艾奇奧尼（Oren Etzioni）表示：「這種對世界末日的設想搞混了科學的邊界，實際上是討論關於思想和意識等哲學問題。如果有更多人學會軟件開發，他們就會發現計算機其實只是很平常的工具。」

那麼是什麼原因導致了這樣的混淆不清？一大原因在於計算機科學家的工作。艾奇奧尼表示：「『人工智能』一詞誕生於50年代，當時人們認為能思考的機器即將出現。我們目前沿用了這一說法。」

「人工智能」一詞目前已被廣泛應用。穀歌(微博)的人工智能項目主要由收購而來的DeepMind負責。這一領域的一家先行者名為Thinking Machines。而研究人員也在關注「深度學習」，這暗示了我們正在創造智能。

深度學習依靠了有層次性的邏輯能力，即神經網絡。神經網絡中的節點常常被比作人腦的神經元，但實際上兩者之間的差別就像麵包和太空船那麼巨大。

包括DeepMind在內，機器學習領域的大部分研究都主要關注模式識別、行為建議，以及預測。這類似於人腦的能力。

人工智能是科技行業最引人關注的一個領域。亞馬遜、Facebook和谷歌正在展開一場競賽，而Uber和通用電氣則將機器學習視為了未來。

但從本質上來看，機器學習就是自動化，而這也是長期以來機器的功能。人類在學習中可以變得更聰明，而機器的「學習」與人類不同。

DeepMind已開發出一款程式，能掌握簡單的視頻遊戲，然而這一程式無法將一款遊戲的經驗應用至另一款。這一神經網絡系統對圖片的識別方式與人腦仍有很大差異，並且很容易被擊敗。

從這類愚蠢的機器行為發展至更廣泛的與人類類似的行為被稱作「遷移學習」。這一領域目前還停留在研究階段。

加州大學伯克利分校計算機科學教授斯圖亞特·拉塞爾（Stuart Russell）表示：「人工智能專家知道，一台能下象棋的計算機不會渴望去吃掉對方的某個棋子。」他也是未來生命研究所的成員，並且獲得了馬斯克的資助。他目前正試圖通過數學方法，確保「愚蠢」的計算機程式不會與複雜的人類價值產生衝突。

他表示：「生產回形針的程式缺少的是作為背景的價值觀。目前的誤解在於，唯一的威脅在於機器可能出現意識。」

From 紐約時報


 人工智能有危險？NO，「人工愚蠢」才害死人！