比爾·蓋茨、霍金、特斯拉CEO伊隆·馬斯克三人都曾公開表達過對於人工智慧可能會威脅人類的擔憂，呼籲我們要對人工智慧持謹慎態度。
比爾·蓋茨：「如果我們能夠很好地駕馭，機器能夠為人類造福，但如果若干年後機器發展得足夠智能就將成為人類的心頭大患。」
霍金：「人工智慧計算機可能在接下來的100年之內就將人類取而代之。如果這樣的事情成為了現實，我們必須確保計算機和我們站在同一戰線上...我們的未來是一場不斷增長的科技力量與人類使用科技的智慧之間的競爭。」
馬斯克：「我們的人工智慧系統，必須按照我們的意願工作。不受控制的人工智慧可能比核武器更危險。」
但正沉積在人工智慧好處中的我們，時不時地手機，丟個「0除以0等於幾」的問題給Siri調戲一番，感慨下人工智慧的美好。我們也許在想，是大佬們危言聳聽了吧，「造物主」的我們肯定有辦法控制它們。
這不，今天就出了一個打臉新聞——德國大眾的機械人攻擊致死一名工人。
7月2日消息，據英國《金融時報》報道，德國大眾位於卡塞爾附近的一家工廠近日發生悲劇，一名技術人員因突遭機械人攻擊，最終因傷重不治身亡。
這名不幸身亡的技術人員正值21歲英年，是一位外部承包商，事發時他正與同事一起安裝機械人，但機械人卻突然抓住他的胸部，然後使勁壓在一塊鐵板上。
機械人上工作臺在西方國家已經是一個很普遍的事情，機械人會被放在安全籠的後面，以避免它們與人類意外接觸。因此極少會發生與機械人有關的死亡事件。而此次悲劇，經過檢察機關調查後發現，是由於出事人員事發時正好站在安全籠裡面造成的。第二名技術人員由於在籠子外面，因此沒有受到任何傷害。
事後，大眾公司發言人強調，肇事機械人並不屬於新一代輕量級機械人，後者可以在生產線上與工人們並肩工作，還不需要安全籠。另外發言人還強調，肇事機械人並沒有出現技術故障。言外之意，事故的發生完全是人為操作不當，機械人可是無辜的，而且我們已經有了更加先進安全的新機械人了呢。
無論錯究竟再誰，人類死於機器都是一件讓同類的我們在情感上不好接受的事。雖然Space X的火箭剛在上週末爆炸，搞砸了馬斯克的生日，但馬克思依舊心系全人類，設法讓人工智能安全起來。
人工智能安全化的邏輯很簡單：既然人工智能可能是惡魔，那就教它一些做人的道理好了。同樣是今天（7月2日）的消息，彭博社日前透露，馬斯克籌了1000萬美元用來研發懂得「倫理道德」的機械人，以確保他們不會毀滅人類。
今年1月，馬斯克將這1000萬美元資金交給未來生命研究所，其中700萬美元是馬斯克自掏腰包，其他均來自公開慈善項目組織。部分資金將投入到世界各地的37個研究項目中。
未來生命研究所負責人馬克斯·泰格馬克表示：「目前為止，所有投資都是確保系統更加智能化，這是首次有投資被用於限制智能化。」
其中3個項目研究將幫助人工智能系統通過觀察我們的行為，從而瞭解人類需求。另外2個項目則研發一種人工智能倫理道德系統，讓人工智能系統學會解釋自己的行為，告訴人類它們做出每個決定的原因。這不禁讓人聯想到今年上映的機械人電影《超能查派》，影片中查派能夠快速學習，吸取人類的教導。
From 虎嗅
機械人殺人了...早看透這一切的馬斯克掏了1000萬美金教機械人做人
