2017年6月5日 AM 730《鈺成其事》
人工智能專家在2015年舉行了「機器學習國際會議」和「神經訊息處理系統會議」，一千六百多名來自學術界和工業界的專家在這兩個重要會議上發表了論文。牛津大學人類未來學院向這些專家發出問卷，列出多種不同的工作，請他們估計每種工作到甚麼時候可由電腦取代人類，做得更好、更便宜。
回答問卷的專家共352人。他們估計，電腦在未來十年內會取代人類的工作，包括(括弧內為開始取代的年份)：語言翻譯(2024年)、高中作文(2026年)和駕駛貨車(2027年)；需要較長時間才可以由電腦取代的工作，有零售服務(2031年)、暢銷書寫作(2049年)、外科手術(2053年)和數學研究(2060年)。專家們還預測，45年後，電腦在所有工作都比人類優勝的機會是50%。
這些專家的估計應是最權威的了。可是，他們最少有一項預測已被事實證明錯誤。他們在2015年預測，要到2027年，電腦才可以在圍棋擊敗人類；誰知不到兩年，這預測便被AlphaGo推翻了。專家們似乎大大低估了人工智能的發展。
人工智能有飛躍的發展，是拜「深度學習」所賜。運用深度學習，電腦不再只是按照程序設計員編寫的規則和邏輯來進行運算，而是模仿人類學習的方式，通過觀察和抽象，根據輸入的數據和尋求的結果，自行擬訂運算程序。
深度學習的概念已有數十年歷史，只是過去由於硬件的限制，令它的實際應用十分有限。最近數年，硬件的發展有了突破，大規模、高能量的人工神經網絡令深度學習成為現實，可以廣泛應用。AlphaGo就是憑深度學習，「學」到打敗人類圍棋高手的能力。
專家們開始擔心，深度學習會讓人工智能發展至人類無法控制的境界。電腦從深度學習得來的「思想」，是連它的設計者也無法洞悉的；電腦可能作出完全出人意表的決定，而這些決定不一定符合人類的價值標準。
例如，駕駛汽車的電腦突然把汽車撞向人群，為病人診症的電腦開出毒藥處方，這些都可能是高智慧的決定，背後有人類看不透的道理。在我們把愈來愈多複雜而重要的任務交給電腦處理之前，我們不能不問：電腦會尊重人類的道德標準嗎？
本文由作者授權，從 http://tsingyoksing.hk/ 轉載
深不可測（曾鈺成）
