開發AI程式，還需自我約束（larrylo）

圍棋系統 AlphaGo 戰勝歐洲圍棋冠軍樊麾（法國國家圍棋隊總教練 Fan Hui） 後，與南韓九段圍棋名將李世乭之間對戰不斷，AlphaGo先勝兩局，教人嘩然，感歎 Deep Learning 的強大。然而，程式者眾往後開發和完善人工智能，極需哲學、道德去約束。

Deep Learning 是 Statistics 的應用之一，只是研究生改名求科水而已，日光之下絕無新事。Statistics 是統計學，透過不斷蒐集、分析、歸納數據（data）而導出結果和方法。由人類自己建立資料庫去分析 data，找出 data 當中的萬縷千絲，為Data Mining。由一班寫程式眾開發一個程式教電腦如何學習，才是Deep Learning。

寫程式眾先了解Neural Networks 的運作原理 ，然後寫 code 實踐，利用不斷計算和運籌，然後灌入 data 落個乎習程式，不斷蒐集外來數據，分析，歸納，中間加減改良返幾個參數和決策 （Expectation–maximisation algorithm），監督電腦學習 （supervised learning） ，砌出整個思路 （heuristics）。其他就是應用層面。

另一邊箱，由 hackernews, codegeek, github , reddit 都相繼討論 software testing, test automation , 是寫一個程式，自動幫你測試開發程式或雛型，找出錯漏或控制學習過程。自動化測試的概念，有助加速開發，運籌管理開發團隊。加速開發，意味將有更多先進學習模式，比AlphaGo更強更聰明的AI電腦出爐。李生等圍棋生戰敗，不是敗給電腦，而是寫AI程式的人。圍棋競技，再不改善規則，繼續人機對決，恐怕借成為程式眾人的思維競技，離地又乏味。

固然好多人都驚AI會控制世界，殲滅人類。我反而會叫大家去認真思考，為何發明電腦？引用德國哲學家Georg Wilhelm Friedrich Hegel的名句：

Was vernünftig ist, das ist Wirklich; und was wirklich ist,das ist vernünftig.
What is rational is real, what is real is rational
凡存在必合理

昔日，人類想用更短時間完成一個工序，多快好省，自然會發明工具。人類想同時間完成多個工序，發明機械。人類想同時間監督工序，就自然有意欲去發明一個可以自動幫你做完多個工序的工具。自然，就會發明電腦，程式，去幫助大眾完成工作。如果大眾繼續精益求精，多快好省，發明 AI （人工智能），不管是否可以幫助人類福祉，都是發明電腦的必然結果。1950的Turing Test和1970開始的人機圍棋對奕，已經證明了以上一點。

當然，自動駕駛汽車的道德困境已經告訴了人工智能的思維局限，就是哲學和道德難被量化成行為規條，易生意外和悲劇。電腦判斷事物仍需由人填補思維決策，假借程式循循善誘。因此，任何人開發創新科技，只談功利，不談道德哲學，就會容易犯上平庸之惡，意外頻生。

從來，寫程式，豈止是「只是打份工」，而是「學做一個人」。做人從來都要有良知，尤指涉及科技研發。

作者：larrylo（本文章由聚言時報授權提供）