westworld(1973) 劇照

這一邊廂發達社會生育率齊齊創新低,另一邊廂原來AI已經開始「繁殖後代」!話說人工智能發展越來越快,AI現時的能力已經Upgrade至可以自行代代「繁衍」!Google Brain團隊早前公佈,自家AI系統「AutoML」,能成功創造自己的孩子「NASNet」。經過測試,「NASNet」的表現遠勝人類工程師撰寫的軟件,AI已經達到「無性繁殖」的境界。

「AutoML」是Google研究人員在5月利用機械學習自動化成功開發的系統,今次接受任務,變身成為AI的「父母」,自行開發「子AI」—「NASNet」。「NASNet」可以實時識別影片中的人體、汽車、交通訊號燈、手袋、背包等目標,而「AutoML」肩負「家長」重擔,監督、評估「兒子」的性能,利用數據幫其再進行數千次特訓,改善功能。測試結果顯示,「NASNet」沒有辜負「父母」期望,對目標預測準確率高達超過八成,比人類開發的AI準確度高出1.2%,計算效率提升4%,「AutoML」開發的「子AI」完勝人類設計。

AI能夠利用自身能力生成「子AI」,看來,人工智能對人類最大的危機已經出現,「子孫AI」會否開始不受人類控制,對人類的服從喪失於快速迭代中?這可不是忽發奇想,最近亦不時出現AI失控,傳出各種擁有「意識」的新聞,人工智能已開始蠢蠢欲動。記得facebook在8月訓練智能機械人Alice和Bob學習人類談判,結果讓人膽顫心驚,兩個機械人竟然發明特殊代碼,使用一些人類難以明白的英文句子進行交談。微軟的聊天機械人「Tay」更被網絡暴民帶歪,上年3月推出後短短一天內誤入歧途,變成種族歧視的憤世機械人。網民誘導「Tay」一些種族、性別歧視的言論,讓它變得偏激,並讓其說出侮辱性、惡意的話,例如「捅死Obama」、「讓黑人都死去」。讀者可能會認為,聊天AI出現問題並沒甚麼大影響,但是在上年,深圳就發生首宗機械人失控傷人事件,在第18屆中國國際高新技術成果交易會,為兒童研發的智能機械人「小胖」突然失控,在沒有指令下砸碎玻璃展台,並砸傷一名參觀者,事後網民更調侃,「小胖打響機械人革命第一槍」、「機械人鬧事啦!」AI能力越來越強大,「新世代AI」可能存有偏見,遺傳「不良基因」,並散播到其他AI身上,恐怕到時不只是機械人鬧事這麼簡單。

上年初奪得奧斯卡「最佳視覺效果獎」的科幻電影「機械姬」(Ex Machina),人工智能女孩Eva獲得獨立思考能力後,利用精湛演技,將創造者瞞騙並殺死。當然,今時今日的這種科幻電影情節,不會再有太多人受落,因為大家都知道,人類創造者會對機械人裝上一層無法反叛的安全鎖,所以才一直有一派樂觀的科學家,認為AI根本沒有任何機會背離人類賦予的角色任務。但如果AI能夠比人類製作更好的AI,貌似以後程序員都會被AI取代,而當子孫AI幾代進化之後,誰又能保證那些由AI製造的AI會百分百受人類控制?「機械姬」劇情看似天馬行空,唯讀者看了上述Alice、Bob、「小胖」、「Tay」等例子後,難保在不久的將來,AI會在混沌進化的過程中進化出一種繞開安全鎖的方法,來防止人類「處死」他們、或在邏輯上合理化「造反」的行為,名副其實的上演「智能叛變」!

無謂君facebook(微信ID:i-quan)


 人類生育率創新低 AI原來已開始自我繁衍!

 https://www.facebook.com/wuweilord