生物评测_每日航空

30年深度学习的孤独之旅!今年图灵奖颁给了「AI三巨头」

时间:2020-05-21  作者:
30年深度学习的孤独之旅!今年图灵奖颁给了「AI三巨头」

2012年,首次參賽的加拿大電腦科學家Geoffrey Hinton領銜的團隊拿到了冠軍,而且,比第二名准確率高出了10%。

這個結果震驚了學術界,因為當時的第二名到第四名都用了相同的研究方法,他們已經做到了極致,每個隊伍準確率的差別不超過1%。

Hinton團隊用的是完全不同的方法——深度學習,具體的算法被稱為卷積神經網路(CNN)。這是一個里程碑式的進步,正是Hinton團隊的突破,讓學術界和工業界用更多人關注、使用深度學習,最終推動了人工智慧行業的大發展。

如果以辨識貓為例,傳統的電腦視覺算法依靠設計者的先驗知識,比如透過貓的集合體推斷出,四條腿,體型較小,會喵喵叫的動物為貓。機器透過人的思維構建的模式來判斷它是否為貓。

深度學習則不同,它從海量的和貓相關的數據中自動學習,並提取出相應特徵,最終可以判定某個未知物體為貓。它和人類的思維方式更為接近,這種算法也被歸於神經網路。

雖然看起來深度學習從根本上就是一個更先進的算法,但在過去相當長的時期內,它並不被看好。

因為過去用於訓練的數據集規模都比較小,這很容易導致過擬合現象,即算法在測試集表現很好,但在實際應用出會出現極大的誤差;同時,電腦性能也無法滿足擁有成千上萬個參數的深度學習模型。

Yoshua Bengio、Yann LeCun和Geoffrey Hinton三位科學家正是在這樣的限制下堅持深度學習研究的。

Hinton已經71歲了,上世紀70年代,還在愛丁堡大學攻讀人工智慧博士學位的他就著迷於神經網路,這和當時的學術主流背道而馳,就連他的博士生導師也反對他的研究。

「我們一周見一次面,有時會以爭吵結束,有時候不會。」Hinton在一次採訪中曾回憶他的博士時光。

Yoshua Bengio和Yann LeCun要年輕一些,三人的研究互有交集。Yann LeCun現年58歲,1987至1988年,他在Hinton的實驗室中有一年的博士後研究經歷,之後加入當時最頂尖的隸屬於AT&T的貝爾實驗室。

在貝爾實驗室中,LeCun利用深度學習研發出了辨識手寫的信件和電話號碼的系統,這個成功取得了不錯的商業成功,它一度辨識了美國10%的手寫支票。

但是,當他將深度學習用於其他領域時,就遇到了重重困難,只有當訓練數據集足夠大時,深度學習才能表現得足夠好,但當時很少有什麼領域滿足這個條件。

LeCun的研究被視為異類,但依然有一些研究員和他一樣堅信深度學習的未來,包括現年55歲的,當時同在貝爾實驗室的Yoshua Bengio。

2004年,在加拿大前沿科學機構的讚助下,Geoffrey Hinton創立了專注於「神經計算和自適應感知」的項目,他也邀請了在深度學習堅持多年的Yoshua Bengio和Yann LeCun加入。

三人聯手後,就是推動深度學習不斷前進的故事。他們在2010年幫助微軟、IBM和Google拓展了語音辨識的邊界,之後在圖像辨識做了相同的工作,一直到2012年,Hinton領銜的團隊在ImageNet圖像辨識挑戰賽一戰成名,掀開了人工智慧的嶄新一頁。

現在,Hinton加入了Google,同時在多倫多大學繼續研究工作;LeCun是Facebook的首席人工智慧科學家,同時也是紐約大學的教授;Bengio拒絕了科技巨頭的邀請,他是蒙特利爾大學的教授,並創立了一家名為ElementAI的AI公司。

如果算上Hinton在博士期間的研究,他們已經默默為深度學習奉獻了30年。

「他們引領了科學典範的轉變,歷史最終選擇了他們,我充滿敬畏。」另一位AI權威,艾倫人工智慧研究所CEO,Oren Etzioni如此評價他們的獲獎。

圖靈獎沒有忘記英雄,我們也應該銘記。


上一篇: 下一篇:

相关阅读