News center新聞中心
【專(zhuān)訪(fǎng)】國家超級計算無(wú)錫中心主任楊廣文:神威·太湖之光將加大對深度學(xué)習的支持
來(lái)源自:捷世智通 點(diǎn)擊數:14842 發(fā)布時(shí)間:2017-09-11
轉自新智元 ( 微信號 : AI_era ) 作者 : 胡祥杰
2017年9月7日,由中國工程院信息與電子工程學(xué)部主辦、浪潮集團承辦的首屆人工智能計算大會(huì )(AI Computing Conference,簡(jiǎn)稱(chēng)AICC)在北京舉行。清華大學(xué)教授、國家超級計算無(wú)錫中心主任楊廣文在會(huì )上作了《神威·太湖之光的深度學(xué)習應用》的主題演講。介紹了此前登頂全球超級計算機500強榜單榜首的神威·太湖之光在深度學(xué)習上的應用。
“神威·太湖之光”是世界上首臺峰值浮點(diǎn)運算性能超過(guò)每秒十億億次的超級計算機。該系統是我國“十二五”期間“863計劃”的重大科研成果,由國家并行計算機工程技術(shù)研究中心研制,運算系統全面采用了由國家高性能集成電路設計中心通過(guò)自主核心技術(shù)研制的國產(chǎn)“申威26010”眾核處理器。
“神威·太湖之光”也是我國第一臺全部采用國產(chǎn)處理器構建的世界排名第一的超級計算機。
此外,2016年年底,國際高性能計算應用最高獎戈登·貝爾獎公布獲獎入選名單中,依托于“神威·太湖之光”的強大計算能力,中國有3項應用入圍最終提名,占了總入圍項目的一半,2017年三項入圍應用中,基于“神威·太湖之光”的應用占據2/3。
在會(huì )場(chǎng)對楊廣文教授進(jìn)行了專(zhuān)訪(fǎng)。
楊廣文教授和團隊在無(wú)錫超級計算中心的主要工作是負責“神威·太湖之光”機器的運維。他介紹,運維的目的就是把超級計算機用好。首先得好用,然后還要用好,好用不是簡(jiǎn)單的管理與調整機器,還要做很多國產(chǎn)處理器生態(tài)建設方面的工作。把程序庫建好、應用支撐做好、調度方法做好,用戶(hù)的支持也就做好了,這是最基本的工作。
“當然我們不但要讓機器好用、用好,也要考慮將來(lái)超算中心的可持續發(fā)展,所以除此之外我們還吸引國內外的優(yōu)秀科研人員開(kāi)展大量的研發(fā)工作,支持解決重要科學(xué)問(wèn)題、重大裝備研發(fā),另外還進(jìn)一步支持產(chǎn)業(yè)升級等,加強研發(fā)是我們的一項重要工作。 ”楊廣文教授說(shuō)。
他還與我們分享了為什么國家超級計算無(wú)錫中心選擇清華大學(xué)的團隊去進(jìn)行維護。他說(shuō),超算是一個(gè)交叉學(xué)科研究,希望有強的學(xué)科背景,又有超算運維經(jīng)驗的單位來(lái)做這個(gè)事,這樣就選了清華大學(xué)。因為清華大學(xué)超算級計算及應用基礎很好,學(xué)校也希望借助神威·太湖之光的超強計算能力來(lái)支持國家的重大需求,因此通過(guò)協(xié)商,最終決定由無(wú)錫市、清華大學(xué)、江蘇省產(chǎn)業(yè)研究院共同運維這臺世界最大的計算機。
到目前基于“神威·太湖之光”已完成了20多個(gè)應用領(lǐng)域上百項應用的計算任務(wù),目前完成的整機應用已達15個(gè),取得一些重要的應用成果。
在采訪(fǎng)中了解到,無(wú)錫超算中心也就是“神威·太湖之光”接下來(lái)會(huì )與國家并行計算機工程技術(shù)中心合作推出小型化機器,并針對具體應用進(jìn)行定制,如支持深度學(xué)習的專(zhuān)用機。
關(guān)于無(wú)錫超算對深度學(xué)習的支持,楊廣文教授說(shuō):“第一個(gè)開(kāi)發(fā)了大量深度學(xué)習算法 并行軟件;第二,研發(fā)了一個(gè)深度學(xué)習平臺swCaffe,來(lái)支持用戶(hù)基于這個(gè)進(jìn)行深度學(xué)習應用,目前已開(kāi)展的應用包括圍棋、語(yǔ)音識別、醫學(xué)圖像識別、遙感圖像分類(lèi)、地震波余震特征識別、大規模冷凍電鏡生物大分子模型高精度重構等;第三,我們也在布局,與國家并行計算機工程技術(shù)中心基于申威26010芯片開(kāi)展小型化機器研發(fā),特備針對特殊應用開(kāi)展專(zhuān)用機的研制。進(jìn)一步,可根據重大應用需求,提出一些申威自主芯片的一些改進(jìn)方案,如針對人工智能、深度學(xué)習做一些定制的芯片,這是一個(gè)長(cháng)期的研究工作?!?/span>
此前曾經(jīng)報道,中美兩國都在開(kāi)展百億億級的超級計算機,這是超級計算機發(fā)展的一個(gè)目標,如果實(shí)現了百億億級的超級計算,它對人工智能會(huì )帶來(lái)什么樣的影響?
楊廣文教授說(shuō),百億億級的超級計算機的研制目前是一個(gè)國際競爭熱點(diǎn),我國在十三五期間已進(jìn)行了規劃。百億億級超級計算機的研制成功,但對人工智能具有重要的作用,可滿(mǎn)足人工智能對大模型、大數據、大計算的需求。但是百億億級的超級計算機研制成功后,如何更好地支持人工智能技術(shù)的發(fā)展,需要多領(lǐng)域的專(zhuān)家共同努力,研發(fā)大型并行應用軟件,共同解決核心問(wèn)題。
談到AI時(shí)代對計算能力的要求,楊廣文教授認為以后還是會(huì )朝著(zhù)定制化的方向的發(fā)展。
他認為,AI并不見(jiàn)得就是一定要有超算那么大一個(gè)機器來(lái)做,現在有很多情況下在數據采集的時(shí)候就可以進(jìn)行一些處理,所以終端就可能用到高性能計算。終端處理完以后再進(jìn)行數據收集、傳輸、存儲,后面再用到超算。
將來(lái)針對特殊應用做一個(gè)定制的系統。芯片可以定制,系統也可以定制,應用也可以定制,多個(gè)層次的定制,這才是一個(gè)比較滿(mǎn)意的系統。
人工智能計算大會(huì )由中國工程院信息與電子工程學(xué)部主辦、浪潮集團承辦,共邀請了海內外數十位知名專(zhuān)家圍繞AI計算創(chuàng )新主題進(jìn)行研討報告,分享了AI在互聯(lián)網(wǎng)、云計算、超算、安防、醫療、能源、電商、智慧城市等眾多行業(yè)的創(chuàng )新實(shí)例,吸引了來(lái)自各行業(yè)的數千名專(zhuān)業(yè)人士參與。主旨是圍繞AI當下需求及未來(lái)發(fā)展,從計算創(chuàng )新著(zhù)眼,聯(lián)合從事AI計算及應用的公司、用戶(hù)、專(zhuān)家、開(kāi)發(fā)者共同打造探討促進(jìn)AI計算的交流合作平臺,推動(dòng)AI產(chǎn)業(yè)的可持續發(fā)展。
2017年9月7日,由中國工程院信息與電子工程學(xué)部主辦、浪潮集團承辦的首屆人工智能計算大會(huì )(AI Computing Conference,簡(jiǎn)稱(chēng)AICC)在北京舉行。清華大學(xué)教授、國家超級計算無(wú)錫中心主任楊廣文在會(huì )上作了《神威·太湖之光的深度學(xué)習應用》的主題演講。介紹了此前登頂全球超級計算機500強榜單榜首的神威·太湖之光在深度學(xué)習上的應用。
“神威·太湖之光”是世界上首臺峰值浮點(diǎn)運算性能超過(guò)每秒十億億次的超級計算機。該系統是我國“十二五”期間“863計劃”的重大科研成果,由國家并行計算機工程技術(shù)研究中心研制,運算系統全面采用了由國家高性能集成電路設計中心通過(guò)自主核心技術(shù)研制的國產(chǎn)“申威26010”眾核處理器。
“神威·太湖之光”也是我國第一臺全部采用國產(chǎn)處理器構建的世界排名第一的超級計算機。
此外,2016年年底,國際高性能計算應用最高獎戈登·貝爾獎公布獲獎入選名單中,依托于“神威·太湖之光”的強大計算能力,中國有3項應用入圍最終提名,占了總入圍項目的一半,2017年三項入圍應用中,基于“神威·太湖之光”的應用占據2/3。
在會(huì )場(chǎng)對楊廣文教授進(jìn)行了專(zhuān)訪(fǎng)。
楊廣文教授和團隊在無(wú)錫超級計算中心的主要工作是負責“神威·太湖之光”機器的運維。他介紹,運維的目的就是把超級計算機用好。首先得好用,然后還要用好,好用不是簡(jiǎn)單的管理與調整機器,還要做很多國產(chǎn)處理器生態(tài)建設方面的工作。把程序庫建好、應用支撐做好、調度方法做好,用戶(hù)的支持也就做好了,這是最基本的工作。
“當然我們不但要讓機器好用、用好,也要考慮將來(lái)超算中心的可持續發(fā)展,所以除此之外我們還吸引國內外的優(yōu)秀科研人員開(kāi)展大量的研發(fā)工作,支持解決重要科學(xué)問(wèn)題、重大裝備研發(fā),另外還進(jìn)一步支持產(chǎn)業(yè)升級等,加強研發(fā)是我們的一項重要工作。 ”楊廣文教授說(shuō)。
他還與我們分享了為什么國家超級計算無(wú)錫中心選擇清華大學(xué)的團隊去進(jìn)行維護。他說(shuō),超算是一個(gè)交叉學(xué)科研究,希望有強的學(xué)科背景,又有超算運維經(jīng)驗的單位來(lái)做這個(gè)事,這樣就選了清華大學(xué)。因為清華大學(xué)超算級計算及應用基礎很好,學(xué)校也希望借助神威·太湖之光的超強計算能力來(lái)支持國家的重大需求,因此通過(guò)協(xié)商,最終決定由無(wú)錫市、清華大學(xué)、江蘇省產(chǎn)業(yè)研究院共同運維這臺世界最大的計算機。
到目前基于“神威·太湖之光”已完成了20多個(gè)應用領(lǐng)域上百項應用的計算任務(wù),目前完成的整機應用已達15個(gè),取得一些重要的應用成果。
在采訪(fǎng)中了解到,無(wú)錫超算中心也就是“神威·太湖之光”接下來(lái)會(huì )與國家并行計算機工程技術(shù)中心合作推出小型化機器,并針對具體應用進(jìn)行定制,如支持深度學(xué)習的專(zhuān)用機。
關(guān)于無(wú)錫超算對深度學(xué)習的支持,楊廣文教授說(shuō):“第一個(gè)開(kāi)發(fā)了大量深度學(xué)習算法 并行軟件;第二,研發(fā)了一個(gè)深度學(xué)習平臺swCaffe,來(lái)支持用戶(hù)基于這個(gè)進(jìn)行深度學(xué)習應用,目前已開(kāi)展的應用包括圍棋、語(yǔ)音識別、醫學(xué)圖像識別、遙感圖像分類(lèi)、地震波余震特征識別、大規模冷凍電鏡生物大分子模型高精度重構等;第三,我們也在布局,與國家并行計算機工程技術(shù)中心基于申威26010芯片開(kāi)展小型化機器研發(fā),特備針對特殊應用開(kāi)展專(zhuān)用機的研制。進(jìn)一步,可根據重大應用需求,提出一些申威自主芯片的一些改進(jìn)方案,如針對人工智能、深度學(xué)習做一些定制的芯片,這是一個(gè)長(cháng)期的研究工作?!?/span>
此前曾經(jīng)報道,中美兩國都在開(kāi)展百億億級的超級計算機,這是超級計算機發(fā)展的一個(gè)目標,如果實(shí)現了百億億級的超級計算,它對人工智能會(huì )帶來(lái)什么樣的影響?
楊廣文教授說(shuō),百億億級的超級計算機的研制目前是一個(gè)國際競爭熱點(diǎn),我國在十三五期間已進(jìn)行了規劃。百億億級超級計算機的研制成功,但對人工智能具有重要的作用,可滿(mǎn)足人工智能對大模型、大數據、大計算的需求。但是百億億級的超級計算機研制成功后,如何更好地支持人工智能技術(shù)的發(fā)展,需要多領(lǐng)域的專(zhuān)家共同努力,研發(fā)大型并行應用軟件,共同解決核心問(wèn)題。
談到AI時(shí)代對計算能力的要求,楊廣文教授認為以后還是會(huì )朝著(zhù)定制化的方向的發(fā)展。
他認為,AI并不見(jiàn)得就是一定要有超算那么大一個(gè)機器來(lái)做,現在有很多情況下在數據采集的時(shí)候就可以進(jìn)行一些處理,所以終端就可能用到高性能計算。終端處理完以后再進(jìn)行數據收集、傳輸、存儲,后面再用到超算。
將來(lái)針對特殊應用做一個(gè)定制的系統。芯片可以定制,系統也可以定制,應用也可以定制,多個(gè)層次的定制,這才是一個(gè)比較滿(mǎn)意的系統。