雲端智能芯片是面向人(rén)工智能領域大(dà)規模數(shù)據中心和(hé)服務器(qì)提供的核心芯片。5月3日，中國科學院發布國內(nèi)首款雲端人(rén)工智能芯片，理(lǐ)論峰值速度達每秒(miǎo)128萬億次定點運算(suàn)，達到世界先進水(shuǐ)平，将廣泛應用于智能手機、智能音(yīn)箱、智能攝像頭、智能駕駛等不同領域。
智能芯片是前沿科技(jì)和(hé)社會(huì)關注的熱點，也是人(rén)工智能技(jì)術(shù)發展過程中不可(kě)逾越的關鍵環節。換句話(huà)說就是，不論有(yǒu)怎樣領先的算(suàn)法，要想最終應用，都必須通(tōng)過芯片實現。
5月3日，全球新一代人(rén)工智能芯片發布會(huì)在上(shàng)海召開(kāi)，中科院旗下的寒武紀科技(jì)公司發布了我國自主研發的Cambricon MLU100雲端智能芯片和(hé)闆卡産品、寒武紀1M終端智能處理(lǐ)器(qì)IP産品。這款國內(nèi)首個(gè)雲端人(rén)工智能芯片，理(lǐ)論峰值速度達每秒(miǎo)128萬億次定點運算(suàn)，達到世界先進水(shuǐ)平。
智能芯片實現新突破
作(zuò)為(wèi)此次發布會(huì)焦點，首次正式亮相的Cambricon MLU100雲端智能芯片，是我國首款雲端AI芯片。
據中科院計(jì)算(suàn)所研究員、寒武紀公司創始人(rén)兼CEO陳天石介紹，雲端智能芯片是面向人(rén)工智能領域大(dà)規模數(shù)據中心和(hé)服務器(qì)提供的核心芯片。雲端的智能芯片規模更大(dà)，結構更加複雜，它和(hé)終端芯片的最大(dà)區(qū)别就在于其運算(suàn)能力更強。
MLU100雲端智能芯片采用寒武紀最新的MLUv01架構和(hé)TSMC 16nm的先進工藝，可(kě)工作(zuò)在平衡模式（1GHz主頻）和(hé)高(gāo)性能模式（1.3GHz主頻）下，平衡模式下的等效理(lǐ)論峰值速度達每秒(miǎo)128萬億次定點運算(suàn)，高(gāo)性能模式下的等效理(lǐ)論峰值速度更可(kě)達每秒(miǎo)166.4萬億次定點運算(suàn)，但(dàn)典型闆級功耗僅為(wèi)80瓦，峰值功耗不超過110瓦。
“3年來(lái)，我們從研發兩顆測試芯片，一直到現在雲端智能芯片的最終亮相，我們時(shí)刻準備着‘由端入雲’。”陳天石說，MLU100基于軟硬件協同提升內(nèi)存帶寬利用率，不管是從性能比，還(hái)是功耗比來(lái)說，寒武紀都将樹(shù)立智能芯片領域的新标杆。
與寒武紀系列終端處理(lǐ)器(qì)一樣，MLU100雲端芯片仍然延續了寒武紀産品一貫出色的通(tōng)用性，可(kě)支持千萬量級用戶的大(dà)規模商用檢驗，搭載各類深度學習和(hé)經典機器(qì)學習算(suàn)法，充分滿足視(shì)覺、語音(yīn)、自然語言處理(lǐ)、經典數(shù)據挖掘等領域複雜場(chǎng)景下（如大(dà)數(shù)據量、多(duō)任務、多(duō)模态、低(dī)延時(shí)、高(gāo)通(tōng)量）的雲端智能處理(lǐ)需求。
此外，這次最新發布的寒武紀1M處理(lǐ)器(qì)是公司的第三代IP産品，它延續了前兩代産品（寒武紀1H/1A）卓越的完備性，單個(gè)處理(lǐ)器(qì)核即可(kě)支持多(duō)樣化深度學習模型，并更進一步支持經典機器(qì)學習算(suàn)法和(hé)本地訓練，為(wèi)視(shì)覺、語音(yīn)、自然語言處理(lǐ)以及各類經典的機器(qì)學習任務提供了靈活高(gāo)效的計(jì)算(suàn)平台，将廣泛應用于智能手機、智能音(yīn)箱、智能攝像頭、智能駕駛等不同領域。
“由端入雲”協同發展
寒武紀科技(jì)公司脫胎于中科院計(jì)算(suàn)所，于2016年發布了全球首款商用深度學習專用處理(lǐ)器(qì)——寒武紀1A處理(lǐ)器(qì)。它的橫空(kōng)出世打破了多(duō)項紀錄，并入選了第三屆世界互聯網大(dà)會(huì)評選的十五項“世界互聯網領先科技(jì)成果”。目前，寒武紀處理(lǐ)器(qì)也已應用于某知名國産手機新近發布的旗艦機型，實現了集成應用。
近年來(lái)，人(rén)工智能産業迅猛發展，推動了芯片市場(chǎng)規模的快速增長，也推動了人(rén)工智能計(jì)算(suàn)從終端向雲端的延伸。陳天石表示，寒武紀在技(jì)術(shù)上(shàng)貫徹“端雲協作(zuò)”的理(lǐ)念，這次發布的MLU100雲端芯片，不僅可(kě)獨立完成各種複雜的雲端智能任務，更可(kě)以與寒武紀1A/1H/1M系列終端處理(lǐ)器(qì)完美适配，讓終端和(hé)雲端在統一的智能生(shēng)态基礎上(shàng)協同完成複雜的智能處理(lǐ)任務。
陳天石指出，端側智能處理(lǐ)可(kě)以最快速響應用戶需求，以非常低(dī)小(xiǎo)的功耗、成本和(hé)延遲，幫助用戶理(lǐ)解圖像、視(shì)頻、語音(yīn)和(hé)文本。同時(shí)，雲側的智能處理(lǐ)則可(kě)以把多(duō)個(gè)端的信息彙聚在一起。由于終端的數(shù)據量有(yǒu)限，隻能根據單個(gè)用戶的數(shù)據對機器(qì)學習模型進行(xíng)微調。因此，端雲協同的智能處理(lǐ)模式将在數(shù)據方面發揮巨大(dà)優勢，利用海量數(shù)據，訓練出強大(dà)的人(rén)工智能模型。
“過去大(dà)部分芯片廠商都主攻端，例如芯片巨頭ARM公司，或是主攻雲，例如英特爾公司。兩者兼顧的卻很(hěn)少(shǎo)，因為(wèi)端雲的任務生(shēng)态區(qū)别較大(dà)。但(dàn)是智能時(shí)代這個(gè)局面會(huì)被全面打破。因為(wèi)端和(hé)雲的任務是一體(tǐ)的，編程和(hé)使用的生(shēng)态也是一緻的。作(zuò)為(wèi)一個(gè)通(tōng)用機器(qì)學習芯片廠商，寒武紀就是要端雲結合，共同推動智能芯片生(shēng)态的發展。”陳天石說。
中科院上(shàng)海分院副院長、中科院院士張旭表示，從過去在手機等終端上(shàng)應用的智能芯片，到今天更高(gāo)一層的雲端人(rén)工智能芯片，它可(kě)以使人(rén)們在手機等終端的應用上(shàng)升為(wèi)未來(lái)在雲端等領域更加廣闊的應用，所以這是一個(gè)開(kāi)拓性的突破。
當前，衆多(duō)科技(jì)公司紛紛加大(dà)對人(rén)工智能芯片的研發，包括智能手機、無人(rén)駕駛、雲計(jì)算(suàn)等各領域巨頭。根據相關機構預測，到2021年，人(rén)工智能芯片市場(chǎng)規模将超過110億美元，而2016年這一數(shù)字僅為(wèi)36億美元。
“寒武紀創立的初衷就是要讓全世界都能用上(shàng)智能處理(lǐ)器(qì)。”陳天石告訴記者，寒武紀将秉承學術(shù)界開(kāi)放、協作(zuò)的精神，以處理(lǐ)器(qì)IP授權的形式與全世界同行(xíng)共享寒武紀最新的技(jì)術(shù)成果，使全球客戶能夠快速設計(jì)和(hé)生(shēng)産具備人(rén)工智能處理(lǐ)能力的芯片産品。
共建人(rén)工智能生(shēng)态鏈
發布會(huì)上(shàng)，寒武紀部分産業夥伴公開(kāi)展示了基于寒武紀芯片的應用方案。聯想集團高(gāo)級副總裁童夫堯在發布會(huì)上(shàng)推出了基于寒武紀MLU100智能處理(lǐ)卡的ThinkSystem SR650，打破了37項服務器(qì)基準測試的世界紀錄。
“在新産品上(shàng)，我們搭載了寒武紀的芯片，有(yǒu)助于各行(xíng)各業在人(rén)工智能、VR、高(gāo)性能計(jì)算(suàn)等方面的研發和(hé)行(xíng)業解決方案的落地。”童夫堯說。
不僅如此，芯片成果還(hái)将運用于智能語音(yīn)領域。“一小(xiǎo)時(shí)的語音(yīn)數(shù)據在一個(gè)傳統處理(lǐ)器(qì)上(shàng)進行(xíng)智能應用處理(lǐ)，需要一萬小(xiǎo)時(shí)才能完成，科大(dà)訊飛一直在跟蹤人(rén)工智能專用芯片的前沿進展。”上(shàng)海訊飛總裁程甦介紹，寒武紀的智能處理(lǐ)器(qì)在語音(yīn)智能處理(lǐ)上(shàng)交出了優異的答(dá)卷，能耗效率領先競争對手的雲端GPU方案達5倍以上(shàng)。它的強大(dà)處理(lǐ)能力使得(de)手機本地端可(kě)以處理(lǐ)更加複雜的機器(qì)學習算(suàn)法，使得(de)語音(yīn)本地識别準确率相對于傳統處理(lǐ)器(qì)領先了9.8%，顯著提高(gāo)了用戶體(tǐ)驗。
中科曙光高(gāo)級副總裁任京旸在發布會(huì)上(shàng)同步推出了基于Cambricon MLU100智能處理(lǐ)卡的服務器(qì)産品系列“PHANERON”，它的性能更為(wèi)強勁，可(kě)以支持2—10塊寒武紀MLU處理(lǐ)卡，靈活應對不同的智能應用負載。以升級版的PHANERON-10為(wèi)例，單台服務器(qì)可(kě)集成10片寒武紀人(rén)工智能處理(lǐ)單元，為(wèi)人(rén)工智能訓練應用提供832T半精度浮點運算(suàn)能力，為(wèi)推理(lǐ)應用提供1.66P整數(shù)運算(suàn)能力，典型場(chǎng)景下的能效提升30倍以上(shàng)。
“下一步，曙光與寒武紀之間(jiān)的合作(zuò)将不僅僅局限于整機領域，會(huì)從頂端科研一直延伸到低(dī)端應用，合力打造下遊應用産業，共建人(rén)工智能生(shēng)态鏈。”任京旸透露，中科曙光還(hái)将發布人(rén)工智能管理(lǐ)平台SothisAI，與寒武紀的芯片及開(kāi)發環境實現無縫對接和(hé)深度融合。
