好的芯片一定是在(zai)實際場(chang)景中打磨(mo)迭代而(er)來(lai)的,如何(he)去破解(jie)“用(yong)金錢投入換取時間”是目(mu)前最大的難點(dian)。
雷鋒(feng)網(wang)&AI掘金志去年曾統(tong)計(ji),在國內創立的13家(jia)AI芯片公司(si)中,超過10家(jia)都(dou)布(bu)局了安防(智慧城市)相關市場。
在這場世紀大爭斗中(zhong),從業者也(ye)需(xu)沉心思考:安防(fang)究竟需(xu)要(yao)一款怎(zen)樣(yang)的AI芯片(pian)?專用芯片(pian)是否會(hui)成為主流(liu)?端側和云側需(xu)要(yao)的AI芯片(pian)又有何不(bu)同?
對于這(zhe)些疑問,宇視總裁(cai)張鵬國近(jin)日在(zai)接受AI掘金志專(zhuan)訪時,給出(chu)了他的(de)(de)答案(an)。對于行業市場的(de)(de)判斷、技術走向的(de)(de)預測有(you)著敏銳(rui)的(de)(de)直覺和出(chu)色(se)的(de)(de)洞察力。
2017年深(shen)圳安博會(hui)期間,宇(yu)視總(zong)裁(cai)張鵬國在接受AI掘金志采訪時就曾提到,以算(suan)法起家(jia)的(de)AI創業(ye)公司,未來(lai)大概率會(hui)有三種活法:
1.蛻變成行業解決方案提供商
2.從算法到算力,軟硬件一手抓
3.被收購或者直接消失
一(yi)眾公司兩年時間的(de)不斷試(shi)錯也的(de)確驗證了張(zhang)(zhang)鵬(peng)國此前的(de)預判(pan)。隨著AI在(zai)安防等(deng)行業的(de)不斷滲透,今天的(de)技術價值中心也的(de)確逐(zhu)漸由軟(ruan)件算法(fa)層轉移至核心算力(li)層。眼下,站在(zai)AI芯片方興未艾的(de)十字路口,張(zhang)(zhang)鵬(peng)國又作出了怎樣的(de)技術預判(pan)?以下是AI掘金志與(yu)張(zhang)(zhang)鵬(peng)國訪談(tan)內容:
AI掘金志:傳統芯片公司、傳統安防廠商、AI初創芯片企業,目前多股勢力都在布局AI安防芯片。有的在芯片生態上比較完善、有的更了解安防行業的需求,有的則在加速方面能做到更優。你認為,哪一類企業的贏面會更大?
張鵬國:不(bu)同(tong)廠家可以(yi)基于自(zi)身優勢(shi)和資源,選取不(bu)同(tong)的突破方向(xiang),生態、業(ye)務、性能(neng)各有優點(dian),其實都是很好(hao)的出發點(dian)。
但(dan)實(shi)際上,安防(fang)行業也有(you)(you)它的(de)特點(dian),場(chang)景(jing)比(bi)較碎片化(hua)。所以(yi)做(zuo)安防(fang)芯片必(bi)須(xu)要跨過的(de)坎是(shi),要做(zuo)到約500萬片的(de)數量才有(you)(you)成(cheng)本優勢(shi),目前僅有(you)(you)包括海大宇等為數不多(duo)的(de)廠商有(you)(you)這(zhe)個實(shi)力。
所以,很(hen)多AI芯片廠(chang)商其實面(mian)臨(lin)很(hen)大挑(tiao)戰。此(ci)外(wai),產品開發、前端、存儲、組織(zhi)建設都需要相應時(shi)間(jian)的積累(lei)。
好的芯片一(yi)定是在實(shi)際場景中(zhong)打磨迭(die)代而來的,怎么去破解(jie)“用金錢投入換取(qu)時間”是目前最(zui)大的難點,沒(mei)有10年左右的打磨,其實(shi)很難達到AI工程化交付的能力。
AI掘金志:一款(kuan)芯片是否達到AI工程化交付能力,主要看哪幾個指標?
張鵬國:“AI算(suan)(suan)力(li)(li)”確實是衡量AI芯(xin)片(pian)(pian)指標的(de)(de)重要因素之(zhi)一(yi)。回到2014年,人工(gong)智能剛(gang)剛(gang)興起的(de)(de)時候,端(duan)側(ce)的(de)(de)AI芯(xin)片(pian)(pian)算(suan)(suan)力(li)(li)僅有0.2Tops,云側(ce)的(de)(de)AI芯(xin)片(pian)(pian)算(suan)(suan)力(li)(li)僅有5Tops;但現(xian)在端(duan)側(ce)AI芯(xin)片(pian)(pian)算(suan)(suan)力(li)(li)已經達(da)到4Tops,云側(ce)的(de)(de)AI芯(xin)片(pian)(pian)算(suan)(suan)力(li)(li)達(da)到了256Tops。
但只看AI算力肯定遠遠不夠,由于應用場景(jing)不同,端側芯片和云側芯片需要分開看。
AI掘金志:在端側,你認為需要怎樣的AI芯片?
張鵬國:安(an)防芯片(pian)本(ben)身競(jing)爭力(li)、AI芯片(pian)與安(an)防芯片(pian)的集成方式、開發工具成熟度與易用性(xing)、功耗(hao)與價格等。
一是(shi)安(an)(an)防(fang)芯片(pian)本身競(jing)爭力。安(an)(an)防(fang)領域,端(duan)側(ce)一直用的(de)是(shi)安(an)(an)防(fang)專(zhuan)用芯片(pian),并不存在通用芯片(pian)。即(ji)使AI時(shi)代,端(duan)側(ce)芯片(pian)首先需要(yao)的(de)是(shi)有競(jing)爭力的(de)安(an)(an)防(fang)芯片(pian),其次才是(shi)在這基礎上(shang)疊加AI 算力。比如,OS、安(an)(an)防(fang)SDK、ISP、編碼都(dou)非常重要(yao)。這就對芯片(pian)廠商的(de)綜合要(yao)求很高,安(an)(an)防(fang)需要(yao)的(de)是(shi)具備完備能力的(de)芯片(pian)。端(duan)側(ce)芯片(pian)雖然體(ti)積(ji)小價格低,但系統(tong)復雜度、技術難度一點都(dou)不低。
二是(shi)AI芯(xin)片與(yu)安防(fang)芯(xin)片的集成方(fang)式(shi)。比較早的時候(hou),AI落地(di)端側,采用的是(shi)在主芯(xin)片邊上加一(yi)顆(ke)AI 協處理器,即兩(liang)顆(ke)芯(xin)片的方(fang)式(shi)。但現(xian)在,合二為一(yi)的方(fang)案已是(shi)主流(liu),在系(xi)統(tong)復雜度(du)、成本、功耗上都更(geng)有競爭(zheng)力。
三是(shi)開(kai)發(fa)工具成(cheng)熟(shu)度與易用(yong)性。芯片(pian)的軟件開(kai)發(fa)工具非常重要,比如是(shi)不(bu)是(shi)能(neng)支持Caffe、Tensorflow、Pytorch等(deng)主流深(shen)度學習(xi)框架(jia),相關工具是(shi)不(bu)是(shi)易用(yong)、穩定,對(dui)于AI應用(yong)開(kai)發(fa)者來說都(dou)非常重要,如果開(kai)發(fa)工具不(bu)成(cheng)熟(shu)或不(bu)易用(yong),很容(rong)易就會被開(kai)發(fa)者拋棄了。
四是(shi)功耗(hao)與價格。端側設備,對功耗(hao)和(he)價格都非常(chang)敏感(gan)。
AI掘金志:云側呢?
張鵬國:解(jie)碼能力、大數據并發(fa)(fa)效率、開發(fa)(fa)工(gong)具(ju)成熟度與(yu)易用性、功耗以(yi)及價格(ge)。
一是(shi)解碼(ma)能(neng)力(li)(li)。云(yun)側芯片處(chu)理的(de)是(shi)經(jing)過(guo)編碼(ma)的(de)圖片或視頻,需(xu)要(yao)解碼(ma)。在芯片設計上,需(xu)要(yao)內嵌專門的(de)硬解碼(ma)模(mo)塊,不占用AI算力(li)(li);另(ling)外,解碼(ma)能(neng)力(li)(li)上必須不能(neng)低(di)于(yu)AI處(chu)理能(neng)力(li)(li),不然解碼(ma)就會(hui)成為瓶頸。
二是大數(shu)(shu)據(ju)并發效(xiao)率(lv)(lv)。現在云側芯片的AI處理能(neng)力非常強,所(suo)以大數(shu)(shu)據(ju)并發交互的效(xiao)率(lv)(lv)非常重要,大數(shu)(shu)據(ju)并發效(xiao)率(lv)(lv)決定了AI算力實際能(neng)發揮多少。
三(san)是功耗(hao)與價格(ge)。雖然(ran)這方面云(yun)側(ce)芯片沒(mei)有端側(ce)芯片那么(me)敏感(gan),但低功耗(hao)與低價格(ge)永(yong)遠都是用戶的訴求。
AI掘金志:對于AI安防芯(xin)片(pian)的通用(yong)還是專(zhuan)用(yong),你(ni)認為應該如何平(ping)衡?
張鵬國:AI安防芯片(pian)要看(kan)它是(shi)(shi)用在(zai)端(duan)還是(shi)(shi)后臺(tai),端(duan)芯片(pian)的應用關注(zhu)算(suan)力(li)和能(neng)耗(hao),追(zhui)求算(suan)力(li)和能(neng)耗(hao)持(chi)續提升,這樣就(jiu)能(neng)讓計(ji)算(suan)在(zai)前端(duan)完成,減(jian)少傳輸(shu)的壓力(li),讓后端(duan)專注(zhu)于后端(duan)算(suan)力(li)的提升,前端(duan)作為基本算(suan)力(li)的存儲。
AI芯片(pian)(pian)(pian)最(zui)重要(yao)的(de)問(wen)題(ti)在于是否(fou)都(dou)能(neng)(neng)適配,所以就存在一個問(wen)題(ti):AI芯片(pian)(pian)(pian)是通(tong)用(yong)芯片(pian)(pian)(pian)還是專用(yong)芯片(pian)(pian)(pian),專用(yong)芯片(pian)(pian)(pian)對特殊場景會(hui)有(you)優(you)化和措施,靈活(huo)性會(hui)下(xia)降(jiang);通(tong)用(yong)芯片(pian)(pian)(pian),通(tong)用(yong)性更強,能(neng)(neng)耗相(xiang)應就會(hui)上(shang)升(sheng)。
后臺沒有專門的AI芯片,因為要求(qiu)更加通用化(hua)、多算法(fa),因此需要思考如何做好通用性和各種算法(fa)的同時(shi)調度能力。
AI掘金志:在AI算(suan)法(fa)(fa)還沒有完全成熟的時候做芯(xin)片,怎(zen)么(me)平衡好(hao)AI安(an)防(fang)芯(xin)片和快速迭(die)代(dai)的算(suan)法(fa)(fa)之間的問(wen)題?
張鵬國:市面(mian)上絕大多數AI芯(xin)片不直接做(zuo)“算法(fa)”,而(er)只(zhi)是做(zuo)好(hao)“提供算力(li)”、“提供底層算子”。
一(yi)方面AI算(suan)(suan)(suan)(suan)法(fa)迭代變化(hua)(hua)很快(kuai),無(wu)法(fa)固化(hua)(hua)到芯片中;另一(yi)方面,AI的(de)場景化(hua)(hua)特點導(dao)致一(yi)個算(suan)(suan)(suan)(suan)法(fa)無(wu)法(fa)通吃所有場景。以(yi)智(zhi)(zhi)能(neng)識別為(wei)例,用于智(zhi)(zhi)能(neng)門禁的(de)算(suan)(suan)(suan)(suan)法(fa)和用于靜態(tai)檢(jian)索的(de)算(suan)(suan)(suan)(suan)法(fa)是(shi)兩個不同的(de)算(suan)(suan)(suan)(suan)法(fa)。所以(yi),多數AI芯片廠商(shang)是(shi)“提(ti)供算(suan)(suan)(suan)(suan)力”、“提(ti)供底層(ceng)算(suan)(suan)(suan)(suan)子”的(de)思路(lu),“算(suan)(suan)(suan)(suan)法(fa)”留給具(ju)備算(suan)(suan)(suan)(suan)法(fa)開發(fa)能(neng)力的(de)安防(fang)廠商(shang)去做。但(dan)AI安防(fang)芯片廠商(shang)需(xu)要加(jia)強(qiang),對底層(ceng)運算(suan)(suan)(suan)(suan)加(jia)速算(suan)(suan)(suan)(suan)法(fa)的(de)適應性。
AI掘金志:AI芯(xin)片(pian)在安防(fang)攝像頭中的位置是(shi)(shi)如(ru)何的,如(ru)果(guo)僅作為協(xie)處理器,是(shi)(shi)否會被(bei)主控芯(xin)片(pian)集(ji)成,只能在窗(chuang)口期獨立存(cun)在?
張鵬國:早期AI落地端側,是在(zai)主(zhu)(zhu)芯(xin)片(pian)邊上(shang)加一顆AI協處理器,即兩(liang)顆芯(xin)片(pian)。如今(jin),合(he)二為一的(de)方案(an)已經成(cheng)為主(zhu)(zhu)流,是目前(qian)的(de)既成(cheng)事實。在(zai)系統(tong)復(fu)雜度、成(cheng)本、功耗上(shang)都(dou)更(geng)具競爭(zheng)力,協處理器已經被(bei)淘汰了。
AI掘金志:你怎么看(kan)目(mu)前(qian)的AI芯片(pian)領域(yu)競爭態勢?
張鵬國:分(fen)久必(bi)(bi)合(he),合(he)久必(bi)(bi)分(fen)。
AI掘金志:怎(zen)么(me)說?你是看到了什么(me)潛在問題嗎?
張鵬國:AI主(zhu)控(kong)芯(xin)片(pian)在AI能力比較弱的(de)(de)情(qing)況下(xia),對(dui)安防攝像頭的(de)(de)端有(you)很(hen)大促進作(zuo)用(yong)(yong),但還是(shi)(shi)要(yao)分成(cheng)專用(yong)(yong)和通(tong)用(yong)(yong)來(lai)看(kan)(kan),如(ru)(ru)果是(shi)(shi)專用(yong)(yong)芯(xin)片(pian),要(yao)看(kan)(kan)主(zhu)控(kong)芯(xin)片(pian)是(shi)(shi)否(fou)需要(yao)集(ji)成(cheng)過來(lai);如(ru)(ru)果是(shi)(shi)通(tong)用(yong)(yong)芯(xin)片(pian),要(yao)看(kan)(kan)通(tong)用(yong)(yong)性和能耗(hao)。總之,需要(yao)關注(zhu)綜合成(cheng)本和綜合能耗(hao),哪個(ge)更優(you),這(zhe)一點要(yao)看(kan)(kan)市場、用(yong)(yong)戶及產(chan)品本身(shen)。
在具體應用當中,算法仍是(shi)通用的(de),算法是(shi)專(zhuan)(zhuan)用還(huan)是(shi)通用沒有定(ding)論,端側和云側在應用方向(xiang)不(bu)一致,AI芯(xin)片(pian)到底(di)是(shi)分兩種路徑,還(huan)是(shi)融合在一起走(zou),行業也還(huan)在探索中。通用和專(zhuan)(zhuan)用的(de)說法不(bu)同,哪(na)家能(neng)越(yue)做越(yue)大(da)是(shi)不(bu)確定(ding)的(de),每家都有不(bu)同觀點(dian)。
智能(neng)攝像機是(shi)否還有(you)用(yong)通用(yong)或(huo)專用(yong)芯(xin)片(pian)的空(kong)間(jian),各自說辭不同,需要時間(jian)來總結和提煉AI應用(yong)場景的特性。
AI掘金志:未(wei)來(lai),安(an)防是否也會像手機、PC端一樣形(xing)成類(lei)似(si)ARM-安(an)卓(zhuo)、Intel-微軟的(de)生(sheng)態?屆(jie)時,怎樣的(de)芯片廠商能參與(yu)構(gou)建這個生(sheng)態,AI芯片將在(zai)其中(zhong)扮演怎樣的(de)角(jiao)色?
張鵬國:如果放(fang)在攝像頭方(fang)面(mian),也許(xu)會有(you)這樣(yang)(yang)的(de)可(ke)能,但是(shi)(shi)在后端(duan)不太(tai)可(ke)能。在中國市場(chang),很多用戶要(yao)求不能受限于一個算法廠家的(de)方(fang)案,在前端(duan)方(fang)案中或許(xu)會形成某種算法和芯片廠商的(de)結盟,這樣(yang)(yang)的(de)生態要(yao)看(kan)是(shi)(shi)否有(you)巨頭來拉(la)動,但目前我們(men)還沒看(kan)到這樣(yang)(yang)的(de)巨頭。華為(wei)也許(xu)是(shi)(shi),拭目以待。
編者注(zhu):宇視(shi)(shi)研究(jiu)院(yuan)算法部部長李聰廷(ting)、宇視(shi)(shi)戰略合作部部長姚華(hua)、宇視(shi)(shi)研究(jiu)院(yuan)副(fu)院(yuan)長謝會(hui)斌、宇視(shi)(shi)品牌(pai)部楊姝婧、樊(fan)喆,對本文(wen)亦(yi)有貢獻。