FINDIT
EN
2020.04.27

【新興領域:4月焦點4】AI晶片領域投資趨勢

隨著人工智慧的應用範疇開花結果,市場上也逐漸了解到,通用型的晶片不是運行人工智慧演算法最好的解決方案,進而因場景、環境限制、特殊需求等異同,使得運算晶片市場再度回到戰國時代,百家爭鳴,本研究將整理近期觀察AI晶片的發展以及該領域的新創獲投數據,以利讀者快速掌握當前趨勢與變化。

人工智慧的發展

一般而言,多數人將人工智慧至今的發展劃分為三次大浪潮,從第一波1950年艾倫圖靈預言人工智慧機器的可能,至第二波由1980年代開始發展,把大量專家的知識輸入電腦中,最後至人工智慧的第三波浪潮,約略由2000年左右開始發展。驅動人工智慧第三波發展的關鍵,是在現代演算法、大數據與硬體運算能力核心條件的大幅改善與雲端技術加速下所催生,因半導體技術的進步提升了運算能力,此外半導體成本的下降使雲端儲存更為便宜,「大數據(big data)」便在此時蔚為主流,而現代演算法中,主要是2012年起深度學習技術(Deep Learning)引領人工智慧領域的發展,深度學習是機器學習(Machine Learning)的一個分支。而機器學習又是人工智慧的一個分支,透過演算法使機器能從大量歷史數據中學習規律,從而對新的樣本做智慧辨識或對未來進行預測。

在過去十多年內,軟體一直是高科技的明星,原因很容易理解,隨著個人電腦和行動電話的出現,定義了這個時代的革命性創新,技術堆棧的架構和軟體層促成了重要的進步,然而隨著時間推進,人工智慧演化成各種與你我息息相關的應用,包含虛擬助理以及臉部識別,這些不同的解決方案,以及其他新興的人工智慧應用程式,各種應用所面對的待解問題、環境、限制以及演算技術截然不同,語音辨識與自駕車所需的人工智慧功能明顯地有所差異,而雲端資料中心以及手機內建的人工智慧可動用的資源也天差地遠,這樣的演進,使得原本備受關注的演算法與軟體,進一步邁向硬體的差異化,而核心關鍵之一,就在於人工智慧晶片的設計,因場景、環境限制、特殊需求等異同,使得運算晶片市場再度回到戰國時代,百家爭鳴。

簡單來說,在主流分類上,人工智慧的運作分為訓練與推論,而人工智慧硬體(特別是晶片)設備的分類上,又區分為雲端與邊緣(edge),大多數推論都是在邊緣進行的,這些邊緣人工智慧晶片運用於手機、智慧音箱、無人機、AR/VR、耳機、機器人、攝影機和其他設備等,這些場景的特質包含了非通用性且具備特定目的、需電源管理或低能耗等;而訓練多屬於雲端的中央數據中心或是邊緣的數據中心,這類數據中心通常具備通用性的處理和儲存資料能力,但維護成本高且耗電量巨大,邊緣與雲端,推論與訓練,明顯地被畫分為不同的範疇。

根據Tractica的Deep Learning Chipsets報告,到2025年,雲端人工智慧晶片組的收益達146億美元,而邊緣的人工智慧晶片組更將達到516億美元。另根據Ovum調查報告指出,在2016年,雲端(包含企業、數據中心等)為深度學習晶片的主要營收領域,占據80%,但到了2025年,此一比例將會改變,轉變成邊緣占80%,雲端比例則降至20%。此外,同樣根據Tractica的預測,到2025年,邊緣人工智慧設備出貨量將從2018年的1.614億台增加到26億台,顯而易見的當未來這些設備都帶有人工智慧功能時,能夠帶動多大的市場。

投資趨勢

本研究在人工智慧晶片領域投資趨勢分析之方法,是透過參考市場研究機構與相關資訊(例如CB Insights、Crunchbase、Venture Scanner等)以及產業與企業資訊報導(例如EET、SemiWiki、TechCrunch、新通訊等),建構人工智慧晶片企業名單,再透過Crunchbase、FINDIT等資料庫,獲取企業獲投資訊。

 

圖4-1  人工智慧晶片獲投趨勢(2015-2019)

經由本研究的篩選,彙整資料庫中2015年至2019年,共138筆(62家)人工智慧晶片領域相關的公開上市前(Pre-IPO)投資資料(只包含晶片設計、IP等廠商,不含製造與封測)。於2015年,共計有9筆人工智慧晶片企業獲投事件,已揭露金額約為5,900萬美元,到2016年,企業獲投事件成長至21件,已揭露金額來到1.46億美元,在2017年,獲投事件為38件,已揭露獲投金額呈現近10倍的成長,達到12.92億美元,2018年獲投事件成長至44件,已揭露金額攀升至38.27億美元,2018年平均獲投高達1億美元,也傲視其他領域,最後至2019年,整體獲投趨緩並進入整併期,此現象除了因2019年全球投資趨緩外,人工智慧的應用場景環境仍有許多疑慮、過去獲投的晶片企業仍處於早期開發階段等因素,2019年的回檔也暗示著人工智慧晶片企業將迎來一定程度的調整。

雖然2019年的資訊顯示人工智慧晶片企業的獲投戛然而止,但此前的獲投狀況仍能看到這個領域的潛力與熱門程度,依據過去經驗,在A輪以前的獲投往往用於技術的研發與精進,因此透過觀察某領域中A輪前的高額獲投資訊,自然可推論該領域的技術受關注程度。

下表列出人工智慧晶片企業A輪以前獲投排名前10名 ,排名中也不乏已成為獨角獸之企業,如寒武紀、地平線、Graphcore,也包含大企業技術團隊出走創業,如Groq是google TPU的原核心團隊出走成立,號稱研發晶片在同等環境下功效是TPU的兩倍以上,另外如NextVPU執行長馮歆鵬在創業前擔任AMD的研發總監,換言之,這些企業的產品以及應用場景布局顯示雖然皆為人工智慧晶片,但存在極大差異,這也代表著市場資金是全面性地投入不同細分技術的新創企業。

表4-1  人工智慧晶片企業A輪以前獲投排名前10名

細分領域發展觀察

進一步細分數個企業技術所瞄準的主要範疇,可以發現從底層架構到應用場景,皆有數家新創企業積極布局欲成為其中的代表性企業。

依據von Neumann結構,計算機中控制單元以及記憶體是獨立的,但在目前巨量資料的處理與儲存上,在傳輸速度以及功耗上形成挑戰。因此,許多新創企業正透過將儲存與計算做結合,解決上述的困境,記憶體運算成為人工智慧晶片開發公司嘗試努力的目標。例如Mythic所開發的快閃記憶體陣列,可免除將資料從外部記憶體移出移入的需求,另一家新創Syntiant,與Mythic相似在開發利用快閃記憶體的記憶體內處理器架構。

此外,對於人腦運作的觀察,也成為開發人工智慧晶片的契機,例如Rain Neuromophic正在開發藉由奈米線連結的憶阻(memristive)材料,以更接近地模仿人腦。aiCTX則是開發新型全異步事件驅動神經形態人工智慧處理器DYNAP-CNN,且跟iniVation在拉斯維加斯的CES2019上推出Speck,這是一種微功耗組合式視覺傳感器和處理器SoC。而像是新創公司Koniku,更透過小老鼠活體神經元與矽基處理器(silicon-based processor)的結合構成晶片,聲稱該晶片最終可模擬「人腦」,讓機器也能如人類般感知周遭環境。

在計算機效率的議題上,摩爾定律(Moore's Law)準確的預測半導體行業的發展趨勢,成為計算機處理器製造的準則,但近年來,關於摩爾定律放緩或者失效的預期上升,原因在於電晶體中原子的數量已經越來越少,種種物理極限制約著其進一步發展,比如當閘極長度足夠短的時候,量子隧穿效應就會發生,會導致漏電流增加,此時透過光傳輸取代電子傳輸,成為一個可考慮的選項。技術上來說,光子以光速移動的光子非常適合在玻璃光纖裡傳輸巨量資料,且用光來傳輸可在同一條玻璃光纖裡,用數十種不同的波長同時傳輸不同的訊號,且不會互相干擾,這正是電子傳輸面臨的問題。

光子晶片就是一片內部有各種精細結構的半導體材料,透過該結構控制穿透晶片的光,把光分離、彎曲,並分散成不同的波長。它的運作元件是在長寬只有數釐米、材質通常是磷化銦的晶片上不過磷化銦跟其它化合物半導體一樣,材質脆弱,不僅在製造上良率比矽材料低,封裝程序比一般電子晶片更複雜。有別於傳統晶片將矩陣乘法拆解運算的做法,新創Lightmatter的光子晶片藉由讓光束通過微型可配置鏡片及感測器,透過建立及追蹤光的相位與路徑的微小變化,在光從晶片一端傳抵另一端的極短時間內,得到運算結果,除了可大幅縮短運算時間外,能耗也遠低於傳統晶片。

除了上述新興架構外,另與ARM的RISC(Reduced Instruction Set Computer,精簡指令集架構)處理器架構相同但開源的RISC-V也在近年來備受關注。因ARM授權費用愈來愈昂貴,龐大授權金使得許多小公司難以負擔,標榜開源架構、模組化的RISC-V因應而生。特別是在去年美中貿易戰後,從去年下半年開始,RISC-V成為中國IC設計產業的當紅炸子雞,中國政府大力支持,產業界也佈建供應鏈。特別是從中興通訊被封殺後,採用開源授權架構、不受特定廠商控制的RISC-V自然備受青睞。例如成立於2017年位於深圳的睿思芯科,也在2019年三月推出一款RISC-V架構、名為Pygmy的人工智慧晶片,並宣稱在能耗、晶片尺寸、運算效能上都贏過ARM同級晶片。

在底層技術上的發展如火如荼展開之際,專注於特定應用場景的晶片開發同樣快速成長。

2018年11月,NIST機構發布的一項人臉辨識排名,商湯名列第二,僅次於中國人臉辨識公司依圖。2019年8月,MegaFace公布的國際人臉識別與驗證競賽前10名榜單,商湯科技也名列第三,僅次於Google與三星。人臉辨識在中國因其政治因素,發展的特別蓬勃。此外,在人臉辨識以外的視覺處理方面,如我國新創企業耐能,於2015成立,獲高通、阿里巴巴投資。主力產品KL520晶片投入市場後獲得全球企業青睞,包含記憶體IC設計廠商鈺創、納斯達克上市企業奇景光電、工業電腦大廠研揚科技、專業通訊元件設計及通路商全科科技、ODM廠商和碩聯合科技等。透過KL520的AI運算能力,將各類產品效能全面提升。

此外,在語音辨識方面,Cadence亞太區IP銷售總監陳會馨表示,早期智慧音箱發展時,內部多採用CPU架構,但自2016年起,許多晶片廠商開始研發專用的語音處理晶片,也導入語音DSP在其中,是為滿足智慧語音識別處理日益提升的所需效能。

智慧語音是中國人工智慧技術中成熟度較高也較早進入商用化的技術。根據中國中商產業研究院的預估,智慧語音於中國在未來幾年有機會保持年成率在40%左右的高速成長區間。知名廠商例如雲知聲,於2012年成立,原專精於語音雲端人工智慧,2014年規劃研發晶片,2019年宣布將生產三款晶片,累積獲投3億美元,估值10億美元。

最後,一個近年最為熱門的場景-自駕車,是一個能耗介於非常特殊位置的應用,如自動駕駛車輛中的攝影機,需要盡可能接近即時反應,以識別交通號誌、車輛以及行人,對於延遲的問題無法妥協,但同時仍需要最小化功耗,畢竟能裝載的電力有限。自駕車已有非常多的科技大廠、車商進入,但中國仍創造出地平線這家硬底子的新創企業,該企業成立於2015年,定位於提供自動駕駛、智慧生活、智慧監督及賦能裝置終端「從感知、互動、理解到決策的智慧」。目前累積獲投達7億美元,估值30億美元。主力晶片征程二代作為一款面向汽車應用的晶片,從設計之初就嚴格按照汽車電子可靠性標準AEC-Q100的要求進行開發,提供L3-L4的解決方案。

人工智慧是當前全球科技發展重點方向,若以Compass Intelligence 的排名資料來看,排名前三名分別為NVIDIA、Intel、IBM,其人工智慧晶片發展指數均在80以上,中國的人工智慧龍頭-華為海思的指數為64.5,排名全球第12。不過從獲投資料顯示,相較於歐美更積極布局於新架構、底層技術的持續研究,在中國如語音、視覺、自然語言處理等領域,因挾帶著龐大的內需市場,在應用場景的晶片發展上較為較蓬勃發展。

結語

人工智慧已是不可逆的趨勢,其中的關鍵技術人工智慧晶片開發自然成為舞台上的主角。本研究透過彙整人工智慧的發展、早期投資以及企業資訊,了解全球早期資金於此領域的布局以及企業技術發展現況。

根據本次研究所觀察的企業及其布局,可歸納出下列趨勢,首先,通用晶片走向分眾專用化,在不同的場景將配適分眾專用晶片。分眾專用化晶片需要同時對系統規格、晶片硬體架構及軟體演算法做最佳化,因此生態系的戰國時代將再臨;再者,可觀察到非IC設計企業涉入晶片領域,專精於演算法的企業開始自行或以合作的方式,參與晶片設計,因只有他們最了解對於專用晶片的技術需求為何;最後,在資料儲存的速度與耗能限制下,類腦晶片、光子晶片以及記憶體內運算等新架構將因運而生,未來的主流晶片架構究竟為何,將是決定未來產業板塊位移的最大變因。

參考資料

Gaurav Batra et al.(2019),“Artificial-intelligence hardware: New opportunities for semiconductor companies”, MCKINSEY, https://www.mckinsey.com/industries/semiconductors/our-insights/artificial-intelligence-hardware-new-opportunities-for-semiconductor-companies

Rick Merritt (2018),“新創公司聚焦結合AI與記憶體的全新運算架構”,EETTAIWAN, https://www.eettaiwan.com/news/article/20180521NT01-Startup-Maps-AI-into-Flash-Array

Sally Ward-Foxton(2019),“AI晶片市場究竟有多大?”,EETTAIWAN, https://www.eettaiwan.com/news/article/20190911NT01-AI-Chip-Market-to-More-than-Double-in-5-Years

Sally Ward-Foxton(2019),“邊緣AI大戰一觸即發”,EETTAIWAN,https://www.eettaiwan.com/news/article/20191104NT01-ompanies-clash-over-ai-at-the-edge

Tractica(2018),“Artificial Intelligence Edge Device Shipments to Reach 2.6 Billion Units Annually by 2025”, Tractica, 2018-09-13,  https://www.tractica.com/newsroom/press-releases/artificial-intelligence-edge-device-shipments-to-reach-2-6-billion-units-annually-by-2025/

Tractica(2018),“NVIDIA’s Inference Push for AI”, Tractica, 2018-10-08, https://www.tractica.com/artificial-intelligence/nvidias-inference-push-for-ai/

Yair Siegel (2019),“影像處理結合電腦視覺:邊緣AI的下一步”,EETTAIWAN, https://www.edntaiwan.com/news/article/20190927NT71-image-processing-and-computer-vision-in-one-package

曲建仲(2019),“機器是如何學習與進步?人工智慧的核心技術與未來”,科學月刊,http://scimonth.blogspot.com/2018/03/blog-post_56.html

江泰傑(2019),“〈分析〉中國AI上游發展技不如人 中游則不落人後?”,鉅亨網,2019-06-24,https://news.cnyes.com/news/id/4344294

林育中(2019),“記憶體運算的可能趨勢”,DIGITIMES,2019-03-14,https://www.digitimes.com.tw/col/article.asp?id=1015

商周.com 整理(2017),“台積電盛世之後》「光子晶片」若成功,恐將撼動十兆全球半導體市場?”,商周,2017-10-24,https://www.businessweekly.com.tw/business/indep/33728

廖專崇(2018) ,“從遠在雲端到近在邊緣 人工智慧吹起精簡高效風”,新通訊,2018-02-05, https://www.2cm.com.tw/2cm/zh-tw/market/934FDAA420584D31B36AFC316378186E

蔣士棋(2019),“RISC-V架構,引領物聯網時代新風潮”,北美智權報,2019-03-13, http://www.naipo.com/Portals/1/web_tw/Knowledge_Center/Industry_Economy/IPNC_190313_0706.htm

蔣士棋(2019),“實現自主創新,中國大陸半導體業寄望於RISC-V”,北美智權報,2019-06-05, http://www.naipo.com/Portals/1/web_tw/Knowledge_Center/Industry_Economy/IPNC_190605_0704.htm

蘇純儀(2018),“Lightmatter致力開發光子晶片 盼為AI發展提供新助力”,DIGITIMES,2018-03-07,https://www.digitimes.com.tw/tech/dt/n/shwnws.asp?cnlid=1&id=0000525848_BUB9876M3JPD519F2Y945