【新興領域最新發展與獲投消息】AWS re:Invent 2018 大會亮點

亞馬遜AWS re:Invent 2018在美國時間 11 月 26 日於拉斯維加斯正式登場，亞馬遜 AWS CEO Andy Jassy 在28日3 小時的Keynote Speech中，以 WHAT DO BUILDERS WANT 為題，AWS一口氣發布超過20款雲端產品，其中半數都與雲端AI與機器學習切身相關，不只在客製化的AI與機器學習服務有相當多的著墨，還有針對推出一年的SageMaker加入更多強大進階功能，甚至還推出第一款專用的機器學習推論晶片，以及加入增強式機器學習算法的支援。

Andy Jassy近3個小時的演講，花了很長時間都在談論機器學習與AI，主要因為企業對於雲端AI與機器學習需求的大幅成長，也大大的影響到了AWS今年對這塊市場的布局更加積極，光是這天發布的超過20款以上的雲端產品，最少10個以上都是與AI與機器學習相關服務。

如果是以產品定位來分，AWS將機器學習分三層，最底層是基礎設施與ML框架層，中間層是ML服務，最上層是AI服務，這三層都是軟體堆疊而成。AWS今年針對每一層所面對的用戶需求，都有推出了各種解決方案，幫助他們解決開發機器學習遇到的共通難題。

15 項重量級新品一覽

1.     Amazon S3 Glacier Deep Archive：雲端超低成本的冷儲存。

2.     Amazon FSx for Windows File Server：全托管建立在原生 Windows 視窗檔案伺服器上的視窗檔案系統。

3.     Amazon was FSx for Lustre：全托管針對繁重計算負載的 Lustre 檔案系統。

4.     Amazon Control Tower：提供安全合規的多帳戶的環境，為 Landing Zone 登陸區。

5.     AWS Security Hub：在 AWS 環境集中管理安全和合規的服務。

6.     Amazon Lake Formation：助你在幾天內建立安全的資料湖。

7.     Amazon Timestream：全托管快速、可伸縮的時間串列資料庫。

8.     Amazon Quantum Ledger Database（QLDB）：全托管的中心權威機構，擁有分散式記帳資料庫，提供透明、不可變更、加密的交易認證。

9.     Amazon Managed Blockchain：全托管支援超級帳本平台 Hyperledger Fabric 和以太坊 Ethereum 架構的區塊鏈服務。

10. Amazon Elastic Inference：在 EC2 實例輔以圖形加速處理，以達成低成本的快速推斷運算。

11. Amazon Marketplace for Machine Learning：提供上百可直接在 Amazon SageMaker 部署的機器學習演算法和模型。

12. Amazon Textract：可從幾乎任何檔案擷取文字和資料的光學字元辨識服務。無需機器學習經驗即可使用。

13.
Amazon Personalize：基於亞馬遜網站使用的相同技術，提供即時個性化自訂和建議。無需機器學習經驗即可使用。

14. Amazon Forecast：基於亞馬遜網站使用的相同技術，提供準確的時間串列預測。無需機器學習經驗即可使用。

15. AWS Outposts：在本地資料中心執行 AWS 基礎設施，獲得一致的混合架構體驗。

其中幾個值得關注的AI相關新產品為Inferentia 機器學習晶片、Amazon Elastic Inferenc、SageMaker Ground Truth訓練標記輔助服務、DeepRacer無線電控制的自動駕駛四輪賽車等。

Inferentia 機器學習晶片

為了提供更高GPU推論運算能力與更低延遲需求，Andy Jassy 宣布名為 Inferentia 的新型專屬機器學習晶片，他表示 Inferentia 將是高吞吐量、低延遲、持續效能極具成本效益的處理器。Inferentia 支援流行的框架，如 INT8、FP16 和混合精度。更重要的是，它支援多種機器學習框架，包括 TensorFlow、Caffe2 和 ONNX。

機器學習推論專用晶片AWS Inferentia在 2019 年才正式販賣，這也是稍早前ARM 晶片推出後，AWS最新推出的第2款自製晶片。頗有要和Google的機器學習晶片TPU較勁意味。

Amazon 彈性推理 Elastic Inference

機器學習訓練只是過程，更重要的是在後面要用訓練完後的ML模型來進行推論（inference）。為了滿足更高使用量的推論需求，AWS也推出了一個推論專用的EC2運算實例Amazon Elastic Inference，可以提供最多36 TFLOPS浮點運算能力，換作是對照片進行推論，等於是每小時可以完成36萬張照片推論。每小時租用最低只要0.22美元。Amazon Elastic Inference，這項新服務可讓用戶將 GPU 驅動的推理加速連線到任何 Amazon EC2 實例，並將深度學習成本降低多達 75％。通常看到的 P3 實例 GPU 平均利用率約 10％~30％，這對彈性推理非常浪費。Andy Jassy 表示，現在不必浪費所有成本和所有 GPU，Amazon Elastic Inference 將是非常重要的產業改變者，能以更具成本效益的方式推理，適用亞馬遜 SageMaker 筆電實例和終端機，支援機器學習框架 TensorFlow、Apache MXNet 和 ONNX。

SageMaker進階服務

AWS去年推出ML自動建置和部署工具SageMaker後，如今這項服務已有超過上萬家企業採用。在這次活動上，AWS也推出了更多進階服務。如提高訓練資料標記品質的標記輔助服務Ground Truth，這是一套訓練集標記服務。使用 Ground Truth，開發人員可將服務指向儲存資料的儲存桶，並允許服務自動標記，用戶可為全自動服務設定可信標準，也可將資料傳送給人工。就好像你討厭一個員工，就可讓 Ground Truth 標記。

此外，還有推出一個AWS Marketplace機器學習演算法市集，能讓個人或企業能在這個市集上進行ML模型或演算法的買賣交易，目前已有至少150種演算法與模型上架，使用者購買之後，亦可直接透過SageMaker來完成模型部署。而且SageMaker不只能用在監督式與非監督式機器學習，現在連增強式學習（Reinforcement learning）的機器學習也都能透過SageMaker RL這個新服務來完成了。

具備微型機器學習能力的全球自主賽車 DeepRacer

DeepRacer 是一款 1/18 無線電控制的自動駕駛四輪賽車，硬體規格上，採用英特爾Atom雙核處理器，車上也配有HD攝影鏡頭、搭配一個方向偵測陀螺儀與加速計。AWS DeepRacer可以搭配來使用SageMaker RL，讓開發者能利用SageMaker RL 來建立、訓練和部署增強式學習演算法，以便讓這部車可以自己完成開車、直線過彎等動作，不需要人遠處遙控。DeepRacer每臺正式售價399美元，但亞馬遜預售訂單為 249 美元。這輛車將於 2019 年 3 月上市。

雖然AWS今年AI產品策略，特別著重在提供更多機器學習自動化、管理及部署工具，來減少使用者建立、測試和部署ML模型的時間，不過在這之餘，還是有推出幾款AI新服務，包括能提供更精準OCR文字識別的Amazon Textract以及個人化推薦等，還有一個針對時間序列的預測性服務Amazon Forecast，這是原本Amazon使用的分析技術，現在一般零售業者也能夠用得到了。

網址：

1.亞馬遜 AWS 用 180 分鐘發表十多個新品：機器學習晶片、AI 創新、區塊鏈

2. 【AWS re:Invent 2018直擊】為爭奪雲端AI大餅，AWS狂推新機器學習服務，更多客製化ML工具與專用推論晶片登場