歷經(jīng)兩年研發(fā)，Arm中國首款A(yù)I產(chǎn)品周易AIPU迎落地首秀

　　上月，全志科技發(fā)布了新款智能語音專用處理器，這是 Arm 中國耗時(shí)兩年研發(fā)的周易 AIPU 的落地首秀。近日，雷鋒網(wǎng)與 Arm 中國產(chǎn)品研發(fā)副總裁劉澍和全志科技副總裁陳風(fēng)進(jìn)行了深度交流，了解到了 Arm 中國的產(chǎn)品進(jìn)展以及 Arm 中國與全志科技定制周易 AIPU 的更多細(xì)節(jié)。

　　Arm 和 Arm 中國的 AI 產(chǎn)品沖突了嗎?

　　Arm 中國在 2018 年注冊成立，中方投資團(tuán)隊(duì)占股 51%，Arm 公司占股 49%，接管 Arm 在國內(nèi)的所有業(yè)務(wù)。同時(shí)，Arm 中國也會研發(fā)更符合中國市場需求的產(chǎn)品。據(jù)悉，Arm 中國從 2018 年開始就在推進(jìn) 3 個(gè)產(chǎn)品線，分別是：周易 AIPU、山海平臺安全解決方案、星辰處理器。

　　劉澍透露：“這三個(gè)產(chǎn)品線從團(tuán)隊(duì)建立、到產(chǎn)品開發(fā)到發(fā)布客戶、到客戶芯片流片回來測試的工作，目前一切進(jìn)展順利。今年第一季度恰好都有客戶的芯片返回而且工作正常。”

　　周易 AIPU 屬于當(dāng)下最受關(guān)注的 AI 產(chǎn)品品類，也是 Arm 中國最先看到落地應(yīng)用的產(chǎn)品。“與 Arm 不久前推出的配合 Arm Cortex-M 處理 Ethos-U55 和配合 Cortex-A 處理器的 Ethos N 系列 NPU 相比，Arm 中國周易 AIPU 更加通用，既可以跟 Cortex-M 或 Cortex-A 一起工作，也可以作為處理器進(jìn)行獨(dú)立工作。”劉澍對雷鋒網(wǎng)(公眾號：雷鋒網(wǎng))表示。

　　也就是說，周易 AIPU 既不是 CPU 處理器，也不是神經(jīng)網(wǎng)絡(luò)加速器。這是因?yàn)椋芤?AIPU 定義了一套新的適用于 AI 算法的指令集，通過指令來驅(qū)動里面的向量處理單元和固定的 AI 算法處理單元，從而完成各種復(fù)雜網(wǎng)絡(luò)的組合的操作。

　　但作為一款 AI 處理器，周易 AIPU 也必須尋找通用性和效率的平衡點(diǎn)，以提升產(chǎn)品的競爭力。周易 AIPU 的做法是，用向量處理單元 Vector/Tensor Process 的并行的8-bit 向量陣列進(jìn)行向量計(jì)算，Arm 中國為 Vector/Tensor Process 定義了一整套向量處理指令集，有點(diǎn)類似于 Arm 此前的 NEON 指令集。

　　另外，周易 AIPU 中的 AI Fix Function 把常見的 AI 網(wǎng)絡(luò)里所通用的部件和單元固化為硬件，通過指令就可以驅(qū)動硬件工作，提升效率。

　　標(biāo)量部分，周易 AIPU 也有標(biāo)量單元，這個(gè)單元并非完成的 CPU，但有類似標(biāo)量處理器的功能。

　　因此，周易 AIPU 用標(biāo)量處理單元 Scalar Unit、向量處理單元 TensoCre Ellxe.Cell，還有能提升 AI 效率的 AI Fix Function，最終實(shí)現(xiàn)通用性和效率的兼顧。

　　除此之外，周易 AIPU 的架構(gòu)中還有可擴(kuò)展的安全架構(gòu)和可擴(kuò)展的用戶定義架構(gòu)。“可擴(kuò)展的用戶定義架構(gòu)其實(shí)就是給像全志科技這樣的戰(zhàn)略合作伙伴準(zhǔn)備的，因?yàn)橛械目蛻艨赡芎芎唵蔚匕?AIPU 集成下來就可以了，但也有一些比較有深入研究的芯片公司，會對里面的算子有自己定制的理解和需要。”劉澍進(jìn)一步指出，

　　“我們開放了這樣的接口，可以用特殊的指令來驅(qū)動用戶定義的算子。因此，不同周易 AIPU 平臺的產(chǎn)品最終的效能可能不同。”

　　當(dāng)然，周易 AIPU 也是一些列高度可配置的處理單元，開發(fā)者既可以配置通用的 Tensor 算力，也也已配置 AI Fix Function 專用算力。周易 AIPU 單核性能為 0.2TOPS-4TOPS，用多核配置組成系統(tǒng)最高可實(shí)現(xiàn) 64TOPS 的算力。

　　全志科技最新發(fā)布的 R329 語音專用 SoC 中集成的正是定制的周易 AIPU。

　　定制化是 AI 處理器提升競爭力的關(guān)鍵

　　全志科技 R329 中集成了定制的周易 Z1-0701，1 代表的是 Arm 中國第一代周易 AIPU 架構(gòu)，07 指它有 2 的 7 次方個(gè)硬件 MAC，01 表示還有一個(gè)通用的 Tensor 處理單元。劉澍說：“0701 是專門針對智能家居、智能樓宇、智能機(jī)器人這樣的場景深度定制的，它可以非常高效地運(yùn)行在本地的 ASR 的各種語音算法。同時(shí)，它也有相對比較簡單的視覺的分析能力，比如說圖像和人臉識別以及感知。”

　　劉澍也表示，Arm 中國是根據(jù)全志科技給出的市場定位，在周易 AIPU 的處理器上又花了數(shù)月的時(shí)間進(jìn)行定制，最終做出全志科技所需要、在市場上具備競爭力的產(chǎn)品。這樣，通過全志科技這個(gè)戰(zhàn)略合作伙伴，不僅帶來了準(zhǔn)確的市場需求信息，更用頂實(shí)話的方式開發(fā) IP 保證 Arm 中國的產(chǎn)品最切合客戶需求。

　　全志科技副總裁陳風(fēng)也說：“當(dāng)下僅僅把芯片做好還不夠，在過去幾年里，我們花了非常多時(shí)間進(jìn)行市場信息搜集，涉及市場需求，實(shí)現(xiàn)方式、手段、技術(shù)細(xì)節(jié)等。所以，在我們雙方探討合作的時(shí)候，Arm 中國也發(fā)現(xiàn)全志科技擁有非常多有價(jià)值的市場需求信息和思考，這也促成了雙方的迅速合作。”

　　“通過跟非常多的友商和算法公司進(jìn)行了大量的交流，發(fā)現(xiàn)大家對專用算力是有明確需求的，所以我們就推出了全志科技 R329 這樣的芯片，經(jīng)過了 10 個(gè)月左右的研發(fā)，這款新品已經(jīng)有樣片和樣機(jī)。”陳風(fēng)也透露。

　　“各家知名的算法廠商，包括訊飛、思必馳還有其他的合作伙伴都已經(jīng)開始做了算法的工作，他們的反饋現(xiàn)在都是非常好的。”

　　對于算法公司而言，算法移植的難度以及與硬件匹配的軟件的易用程度成為關(guān)鍵。據(jù)悉，通過 Arm 中國和全志科技的合作，可以實(shí)現(xiàn) TensorFlow 模型的 24 小時(shí)移植。未來，周易 AIPU 還會支持更多的業(yè)界主流的 AI 框架。

　　不過，在 AI 框架之下，還需要 Arm 的 Compute Library 或者是 Open AI Lab 的異構(gòu)計(jì)算庫，進(jìn)一步去支持像 Arm NN、安卓 NN 比較流行的接口。像全志這樣有實(shí)力的公司，則會有自研的 Tina OS 和 Runtime 的框架，只要把周易 AIPU 的驅(qū)動層接進(jìn)去都可以正常工作。

　　陳風(fēng)介紹，Tina OS 在全志科技內(nèi)部使用已經(jīng)有5、6 年的歷史，它是一個(gè)輕量級的 Linux OS，使用 Tina OS 的名稱后已經(jīng)迭代了三個(gè)大的版本，整個(gè) OS 完全開源，并且啟動速度非常快，現(xiàn)在全球已經(jīng)有累計(jì)超過 5 千萬臺的設(shè)備使用了 Tina OS，包括音箱、掃地機(jī)、冰箱和微波爐等。

　　品質(zhì)和靠譜是 AI 芯片落地的關(guān)鍵

　　成立于 2007 年的全志科技，早在 2011 年就開始進(jìn)入智能音箱產(chǎn)品，但那時(shí)的智能音箱是能連上 Wi-Fi 就叫智能，和 2013 年之后我們所說的智能音箱的概念還是有所不同。全志科技新發(fā)布的 AI 芯片會以智能音箱為切入點(diǎn)，然后滲入到智慧城市，包括智能樓宇、智慧工業(yè)以及智慧生活當(dāng)中。

　　陳風(fēng)預(yù)計(jì)，家電產(chǎn)品應(yīng)該在 2020 年和 2021 年左右開始迎來第一波的智能化的普及浪潮。

　　他指出，語音面板看起來不起眼，實(shí)際上量非常大的市場。因?yàn)楣I(yè)控制器、電梯、汽車的駕駛平臺以及一些專業(yè)的電子設(shè)備都會有控制面板，這個(gè)面板的語音化現(xiàn)在也已經(jīng)開始全面啟動了。

　　談及全志科技 AI 產(chǎn)品的核心競爭力，陳風(fēng)說：“我們現(xiàn)在是有非常明確的答案和信心的，任何一個(gè)產(chǎn)品或者是技術(shù)的落地，需要的是非常可靠的一種實(shí)現(xiàn)方式。我所說的可靠，不僅來源于全志科技有實(shí)力，過去的經(jīng)歷也證明我們公司能夠向客戶提供極其持久的技術(shù)支持和產(chǎn)品支持。”

　　另外就是品質(zhì)，“電子產(chǎn)品是否可靠，在消費(fèi)電子領(lǐng)域、工業(yè)電子領(lǐng)域，以及在智慧家庭領(lǐng)域有截然不同的等級要求。在家電領(lǐng)域，品質(zhì)也是客戶重點(diǎn)考量的對象，要求的級別可能是 99.9%，也可能是 99.99%，最高達(dá)到了 99.9999%，這么高的可靠性要求，背后也是客戶精細(xì)化經(jīng)營的要求。”陳風(fēng)指出，“通過類似的場景大家可以感受到，語音技術(shù)在商品化的過程中，靠譜這兩個(gè)字是有多么重要，它擺在了先進(jìn)性之前。”

　　雷鋒網(wǎng)小結(jié)

　　Arm 的 AI 產(chǎn)品的發(fā)布和落地進(jìn)展在業(yè)界都并非最快，這其中很重要的原因就是 Arm 在權(quán)衡 NPU 的效率和靈活性花了更多時(shí)間。在 Arm 中國的產(chǎn)品中，周易 AIPU 作為 Arm 中國的首款 AI 產(chǎn)品，通過一套新的 AI 算法指令集適應(yīng) AI 處理器的需求，兼顧通用性和效率。并且，周易 AIPU 的指令集設(shè)計(jì)和架構(gòu)設(shè)計(jì)都由 Arm 中國完成，因此這也是一個(gè) Arm 中國自主可控的產(chǎn)品。

　　Arm 中國與全志科技的合作，是周易 AIPU 的首秀，最終的競爭力到底如何，我們將保持關(guān)注。另外，Arm 中國除了將周易 AIPU 授權(quán)給智能家居領(lǐng)域的公司，還授權(quán)給了汽車應(yīng)用領(lǐng)域、手機(jī)領(lǐng)域和安防監(jiān)控等領(lǐng)域的芯片合作伙伴，周易 AIPU 的表現(xiàn)值得期待。

　　還有一個(gè)值得關(guān)注的問題，周易 AIPU 和 Ethos NPU 在中國市場會如何協(xié)同發(fā)展?
　　（邯鄲網(wǎng)絡(luò)公司）