Imagination 攜手百度飛槳，共推中國人工智能生態建設

張國斌|其他專家|Other experts|

2022-05-25 12:47:54 2

我們已經進入了萬物智能互聯的時代，人工智能技術成為給千行百業賦能智慧的不二選擇，在人工智能應用中，構建一個學習、應用的生態直觀重要。美國人工智能*企業都非常注重打造生態系統，如谷歌的Tensorflow，臉書的pytorch 等，在中國，目前，百度飛槳（PaddlePaddle）受到越來越多開發者以及人工智能上下游企業的青睞。

5月20日，Imagination Technologies在“Wave Summit 2022”大會上宣布：攜手百度飛槳（PaddlePaddle）及多家合作伙伴共同發起“硬件生態共創計劃”，利用自身的優勢技術和市場應用經驗共同構建高效的軟硬一體平臺方案，將百度飛槳軟件的先進算法和靈活性與Imagination異構計算IP技術相結合，支持下游芯片及應用開發商在此基礎上快速創建*優化的解決方案。

據悉，百度飛槳是中國*自主研發、功能豐富、開源開放的產業級深度學習平臺。截至2022年5月，百度飛槳已經匯聚了477萬開發者，創建56萬個AI模型，累計服務18萬家企事業單位。硬件生態共創計劃是飛槳“大航海”計劃2.0的重要部分之一。

目前，很多人工智能開發者在實際應用中面臨多種挑戰，例如在開發階段，模型實現復雜，開發效率較低；在訓練階段，產業界的數據量大，訓練時間長，反復訓練困難；在部署階段，實際產業落地的要求很高，同時多硬件還會帶來了很大的部署成本；另外還有產業模型庫包含的模型較少，無法滿足開發者的應用訴求等。而百度飛槳開發便捷的深度學習框架、超大規模深度學習模型訓練技術、多端多平臺推理部署引擎和產業級的開源模型庫解決了這些挑戰。此外，一些國產AI芯片跟PyTorch和TF不兼容。但卻可以兼容百度飛槳，所以，百度飛槳對于推動本土AI應用普及發揮了巨大作用。

Imagination計算業務副總裁Shreyas Derashri表示：“很高興能夠與百度飛槳及眾多合作伙伴再次攜手，發布‘硬件生態共創計劃’，并為業界構建軟硬一體的計算方案。2020年，Imagination加入百度飛槳硬件生態圈；2021年，Imagination和百度飛槳在全球人工智能（AI）生態系統方面開展合作。此次合作是雙方*合作的延續，在算力和算法方面優勢的深度融合，可為行業提供更優化的解決方案。”

實際上，隨著人工智能技術在各行業的廣泛應用及快速發展，業界已從各自獨立的硬件算力驅動和算法創新驅動進入到算法和硬件協同創新階段。在硬件生態共創計劃中，合作雙方基于百度飛槳（PaddlePaddle）對未來硬件計算平臺的需求，結合Imagination （GPU, CPU, AI）異構計算IP技術，從算法模型到計算框架再到半導體IP技術通過聯合優化的方法，構建高效靈活的軟件棧方案，為芯片廠商提供設計指導和Benchmark參考。面向行業應用共建Model Zoo，為平臺和終端客戶提供參考方案。這種全新的生態合作模式將為雙方的客戶及合作伙伴帶來更多價值。未來，雙方將面向使用Imagination NC-SDK的飛槳開發者共同開發培訓課程，進行聯合培訓認證。

Imagination產品市場總監鄭魁在也在大會上做了演講具體分享了合作細節，他指出目前Imagination已經有一些模型是可以部署在基于Imagination一款4TOPs端側推理芯片上，雙方正在進行持續的優化，下半年會針對某些典型市場應用發布一個聯合優化的成果。

展望未來他表示這些模型會部署在更豐富的一些異構平臺上面，如大算力平臺等來滿足高等級智能化應用需求。他透露雙方會針對開發者推出培訓視頻，在近期上線。

他強調Imagination全球芯片累計出貨量已經超過110億！是擁有GPU IP 、RISC-V CPU IP以及 AI神經網絡加速器 IP的公司，且大多數產品都滿足Function Safety功能安全標準。

這三款IP加上Imagination的軟件構成了多核異構的解決方案，針對不同的市場應用提供各種高性能、低功耗、高度靈活可擴展的IP組合解決方案，如手機移動方案或是汽車智能駕艙，自動駕駛甚至是數據中心的應用方案等。

目前，異構計算成為芯片設計的下一個重要方向。針對這個趨勢， Imagination從三個方向進行創新，一個是針對目前已有的 GPU、CPU和AI 神經網絡加速器，持續在多核架構上演進、在性能跟功耗上持續優化。一個是在系統層面，為了消除數據瓶頸，對存儲、安全進行創新性優化。還有一個是在軟件層面提供了統一、開放，并且標準的工具鏈，支持標準的 framework操作，這就使開發者可以快速靈活的把他們的應用部署在異構架構上。

他以軟件為例，傳統上網絡模型的部署會分成三個階段，首先會把在云端訓好的模型去轉換成一個通用格式，然后通過建圖和編譯，生成平臺硬件相關的一些code。最后把它部署在硬件的執行單元上。

而在Imagination的工具鏈里，Imagination為開發者提供了更豐富的部署和優化功能。如在adapter之后，通過graph transform，去把 layer進行了調整，讓它們對執行單元更友好。再往后通過data profiling工具跟simulation工具，可以去幫助開發者確定最佳的量化策略，滿足符合它應用性能和精度的要求。然后在compiler中，Imagination把靈活性開放給開發者，讓他們靈活的去定制后端執行單元，如 layer是跑在GPU上還是跑在神經網絡加速器上還是跑在 CPU上，這些由開發者決定。

“我們在與飛槳的生態合作項目中，雙方就會從模型層一直到飛槳的框架，一直到我們IP的底層軟件，沿著這樣的一個應用部署的路徑，我們雙方會進行全棧的優化。同時除了offline的部署方式，我們也會提供runtime的API叫做IMG DNN來滿足開發者 online的部署需要。”他指出，“最終我們會跟飛槳一起會推出深度優化的，并且可以非常靈活，拓展性非常強的多核異構平臺方案。”

他表示未來Imagination會希望自己的客戶或芯片伙伴都參與到飛槳項目中來，

未來我們希望可以跟我們的芯片客戶或者是芯片伙伴們一起都參與到“硬件生態共創計劃”里，在一些重要應用領域，如自動駕駛，手機以及數據中心等，在基于飛槳的框架中，提供高競爭力的國產計算平臺方案。

“眾人拾柴火焰高”，我注意到還有其他一些芯片公司也參與到百度飛槳項目中，希望本土的人工智能生態日益完善，為智慧化轉型助力！（完）

免責聲明：本文原創作者張國斌，本文僅代表作者個人觀點，不代表薩科微及行業觀點，只為轉載與分享，支持保護知識產權，轉載請注明原出處及作者，如有侵權請聯系我們刪除。