很多朋友不知道【Arm亮出AI軟硬件全家桶，賦能終端側AI快速落地】，今天小綠就為大家解答一下。
并且，在A(yíng)rm看來(lái)，CPU是唯一可以確保運行未來(lái)網(wǎng)絡(luò )的計算引擎，因此對于可以解鎖 Arm CPU 最高性能的Kleidi，無(wú)疑是開(kāi)發(fā)人員解鎖AI應用的最佳利器。版權所有，未經(jīng)許可不得轉載 Kleidi就是這把“鑰匙”，它不僅包含面向AI工作負載的KleidiAI，還有著(zhù)面向計算機視覺(jué)應用的KleidiCV。但究其根本，Arm做Kleidi最核心的目的，就是要確保開(kāi)發(fā)者能夠快速獲得開(kāi)發(fā)生成式AI應用所需的性能、工具和軟件庫。簡(jiǎn)單理解，KleidiAI是一套面向AI框架開(kāi)發(fā)者的計算內核，像PyTorch、Tensorflow、MediaPipe這樣的熱門(mén)AI框架都已經(jīng)集成到KleidiAI中了，這對于加速主流AI大模型是十分重要的。
一方面，AI技術(shù)的不斷發(fā)展，對手機、PC等智能設備芯片的功耗、速度等都提出更高要求，并且具有極強的科技前瞻性，同時(shí)也能給產(chǎn)品帶來(lái)更多全新的創(chuàng )新點(diǎn)。 在智能科技的浪潮中，近兩年快速崛起的生成式AI，已成為推動(dòng)手機、PC等智能設備行業(yè)發(fā)展的關(guān)鍵力量。但生成式AI對硬件快速賦能的背后，也對算力、存儲等方面提出了新的需求，因此這對芯片廠(chǎng)商、終端廠(chǎng)商、應用開(kāi)發(fā)者等都提出了新的挑戰。 另一方面，行業(yè)從“硬件定義產(chǎn)品”躍遷到“AI定義產(chǎn)品”，AI愈發(fā)彰顯出中樞價(jià)值，發(fā)揮的作用越來(lái)越重要。 據悉，Arm終端CSS得益于A(yíng)rmv9.2的能效優(yōu)勢與 3nm制程的CPU和GPU物理實(shí)現，以及持續的軟件優(yōu)化，讓它在性能方面有了很大的飛躍。作為Arm最快的安卓平臺，在一些更接近現實(shí)用例的測試場(chǎng)景中，Arm終端CSS的頭部流行應用平均啟動(dòng)時(shí)間比去年的全面計算解決方案(TCS23)加快了33%，網(wǎng)頁(yè)瀏覽速度加快了60%。而在包含了光追和可變速率著(zhù)色的七項圖形基準測試當中，其峰值圖形性能平均增長(cháng)也達到了30%。 值得注意是，端側AI的部署的關(guān)鍵不僅在芯片，更重要的是芯片底層架構、IP設計等。
因而，作為移動(dòng)計算“根基”提供者Arm，也在積極拓展自身業(yè)務(wù)邊界，為行業(yè)提供更高效、強大的算力支撐。近幾年，Arm已經(jīng)從IP提供商轉型為一家計算平臺公司，在致力于IP授權業(yè)務(wù)的同時(shí)，也專(zhuān)注于為智能產(chǎn)業(yè)提供完整且全面的計算解決方案。 為了迎合當下生成式AI的發(fā)展勢頭，Arm在今年的新品發(fā)布上，也將AI作為了關(guān)鍵的發(fā)力點(diǎn)。近日，面向終端領(lǐng)域，Arm推出了終端計算子系統 (CSS)，囊括最新的Armv9.2 CPU、Arm Immortalis GPU、基于三納米工藝生產(chǎn)就緒的CPU和GPU物理實(shí)現，以及最新的CoreLink系統互連和系統內存管理單元 (SMMU)。此外，Arm也同步推出了Arm Kleidi軟件庫，助力軟件開(kāi)發(fā)者無(wú)縫取得Arm CPU上的最佳性能，其中包含面向AI工作負載的KleidiAI和面向計算機視覺(jué)應用的KleidiCV。 在生成式AI加速革新移動(dòng)生態(tài)的大背景下，Arm不僅給予了硬件更強的性能表現，還為開(kāi)發(fā)者提供了完善、高效的解決方案，表現出Arm對整個(gè)端側AI生態(tài)的重視和擁抱，Arm對于引領(lǐng)移動(dòng)生態(tài)抓住生成式AI機遇、構建新應用生態(tài)并為用戶(hù)創(chuàng )造新價(jià)值的決心顯而易見(jiàn)。 而在GPU方面的提升，也是Arm此次重點(diǎn)發(fā)力的方向。全新的 Immortalis-G925 GPU 是 Arm 至今最強大的 GPU，其專(zhuān)為旗艦移動(dòng)設備設計，在各種圖形應用中的性能提升達 37%，在 AI 和 ML 網(wǎng)絡(luò )上的性能提升達 34%。而包括 Arm Mali-G725 和 Mali-G625 GPU 在內的全新GPU 系列具有高度可擴展性，適用于從高端手機到智能手表和 XR 可穿戴設備的廣泛市場(chǎng)。 值得一提的是，硬件上的高算力、高能效一直以來(lái)都是Arm的“絕活”，因而終端CSS能有這樣的表現其實(shí)并不讓人意外。但作為移動(dòng)設備端AI變革的關(guān)鍵變量，Arm顯然意識到了它需要為這個(gè)生態(tài)的建設提供更多的便利，尤其是對于開(kāi)發(fā)者群體，需要讓他們能夠更加高效、便捷地開(kāi)發(fā)、部署，才能加速構建涵蓋全場(chǎng)景的端側AI生態(tài)。因而，Arm為所有開(kāi)發(fā)者提供了一把可以加速打開(kāi)這個(gè)市場(chǎng)的“鑰匙”。 寫(xiě)在最后：如今Arm終端CSS出色的架構升級、性能和能效的大幅提升為功能更豐富、性能更強、更智能的終端設備鋪路，擴展了移動(dòng)設備的可能性和能力。同時(shí)Arm在軟件層面的開(kāi)發(fā)工具和平臺則讓開(kāi)發(fā)者可以快速地將這些Arm的技術(shù)優(yōu)勢落地到應用和產(chǎn)品中，可以說(shuō)Arm通過(guò)全面的布局，賦能終端側AI快速落地。 這也是為什么，芯片、終端廠(chǎng)商最近一直在新品上強調AI特性的原因。 之所以這么說(shuō)，是因為龍頭企業(yè)有其特殊性，它的一舉一動(dòng)代表不僅是行業(yè)此刻的動(dòng)向，更是行業(yè)的將來(lái)時(shí)、發(fā)展的“風(fēng)向標”。 可以說(shuō)，在生成式AI引領(lǐng)的智能設備發(fā)展的新浪潮下，Arm為了加速讓生成式AI融入到智能產(chǎn)品之中，通過(guò)發(fā)布一系列先進(jìn)的硬件、軟件和工具，從而幫助芯片、終端廠(chǎng)商們探索更適合端側AI的技術(shù)路線(xiàn)，把生成式AI智能設備，所帶來(lái)的體驗構想變成現實(shí)，讓AI普惠用戶(hù)。 當下，“端側AI”路線(xiàn)無(wú)疑是智能設備領(lǐng)域的確定性趨勢。但想要讓端側AI被大眾廣泛接受，真正普及化，充足性能的硬件架構、算力和強勁的軟件算法才是關(guān)鍵。 在CPU方面，Arm Cortex-X925 CPU的主頻可以達到3.8GHz，配合微架構的改進(jìn)，其單線(xiàn)程性能提高了36%，是Cortex-X推出以來(lái)取得最高IPC同比增幅的CPU；而在最為重要的AI方面，3nm的Cortex-X925的token首次響應時(shí)間提高了41%。AI 性能的提升得益于微架構的顯著(zhù)演進(jìn)，利用了迄今為止最寬的解碼和矢量設計所帶來(lái)的巨幅提升，實(shí)現了50% TOPS的增長(cháng)。 這也意味著(zhù)芯片領(lǐng)域“底層設計”的更新，才是將行業(yè)AI漣漪變?yōu)槔顺钡年P(guān)鍵。換言之，只有像Arm這樣的行業(yè)巨頭，它的舉動(dòng)，才將深刻影響行業(yè)的走向。 Arm其實(shí)很早之前就注意到AI對于智能設備行業(yè)的影響，在2021年就推出了專(zhuān)為性能和 AI 而設計的 Armv9 架構，并且對其計算能力、安全性、穩健性等方面不斷優(yōu)化，也正是其提早布局，讓它在生成式AI爆發(fā)的關(guān)鍵節點(diǎn)，推出了可面向?AI 智能手機和 PC等廣泛終端領(lǐng)域的Arm終端?CSS。Arm全面賦能端側AI生態(tài)發(fā)展端側AI背后，到底要比拼什么？
以上問(wèn)題已經(jīng)回答了。如果你想了解更多，請關(guān)
新經(jīng)網(wǎng)網(wǎng)站 (
http://www.hkkqyy120.com/)
