加入收藏
 免費(fèi)注冊
 用戶登陸
首頁 展示 供求 職場 技術(shù) 智造 職業(yè) 活動 視點(diǎn) 品牌 鐠社區(qū)
今天是:2026年3月17日 星期二   您現(xiàn)在位于: 首頁 →  技術(shù) → 移動電子(技術(shù)聚焦)
為Al設(shè)計(jì)的NPU與其他處理器共同加速生成式AI體驗(yàn)
2024/3/9 10:36:19    
生成式AI變革已經(jīng)到來。隨著生成式AI用例需求在有著多樣化要求和計(jì)算需求的垂直領(lǐng)域不斷增加,我們顯然需要專為AI定制設(shè)計(jì)的全新計(jì)算架構(gòu)。這首先需要一個(gè)面向生成式AI全新設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)處理器(NPU),同時(shí)要利用異構(gòu)處理器組合,比如中央處理器(CPU)和圖形處理器(GPU)。通過結(jié)合NPU使用合適的處理器,異構(gòu)計(jì)算能夠?qū)崿F(xiàn)最佳應(yīng)用性能、能效和電池續(xù)航,賦能全新增強(qiáng)的生成式AI體驗(yàn)。


異構(gòu)計(jì)算的重要性


生成式AI的多樣化要求和計(jì)算需求需要不同的處理器來滿足。支持處理多樣性的異構(gòu)計(jì)算架構(gòu)能夠發(fā)揮每個(gè)處理器的優(yōu)勢,例如以AI為中心定制設(shè)計(jì)的NPU,以及CPU和GPU。每個(gè)處理器擅長不同的任務(wù):CPU擅長順序控制和即時(shí)性,GPU適合并行數(shù)據(jù)流處理,NPU擅長標(biāo)量、向量和張量數(shù)學(xué)運(yùn)算,可用于核心AI工作負(fù)載。

異構(gòu)計(jì)算能夠?qū)崿F(xiàn)最佳應(yīng)用性能、能效和電池續(xù)航,以最大化發(fā)揮生成式AI終端用戶體驗(yàn)。


什么是神經(jīng)網(wǎng)絡(luò)處理器NPU(Neural Processing Unit)?


NPU專為實(shí)現(xiàn)以低功耗加速AI推理而全新打造,其架構(gòu)隨著新AI算法、模型和用例的發(fā)展不斷演進(jìn)。Al工作負(fù)載主要包括由標(biāo)量、向量和張量數(shù)學(xué)組成的神經(jīng)網(wǎng)絡(luò)層計(jì)算以及非線性激活函數(shù)。優(yōu)秀的NPU設(shè)計(jì)能夠?yàn)樘幚磉@些AI工作負(fù)載做出正確的設(shè)計(jì)選擇,與AI行業(yè)方向保持高度一致。


高通領(lǐng)先的NPU和異構(gòu)計(jì)算解決方案


高通正在助力讓智能計(jì)算無處不在。業(yè)界領(lǐng)先的高通Hexagon NPU面向以低功耗實(shí)現(xiàn)持續(xù)穩(wěn)定的高性能AI推理而設(shè)計(jì)。高通NPU的差異化優(yōu)勢在于系統(tǒng)級解決方案、定制設(shè)計(jì)和快速創(chuàng)新。通過定制設(shè)計(jì)NPU并控制指令集架構(gòu)(ISA),高通能夠快速進(jìn)行設(shè)計(jì)演進(jìn)和擴(kuò)展,以解決瓶頸問題并優(yōu)化性能。

Hexagon NPU是高通業(yè)界領(lǐng)先的異構(gòu)計(jì)算架構(gòu)——高通AI引擎中的關(guān)鍵處理器,高通AI引擎還包括高通Adreno GPU、高通Kryo或高通Oryon CPU、高通傳感器中樞和內(nèi)存子系統(tǒng)。這些處理器為實(shí)現(xiàn)協(xié)同工作而設(shè)計(jì),能夠在終端側(cè)快速且高效地運(yùn)行AI應(yīng)用。

我們在AI基準(zhǔn)測試和實(shí)際生成式AI應(yīng)用方面的行業(yè)領(lǐng)先性能表現(xiàn)就是例證。請閱讀白皮書,深入了解高通NPU、我們的其他異構(gòu)處理器,以及在第三代驍龍8和驍龍X Elite上業(yè)界領(lǐng)先的Al性能。

 
賦能開發(fā)者加速生成式Al應(yīng)用


我們專注于在全球搭載高通和驍龍平臺的數(shù)十億終端設(shè)備上實(shí)現(xiàn)便捷開發(fā)和部署,賦能開發(fā)者。利用高通AI軟件棧(Qualcomm AI Stack),開發(fā)者可在高通硬件上創(chuàng)建、優(yōu)化和部署AI應(yīng)用,一次編寫即可實(shí)現(xiàn)在不同產(chǎn)品和細(xì)分領(lǐng)域采用高通芯片組解決方案進(jìn)行部署。

通過將技術(shù)領(lǐng)導(dǎo)力、定制芯片設(shè)計(jì)、全棧AI優(yōu)化和生態(tài)系統(tǒng)賦能充分結(jié)合,高通技術(shù)公司在推動終端側(cè)生成式AI開發(fā)和應(yīng)用方面獨(dú)樹一幟。高通技術(shù)公司正在賦能終端側(cè)生成式AI的規(guī);瘮U(kuò)展。詢進(jìn)一步信息,請?jiān)L問官方網(wǎng)站http://www.qualcomm.cn/news/blogs/2024/03/blog-2024-3-6。(張怡,產(chǎn)通發(fā)布)
→ 『關(guān)閉窗口』
 365pr_net
 [ → 我要發(fā)表 ]
上篇文章:英特爾為未來數(shù)據(jù)中心開發(fā)的處理器芯片新技術(shù)
下篇文章:EUV光刻技術(shù)回眸:Trumpf、Zeiss和ASML的親密合作
→ 主題所屬分類:  移動電子 → 技術(shù)聚焦
 熱門文章
 如何申請EtherCAT技術(shù)協(xié)會(ETG)會員資格 (200276)
 臺北國際計(jì)算機(jī)展(COMPUTEX 2015)參展商名… (107848)
 上海市集成電路行業(yè)協(xié)會(SICA) (96787)
 USB-IF Members Company List (89195)
 第十七屆中國專利優(yōu)秀獎項(xiàng)目名單(507項(xiàng)) (78097)
 蘋果授權(quán)MFi制造商名單-Authorized MFi Lic… (73526)
 臺北國際計(jì)算機(jī)展(COMPUTEX 2015)參展商名… (70797)
 中國130家太陽能光伏組件企業(yè)介紹(3) (59402)
 PLC論壇 (54257)
 中國130家太陽能光伏組件企業(yè)介紹(2) (50760)
 最近更新
 涉及圖形用戶界面的產(chǎn)品外觀設(shè)計(jì)專利申請指引 (12月18日)
 jpg、gif、png、webp等主流圖片格式選擇建議 (9月9日)
 AI演進(jìn)推動5G與Wi-Fi連接方式的變革 (9月6日)
 晶振:人工智能時(shí)代的精密脈搏 (8月29日)
 晶振—機(jī)械臂高精度動作的“隱形指揮官” (8月29日)
 趨膚效應(yīng)(Skin Effect)對電子電器的影響及應(yīng)… (8月18日)
 一本面向設(shè)計(jì)工程師精心修訂和更新的《ESD應(yīng)用手冊… (3月10日)
 表皮電子學(xué)的代表作:石墨烯紋身 (2月26日)
 在晶圓級大規(guī)模生產(chǎn)中引入脈沖激光沉積(PLD)技術(shù) (1月21日)
 你聽說過PiezoMEMS技術(shù)嗎? (1月21日)
 文章搜索
搜索選項(xiàng):            
  → 評論內(nèi)容 (點(diǎn)擊查看)
您是否還沒有 注冊 或還沒有 登陸 本站?!
關(guān)于我們 ┋ 免責(zé)聲明 ┋ 產(chǎn)品與服務(wù) ┋ 聯(lián)系我們 ┋ About 365PR ┋ Join 365PR
Copyright @ 2005-2008 365pr.net Ltd. All Rights Reserved. 深圳市產(chǎn)通互聯(lián)網(wǎng)有限公司 版權(quán)所有
E-mail:postmaster@365pr.net 不良信息舉報(bào) 備案號:粵ICP備06070889號