加入收藏
免費(fèi)注冊
用戶登陸
首頁
展示
供求
職場
技術(shù)
智造
職業(yè)
活動
視點(diǎn)
品牌
鐠社區(qū)
今天是:2026年3月17日 星期二 您現(xiàn)在位于:
首頁
→
技術(shù)
→ 移動電子(技術(shù)聚焦)
為Al設(shè)計(jì)的NPU與其他處理器共同加速生成式AI體驗(yàn)
2024/3/9 10:36:19
生成式AI變革已經(jīng)到來。隨著生成式AI用例需求在有著多樣化要求和計(jì)算需求的垂直領(lǐng)域不斷增加,我們顯然需要專為AI定制設(shè)計(jì)的全新計(jì)算架構(gòu)。這首先需要一個(gè)面向生成式AI全新設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)處理器(NPU),同時(shí)要利用異構(gòu)處理器組合,比如中央處理器(CPU)和圖形處理器(GPU)。通過結(jié)合NPU使用合適的處理器,異構(gòu)計(jì)算能夠?qū)崿F(xiàn)最佳應(yīng)用性能、能效和電池續(xù)航,賦能全新增強(qiáng)的生成式AI體驗(yàn)。
異構(gòu)計(jì)算的重要性
生成式AI的多樣化要求和計(jì)算需求需要不同的處理器來滿足。支持處理多樣性的異構(gòu)計(jì)算架構(gòu)能夠發(fā)揮每個(gè)處理器的優(yōu)勢,例如以AI為中心定制設(shè)計(jì)的NPU,以及CPU和GPU。每個(gè)處理器擅長不同的任務(wù):CPU擅長順序控制和即時(shí)性,GPU適合并行數(shù)據(jù)流處理,NPU擅長標(biāo)量、向量和張量數(shù)學(xué)運(yùn)算,可用于核心AI工作負(fù)載。
異構(gòu)計(jì)算能夠?qū)崿F(xiàn)最佳應(yīng)用性能、能效和電池續(xù)航,以最大化發(fā)揮生成式AI終端用戶體驗(yàn)。
什么是神經(jīng)網(wǎng)絡(luò)處理器NPU(Neural Processing Unit)?
NPU專為實(shí)現(xiàn)以低功耗加速AI推理而全新打造,其架構(gòu)隨著新AI算法、模型和用例的發(fā)展不斷演進(jìn)。Al工作負(fù)載主要包括由標(biāo)量、向量和張量數(shù)學(xué)組成的神經(jīng)網(wǎng)絡(luò)層計(jì)算以及非線性激活函數(shù)。優(yōu)秀的NPU設(shè)計(jì)能夠?yàn)樘幚磉@些AI工作負(fù)載做出正確的設(shè)計(jì)選擇,與AI行業(yè)方向保持高度一致。
高通領(lǐng)先的NPU和異構(gòu)計(jì)算解決方案
高通正在助力讓智能計(jì)算無處不在。業(yè)界領(lǐng)先的高通Hexagon NPU面向以低功耗實(shí)現(xiàn)持續(xù)穩(wěn)定的高性能AI推理而設(shè)計(jì)。高通NPU的差異化優(yōu)勢在于系統(tǒng)級解決方案、定制設(shè)計(jì)和快速創(chuàng)新。通過定制設(shè)計(jì)NPU并控制指令集架構(gòu)(ISA),高通能夠快速進(jìn)行設(shè)計(jì)演進(jìn)和擴(kuò)展,以解決瓶頸問題并優(yōu)化性能。
Hexagon NPU是高通業(yè)界領(lǐng)先的異構(gòu)計(jì)算架構(gòu)——高通AI引擎中的關(guān)鍵處理器,高通AI引擎還包括高通Adreno GPU、高通Kryo或高通Oryon CPU、高通傳感器中樞和內(nèi)存子系統(tǒng)。這些處理器為實(shí)現(xiàn)協(xié)同工作而設(shè)計(jì),能夠在終端側(cè)快速且高效地運(yùn)行AI應(yīng)用。
我們在AI基準(zhǔn)測試和實(shí)際生成式AI應(yīng)用方面的行業(yè)領(lǐng)先性能表現(xiàn)就是例證。請閱讀白皮書,深入了解高通NPU、我們的其他異構(gòu)處理器,以及在第三代驍龍8和驍龍X Elite上業(yè)界領(lǐng)先的Al性能。
 
賦能開發(fā)者加速生成式Al應(yīng)用
我們專注于在全球搭載高通和驍龍平臺的數(shù)十億終端設(shè)備上實(shí)現(xiàn)便捷開發(fā)和部署,賦能開發(fā)者。利用高通AI軟件棧(Qualcomm AI Stack),開發(fā)者可在高通硬件上創(chuàng)建、優(yōu)化和部署AI應(yīng)用,一次編寫即可實(shí)現(xiàn)在不同產(chǎn)品和細(xì)分領(lǐng)域采用高通芯片組解決方案進(jìn)行部署。
通過將技術(shù)領(lǐng)導(dǎo)力、定制芯片設(shè)計(jì)、全棧AI優(yōu)化和生態(tài)系統(tǒng)賦能充分結(jié)合,高通技術(shù)公司在推動終端側(cè)生成式AI開發(fā)和應(yīng)用方面獨(dú)樹一幟。高通技術(shù)公司正在賦能終端側(cè)生成式AI的規(guī);瘮U(kuò)展。詢進(jìn)一步信息,請?jiān)L問官方網(wǎng)站
http://www.qualcomm.cn/news/blogs/2024/03/blog-2024-3-6
。(張怡,產(chǎn)通發(fā)布)
→
『關(guān)閉窗口』
365pr_net
[
→ 我要發(fā)表
]
上篇文章:
英特爾為未來數(shù)據(jù)中心開發(fā)的處理器芯片新技術(shù)
下篇文章:
EUV光刻技術(shù)回眸:Trumpf、Zeiss和ASML的親密合作
→ 主題所屬分類:
移動電子
→
技術(shù)聚焦
熱門文章
如何申請EtherCAT技術(shù)協(xié)會(ETG)會員資格
(
200276
)
臺北國際計(jì)算機(jī)展(COMPUTEX 2015)參展商名…
(
107848
)
上海市集成電路行業(yè)協(xié)會(SICA)
(
96787
)
USB-IF Members Company List
(
89195
)
第十七屆中國專利優(yōu)秀獎項(xiàng)目名單(507項(xiàng))
(
78097
)
蘋果授權(quán)MFi制造商名單-Authorized MFi Lic…
(
73526
)
臺北國際計(jì)算機(jī)展(COMPUTEX 2015)參展商名…
(
70797
)
中國130家太陽能光伏組件企業(yè)介紹(3)
(
59402
)
PLC論壇
(
54257
)
中國130家太陽能光伏組件企業(yè)介紹(2)
(
50760
)
最近更新
涉及圖形用戶界面的產(chǎn)品外觀設(shè)計(jì)專利申請指引
(12月18日)
jpg、gif、png、webp等主流圖片格式選擇建議
(9月9日)
AI演進(jìn)推動5G與Wi-Fi連接方式的變革
(9月6日)
晶振:人工智能時(shí)代的精密脈搏
(8月29日)
晶振—機(jī)械臂高精度動作的“隱形指揮官”
(8月29日)
趨膚效應(yīng)(Skin Effect)對電子電器的影響及應(yīng)…
(8月18日)
一本面向設(shè)計(jì)工程師精心修訂和更新的《ESD應(yīng)用手冊…
(3月10日)
表皮電子學(xué)的代表作:石墨烯紋身
(2月26日)
在晶圓級大規(guī)模生產(chǎn)中引入脈沖激光沉積(PLD)技術(shù)
(1月21日)
你聽說過PiezoMEMS技術(shù)嗎?
(1月21日)
文章搜索
搜索選項(xiàng):
文章標(biāo)題
發(fā)布人
請選擇文章的類別
電子材料
技術(shù)聚焦
工藝制程
應(yīng)用信息
企業(yè)故事
電子元件
技術(shù)聚焦
工藝制程
應(yīng)用信息
企業(yè)故事
半導(dǎo)體器件
技術(shù)聚焦
工藝制程
應(yīng)用信息
企業(yè)故事
顯示器件
技術(shù)聚焦
工藝制程
應(yīng)用信息
企業(yè)故事
綠色能源
技術(shù)聚焦
工藝制程
應(yīng)用信息
企業(yè)故事
電子制造
技術(shù)聚焦
電子設(shè)備
工藝指南
企業(yè)故事
電子測量
技術(shù)聚焦
電子儀器
測試指南
企業(yè)故事
家庭電子
技術(shù)聚焦
產(chǎn)品概覽
企業(yè)故事
移動電子
技術(shù)聚焦
產(chǎn)品概覽
企業(yè)故事
辦公電子
技術(shù)聚焦
企業(yè)故事
產(chǎn)品概覽
汽車電子
技術(shù)聚焦
產(chǎn)品概覽
企業(yè)故事
通信網(wǎng)絡(luò)
技術(shù)聚焦
產(chǎn)品概覽
企業(yè)故事
工業(yè)電子
技術(shù)聚焦
產(chǎn)品概覽
企業(yè)故事
固態(tài)照明
技術(shù)聚焦
產(chǎn)品概覽
企業(yè)故事
安全電子
技術(shù)聚焦
產(chǎn)品概覽
企業(yè)故事
醫(yī)療電子
技術(shù)聚焦
產(chǎn)品概覽
企業(yè)故事
行業(yè)標(biāo)準(zhǔn)
通用標(biāo)準(zhǔn)
電子元件
半導(dǎo)體器件
顯示器件
綠色能源
電子材料
電子制造
電子測量
家庭電子
移動電子
辦公電子
汽車電子
通信網(wǎng)絡(luò)
工業(yè)電子
固態(tài)照明
安全電子
醫(yī)療電子
研究報(bào)告
官方數(shù)據(jù)
電子元件
半導(dǎo)體器件
顯示器件
綠色能源
電子材料
電子制造
電子測量
家庭電子
移動電子
辦公電子
汽車電子
通信網(wǎng)絡(luò)
工業(yè)電子
固態(tài)照明
安全電子
醫(yī)療電子
官方網(wǎng)站
標(biāo)準(zhǔn)制訂
行業(yè)協(xié)會
產(chǎn)業(yè)聯(lián)盟
技術(shù)論壇
認(rèn)證測試
展覽機(jī)構(gòu)
行業(yè)名錄
企業(yè)雜志
電子元件
半導(dǎo)體器件
顯示器件
綠色能源
電子材料
電子制造
電子測量
家庭電子
移動電子
辦公電子
汽車電子
通信網(wǎng)絡(luò)
工業(yè)電子
固態(tài)照明
安全電子
醫(yī)療電子
→
評論內(nèi)容
(點(diǎn)擊查看)
(沒有相關(guān)評論)
您是否還沒有
注冊
或還沒有
登陸
本站?!
關(guān)于我們
┋
免責(zé)聲明
┋
產(chǎn)品與服務(wù)
┋
聯(lián)系我們
┋
About 365PR
┋
Join 365PR
Copyright @ 2005-2008 365pr.net Ltd. All Rights Reserved. 深圳市產(chǎn)通互聯(lián)網(wǎng)有限公司 版權(quán)所有
E-mail:postmaster@365pr.net
不良信息舉報(bào)
備案號:
粵ICP備06070889號