加入收藏
 免費(fèi)注冊(cè)
 用戶登陸
首頁(yè) 展示 供求 職場(chǎng) 技術(shù) 智造 職業(yè) 活動(dòng) 視點(diǎn) 品牌 鐠社區(qū)
今天是：2026年3月17日 星期二   您現(xiàn)在位于： 首頁(yè) →  技術(shù) → 辦公電子（技術(shù)聚焦）
驅(qū)動(dòng)增強(qiáng)終端側(cè)生成式AI體驗(yàn)的技術(shù)：LoRA
2024/6/11 11:51:24    
增強(qiáng)情境化和定制化一直是用戶體驗(yàn)提升的推動(dòng)力。盡管生成式AI已展示出變革性的潛力，但仍有進(jìn)一步提升的豐富空間。為了滿足對(duì)定制化和情境化相關(guān)體驗(yàn)日益增長(zhǎng)的需求，本文（歡迎閱讀博客第一部分：多模態(tài)生成式AI）將探討為何LoRA即將產(chǎn)生重大影響。

類似于裁縫提供量身定制的西裝，LoRA適配器支持定制化生成式AI體驗(yàn)。

 
通過(guò)LoRA適配器實(shí)現(xiàn)定制化


基礎(chǔ)模型和預(yù)訓(xùn)練生成式AI模型擁有廣泛的知識(shí)，可以很好地回復(fù)多種提示。但是它們有時(shí)可能會(huì)出現(xiàn)失誤，因?yàn)檫@些模型沒(méi)有專門針對(duì)特定知識(shí)的更多數(shù)據(jù)進(jìn)行定制或精調(diào)。

“樣樣都懂一點(diǎn)，但樣樣都不精通�！边@話很好地描述了這個(gè)問(wèn)題：生成式AI模型能夠展示很多滿足需要的技能，但可能缺乏技術(shù)專長(zhǎng)。

例如，如果需要一個(gè)大語(yǔ)言基礎(chǔ)模型充當(dāng)健身和健康教練，它可能難以針對(duì)鍛煉或膳食建議提供準(zhǔn)確的反饋。通過(guò)使用正確訓(xùn)練姿勢(shì)、準(zhǔn)確的菜肴卡路里含量等示例對(duì)模型進(jìn)行訓(xùn)練精調(diào)，可以顯著提高其準(zhǔn)確性。訓(xùn)練原始基礎(chǔ)模型需要大量數(shù)據(jù)、計(jì)算、預(yù)算和技術(shù)專長(zhǎng)，而對(duì)許多AI公司、開發(fā)者和從業(yè)者來(lái)說(shuō)，針對(duì)數(shù)據(jù)量小得多的特定領(lǐng)域進(jìn)行精調(diào)，仍然太具挑戰(zhàn)性。

為了應(yīng)對(duì)該挑戰(zhàn)，研究人員開發(fā)出了LoRA技術(shù)，能夠大幅減少AI模型的可訓(xùn)練參數(shù)量（例如參數(shù)量減少98%），以降低訓(xùn)練成本，同時(shí)面向精調(diào)任務(wù)提高模型準(zhǔn)確性。模型的變化部分被封裝在LoRA適配器中，添加到模型原始值以創(chuàng)建精調(diào)模型。

除了降低模型訓(xùn)練難度之外，LoRA還能支持終端側(cè)生成式AI用例實(shí)現(xiàn)更高效率、可擴(kuò)展性和定制化。LoRA廣泛適用于生成式和傳統(tǒng)AI模型。

例如，可通過(guò)精調(diào)LLM等生成式AI模型，創(chuàng)建定制個(gè)人助手、改進(jìn)語(yǔ)言翻譯等。開發(fā)者和更廣泛的AI社區(qū)正在生成LoRA適配器以打造定制體驗(yàn)，消費(fèi)者可以選擇符合個(gè)人偏好的適配器。

通過(guò)LoRA，生成式AI能夠?qū)崿F(xiàn)規(guī)�；瘮U(kuò)展，基于消費(fèi)者和企業(yè)偏好提供更加定制化、個(gè)性化和準(zhǔn)確的體驗(yàn)。 


終端側(cè)現(xiàn)可支持定制的Stable Diffusion


最近，高通還演示了在Android智能手機(jī)上運(yùn)行的支持LoRA適配器的Stable Diffusion。LoRA適配器賦能Stable Diffusion基于個(gè)人或藝術(shù)偏好創(chuàng)建高質(zhì)量自定義圖像。用戶可選擇某個(gè)LoRA適配器并設(shè)置適配強(qiáng)度，生成想要的圖像。

例如，我們演示了一個(gè)“面條”適配器，它能夠創(chuàng)建與Stable Diffusion類似的圖像，但生成的圖片能夠結(jié)合意大利面等面食作為繪畫風(fēng)格。

除面向不同藝術(shù)風(fēng)格賦能精調(diào)的語(yǔ)言視覺(jué)模型(LVM)外，LoRA技術(shù)也廣泛適用于任何AI模型。由于模型規(guī)模以及DRAM和閃存限制，這一點(diǎn)對(duì)終端側(cè)生成式AI尤為重要——適配器體積較小，通常不到基礎(chǔ)模型規(guī)模的2%，而且可以快速切換。

在終端側(cè)運(yùn)行LoRA適配器可提供增強(qiáng)的隱私、安全性、可靠性、個(gè)性化和成本優(yōu)勢(shì)。查詢進(jìn)一步信息，請(qǐng)?jiān)L問(wèn)官方網(wǎng)站http://www.qualcomm.cn/news/blogs。（張怡，張底剪報(bào)）
→ 『關(guān)閉窗口』
 365pr_net
 [ → 我要發(fā)表 ] 		上篇文章：AI TOPS和NPU性能指標(biāo)指南
下篇文章：將GaN極性半導(dǎo)體晶圓的兩面用于功能器件
→ 主題所屬分類：  辦公電子 → 技術(shù)聚焦
 熱門文章
 如何申請(qǐng)EtherCAT技術(shù)協(xié)會(huì)（ETG）會(huì)員資格 (200277)
 臺(tái)北國(guó)際計(jì)算機(jī)展（COMPUTEX 2015）參展商名… (107848)
 上海市集成電路行業(yè)協(xié)會(huì)（SICA） (96787)
 USB-IF Members Company List (89195)
 第十七屆中國(guó)專利優(yōu)秀獎(jiǎng)項(xiàng)目名單（507項(xiàng)） (78097)
 蘋果授權(quán)MFi制造商名單-Authorized MFi Lic… (73526)
 臺(tái)北國(guó)際計(jì)算機(jī)展（COMPUTEX 2015）參展商名… (70797)
 中國(guó)130家太陽(yáng)能光伏組件企業(yè)介紹（3） (59402)
 PLC論壇 (54257)
 中國(guó)130家太陽(yáng)能光伏組件企業(yè)介紹（2） (50760)
 最近更新
 涉及圖形用戶界面的產(chǎn)品外觀設(shè)計(jì)專利申請(qǐng)指引 (12月18日)
 jpg、gif、png、webp等主流圖片格式選擇建議 (9月9日)
 AI演進(jìn)推動(dòng)5G與Wi-Fi連接方式的變革 (9月6日)
 晶振：人工智能時(shí)代的精密脈搏 (8月29日)
 晶振—機(jī)械臂高精度動(dòng)作的“隱形指揮官” (8月29日)
 趨膚效應(yīng)（Skin Effect）對(duì)電子電器的影響及應(yīng)… (8月18日)
 一本面向設(shè)計(jì)工程師精心修訂和更新的《ESD應(yīng)用手冊(cè)… (3月10日)
 表皮電子學(xué)的代表作：石墨烯紋身 (2月26日)
 在晶圓級(jí)大規(guī)模生產(chǎn)中引入脈沖激光沉積（PLD）技術(shù) (1月21日)
 你聽說(shuō)過(guò)PiezoMEMS技術(shù)嗎？ (1月21日)
 文章搜索
搜索選項(xiàng)：            
  → 評(píng)論內(nèi)容 (點(diǎn)擊查看)
您是否還沒(méi)有 注冊(cè) 或還沒(méi)有 登陸 本站？！
關(guān)于我們 ┋ 免責(zé)聲明 ┋ 產(chǎn)品與服務(wù) ┋ 聯(lián)系我們 ┋ About 365PR ┋ Join 365PR
Copyright @ 2005-2008 365pr.net Ltd. All Rights Reserved. 深圳市產(chǎn)通互聯(lián)網(wǎng)有限公司 版權(quán)所有
E-mail:postmaster@365pr.net 不良信息舉報(bào) 備案號(hào)：粵ICP備06070889號(hào)