與ChatGPT分享敏感信息是危險的。云公司正在與硅供應(yīng)商合作，通過機(jī)密計算來確保數(shù)據(jù)安全，云安全將是AI芯片競賽中最大的驅(qū)動力之一。



亞馬遜警告其員工不要與ChatGPT分享敏感信息。同樣，早些時候，在與AIM的對話中，Infosys的Gary Bhattacharjee討論到，與從網(wǎng)絡(luò)上抓取所有內(nèi)容的GPT相比，公司有更好的機(jī)會通過像HuggingFace的CodeGen這樣的模型來保護(hù)他們的知識產(chǎn)權(quán)，CodeGen是專門針對開源代碼進(jìn)行培訓(xùn)的。

如果我們看看金融、醫(yī)療保健、政府和其他高度監(jiān)管的行業(yè)，ChatGPT之類的技術(shù)完全行不通。然而，為了增加這些行業(yè)的接入，云公司正在與硅供應(yīng)商合作，通過機(jī)密計算（Confidential Computing）來確保數(shù)據(jù)安全。

最近，OpenAI發(fā)布了其chatbot的ChatGPT API，供用戶集成到他們的應(yīng)用程序和產(chǎn)品中。首席執(zhí)行官Sam Altman說，提交給OpenAI API的數(shù)據(jù)不會用于訓(xùn)練。
與此同時，NVIDIA的博客表明，他們正在通過Hopper架構(gòu)GPU，將虛擬機(jī)風(fēng)格的機(jī)密計算GPU加速推向市場。Hopper將能夠擴(kuò)展每個數(shù)據(jù)中心的AI工作負(fù)載，從小企業(yè)到exascale高性能計算(HPC)和萬億參數(shù)AI。

根據(jù)Tom's Hardware的最近報告，NVIDIA已經(jīng)開始發(fā)運(yùn)H100 (Hopper)，這是A100的繼任者。雖然媒體報道強(qiáng)調(diào)了顯著的性能改進(jìn)和更高的AI訓(xùn)練吞吐量，但出問題的是H100對機(jī)密計算的集成。對于OpenAI來說，要實(shí)現(xiàn)商業(yè)雄心，深入數(shù)據(jù)隱私方面是絕對關(guān)鍵的——盡管成本高昂(運(yùn)行該模型需要大約30，000個GPU)。Anjuna Security的區(qū)域銷售副總裁Kishan Patel表示，“與令牌化或應(yīng)用級加密技術(shù)相比，機(jī)密計算是解決ChatGPT相關(guān)數(shù)據(jù)安全或隱私挑戰(zhàn)的一種更具可擴(kuò)展性的方式。”

Confidential VMs是一種基于硬件的安全解決方案，允許組織保護(hù)其最敏感的數(shù)據(jù)，即使這些數(shù)據(jù)正在被處理。該技術(shù)利用了基于硬件的可信執(zhí)行環(huán)境(TEE)，這基本上是一個硬件強(qiáng)制的安全地帶，與系統(tǒng)的其余部分完全隔離。

Register解釋了其中的兩步過程。首先，為了在GPU上實(shí)現(xiàn)機(jī)密計算，在通過PCIe總線在CPU和GPU之間傳輸數(shù)據(jù)之前，使用在NVIDIA的設(shè)備驅(qū)動程序和GPU之間交換的安全加密密鑰對數(shù)據(jù)進(jìn)行加密。其次，一旦數(shù)據(jù)被傳輸?shù)紾PU，就會在GPU包內(nèi)受硬件保護(hù)的隔離環(huán)境中被解密，在那里可以被處理以生成模型或推理結(jié)果。

這種隔離可確保應(yīng)用和數(shù)據(jù)免受各種類型的攻擊，這些攻擊可能來自固件、操作系統(tǒng)、管理程序、虛擬機(jī)，甚至是計算機(jī)上的USB端口或PCI Express連接器等物理接口。

NVIDIA不是唯一的玩家——英特爾和AMD也在穩(wěn)步前進(jìn)。去年，英特爾推出了Amber項(xiàng)目，旨在為機(jī)密計算提供安全基礎(chǔ)，特別是在AI模型訓(xùn)練和部署方面。最近，該公司還在其第四代至強(qiáng)處理器中添加了基于相同虛擬機(jī)隔離技術(shù)的信任域擴(kuò)展(TDX)。

同樣，AMD已經(jīng)與谷歌云合作，為其Epyc處理器提供額外的安全層。這是因?yàn)楫?dāng)時AMD是主流服務(wù)器CPU中唯一提供機(jī)密計算能力的公司。

芯片公司有更大的動力與微軟、谷歌、IBM、甲骨文等云提供商合作，以便能夠購買大量的處理器。這些云公司的安全研究人員將能夠仔細(xì)檢查設(shè)備實(shí)現(xiàn)及其定制測試的每個細(xì)節(jié)。尤其是這一點(diǎn)，因?yàn)楠?dú)立研究人員在過去已經(jīng)多次發(fā)現(xiàn)英特爾SGX和AMD SEV的幾個缺陷。

此外，RISC-V等開源社區(qū)也在不斷努力，在一個名為Keystone的開源項(xiàng)目中實(shí)現(xiàn)機(jī)密計算。

然而，盡管上述努力旨在確保CPU級別的安全性，但NVIDIA的Hopper架構(gòu)為GPU提供了VM風(fēng)格的機(jī)密計算�？紤]到英偉達(dá)一直在AI上全力以赴，將機(jī)密計算引入GPU使其獲得了進(jìn)一步的優(yōu)勢。

根據(jù)一項(xiàng)研究，機(jī)密計算市場可能在五年內(nèi)增長26倍，到2026年將達(dá)到540億美元。因此，說云安全將是AI芯片競賽中最大的驅(qū)動因素之一并不為過。

查詢進(jìn)一步信息，請?jiān)L問英文網(wǎng)站http://analyticsindiamag.com/how-confidential-computing-is-changing-the-ai-chip-game/。（鐠元素）