亚洲色无码一区二区三区_软萌小仙自慰喷白浆_又粗又硬又黄又爽的免费视频_51精品国产人成在线观看_乱人伦人妻中文字幕无码久久网

VMware Private AI Foundation with NVIDIA不但能夠讓用戶可以快速獲取生成式AI所需要的高性能，而且還能夠依托于NVIDIA Nemo框架和深度學(xué)習(xí)虛擬機，快速開發(fā)和部署LLM，加速LLM輸出交付。

2023年，以ChatGPT為代表的生成式AI迅速爆火，成為科技行業(yè)的熱點。如何高效部署生成式AI應(yīng)用，以此來加速業(yè)務(wù)創(chuàng)新，成為各大企業(yè)紛紛探索的重點。

(資料圖片僅供參考)

為了幫助企業(yè)加速推進生成式AI的應(yīng)用落地，在VMware Explore 2023上，VMware聯(lián)合NVIDIA，共同打造VMware Private AI Foundation with NVIDIA生成式AI平臺。VMware Private AI Foundation with NVIDIA 將使企業(yè)能夠自定義模型并運行各種生成式 AI 應(yīng)用，如智能聊天機器人、助手、搜索和摘要等。該平臺將作為全集成式解決方案，采用 NVIDIA 提供的生成式 AI 軟件和加速計算，基于 VMware Cloud Foundation 構(gòu)建，并針對 AI 進行了優(yōu)化。

據(jù)NVIDIA企業(yè)計算副總裁Justin Boitano介紹，VMware Private AI Foundation with NVIDIA不但能夠讓用戶可以快速獲取生成式AI所需要的高性能，而且還能夠依托于NVIDIA Nemo框架和深度學(xué)習(xí)虛擬機，快速開發(fā)和部署LLM，加速LLM輸出交付。

共同推動生成式AI應(yīng)用落地

眾所周知，生成式AI對于算力提出了更高的要求。為了解決算力挑戰(zhàn)，NVIDIA 不但推出了L40S、H100等先進的 GPU，而且還發(fā)布了NVIDIA BlueField-3數(shù)據(jù)處理單元 (DPU)。與此同時，為了幫助企業(yè)打造現(xiàn)代化的數(shù)據(jù)中心，VMware發(fā)布了VMware Cloud Foundation，以此來幫助企業(yè)從本地數(shù)據(jù)中心延伸到混合云。

在NVIDIA企業(yè)計算副總裁Justin Boitano看來，創(chuàng)建和自定義企業(yè)的生成式AI模型和應(yīng)用程序，不但對性能提出了更高的要求，而且還需要解決企業(yè)面臨的數(shù)據(jù)保護安全、IP安全和隱私等風(fēng)險。VMware云基礎(chǔ)架構(gòu)平臺副總裁Paul Turner同樣表示，面對外部環(huán)境的不確定性，快速發(fā)展的環(huán)境和不斷變化的工具，企業(yè)創(chuàng)建生成式AI應(yīng)用時，還需要綜合考慮成本和復(fù)雜性等因素。

為此，NVIDIA和VMware基于企業(yè)面臨的各種挑戰(zhàn)，在VMware Explore 2023上共同打造了VMware Private AI Foundation with NVIDIA生成式AI平臺，一方面基于NVIDIA L40S/NVIDIA H100和NVIDIA BlueField-3/ NVIDIA ConnectX-7底層硬件提供強大的算力保障；另一方面，利用 NVIDIA AI Enterprise 套件，VMware Cloud Foundation用戶能夠在 NVIDIA 認證系統(tǒng)上安全地運行現(xiàn)代、加速的工作負載以及現(xiàn)有企業(yè)應(yīng)用程序，實現(xiàn)LLM的快速開發(fā)、部署和輸出交付。

據(jù)介紹，由于VMware云基礎(chǔ)架構(gòu)支持NVIDIA L40S GPU和NVIDIA BlueField-3智能網(wǎng)卡等硬件產(chǎn)品，能夠在VMware Cloud Foundation直接加速人工智能工作負載的計算能力。而在VMware Private AI Foundation with NVIDIA生成式AI平臺上，用戶僅需要創(chuàng)建項目、自定義模型、構(gòu)建Al助手、部署Al助手這4個步驟，即可完成生成式AI應(yīng)用的開發(fā)與應(yīng)用。

Justin Boitano表示，VMware Private Al Foundation with NVIDIA平臺不但能夠為用戶提供更優(yōu)化的性能，而且基于雙方廣泛的生態(tài)和合作伙伴，能夠為用戶帶來更高的選擇靈活性，與此同時還能夠降低數(shù)據(jù)安全的風(fēng)險。除此之外，能夠大幅提高企業(yè)的生產(chǎn)力，降低開發(fā)流程，縮短開發(fā)部署應(yīng)用周期。

據(jù)了解，VMware Private Al Foundation with NVIDIA平臺將采用的 NVIDIA NeMo 是 NVIDIA AI Enterprise（NVIDIA AI 平臺的操作系統(tǒng)）中包含的端到端云原生框架，可助力企業(yè)在幾乎任何地點構(gòu)建、自定義和部署生成式 AI 模型。NeMo 集自定義框架、護欄工具包、數(shù)據(jù)整理工具和預(yù)訓(xùn)練模型于一身，使企業(yè)能夠以一種簡單、經(jīng)濟且快速的方式來采用生成式 AI。

除此之外，為將生成式 AI 部署到生產(chǎn)中，NeMo 使用 TensorRT for Large Language Models（TRT-LLM），以加速并優(yōu)化 NVIDIA GPU 上最新 LLM 的推理性能。通過 NeMo，VMware Private AI Foundation with NVIDIA 將使企業(yè)能夠?qū)胱约旱臄?shù)據(jù)，并在 VMware 混合云基礎(chǔ)架構(gòu)上構(gòu)建和運行自定義生成式 AI 模型。

十年合作加速虛擬化計算

NVIDIA與VMware自2013年開始合作以來，至今已有10年的歷程。這10年來，雙方在虛擬化、人工智能、現(xiàn)代化數(shù)據(jù)中心等領(lǐng)域進行了深入的合作，致力于幫助企業(yè)用戶構(gòu)建現(xiàn)代化的數(shù)據(jù)中心，加速企業(yè)的創(chuàng)新與數(shù)字化轉(zhuǎn)型。

在AI領(lǐng)域，利用 NVIDIA AI Enterprise 套件和 NVIDIA 最先進的 GPU 和 數(shù)據(jù)處理單元 (DPU)，VMware 和 NVIDIA 正在將共同努力改造基于 VMware Cloud Foundation 的現(xiàn)代數(shù)據(jù)中心，并將 AI 引入每個企業(yè)，并從本地數(shù)據(jù)中心延伸到混合云，從虛擬機延伸到容器。

據(jù)介紹，VMware Private AI Foundation with NVIDIA生成式AI平臺，得到了聯(lián)想、戴爾集團、慧與等硬件廠商的大力支持。戴爾科技、慧與和聯(lián)想即將推出采用 NVIDIA L40S GPU 和NVIDIA BlueField 的服務(wù)器，以支持 VMware Private AI Foundationwith NVIDIA，共同合作推動生成式AI平臺的應(yīng)用落地。

正發(fā)Justin Boitano所述，NVIDIA攜手VMware打造的VMware Private AI Foundation with NVIDIA，將大幅減化生成式AI的開發(fā)與部署，加速推進生成式AI在各行各業(yè)的應(yīng)用，助推行業(yè)創(chuàng)新，加速企業(yè)數(shù)字化轉(zhuǎn)型。