他表示：“在開始使用 NVIDIA NeMo 后，我們就能夠建立行業(yè)級模型了，參數(shù)量從 30 億個增加到 200 億個，再到現(xiàn)在的 400 億個，而且還在不斷擴大?！?/p>

NeMo 是一個可以幫助企業(yè)整理其訓(xùn)練數(shù)據(jù)集、構(gòu)建和定制大語言模型（LLM），并在生產(chǎn)中大規(guī)模運行這些模型的應(yīng)用框架。從韓國到瑞典，世界各地的企業(yè)都在使用它來定制本地語言和行業(yè)的大語言模型（LLM）。

Alshikh 表示：“在使用 NeMo 之前，我們需要四個半月的時間來構(gòu)建一個新的十億級參數(shù)模型。而現(xiàn)在我們只需要 16 天就能完成，這真令人難以置信?！?/p>

模型帶來機遇

今年上半年，這家初創(chuàng)企業(yè)不到 20 名的 AI 工程師團隊利用 NeMo 開發(fā)了 10 個模型，每個模型都有超過 300 億個或更多的參數(shù)。

這帶來了巨大的機遇?，F(xiàn)在，已經(jīng)有數(shù)百家企業(yè)在使用 NeMo 為金融、醫(yī)療、零售和其他垂直市場定制的 Writer 模型。

Writer 的 Recap 工具可根據(jù)采訪

或活動錄音制作書面摘要

這家初創(chuàng)企業(yè)的客戶包括德勤、歐萊雅、財捷、優(yōu)步等家喻戶曉的 500 強企業(yè)。

Writer 使用 NeMo 取得的成功僅僅是故事的開始。目前，已經(jīng)有數(shù)十家其他公司下載了 NeMo。

這款包含在 NVIDIA AI Enterprise 中的軟件將很快可供使用。NVIDIA AI Enterprise 是一套專為加速生成式 AI 工作負載而優(yōu)化，并以企業(yè)級支持、安全性和應(yīng)用編程接口穩(wěn)定性為保障的全棧式軟件。

Writer 為企業(yè)用戶提供全棧式平臺

每月一萬億次 API 調(diào)用

一些客戶在自己的系統(tǒng)或云服務(wù)上運行 Writer 的模型，另一些客戶則要求 Writer 托管模型或者使用 Writer 的 API。

Alshikh 表示：“我們的云基礎(chǔ)設(shè)施基本上由兩個人管理，每月托管的 API 調(diào)用達萬億次，每秒生成 90,000 個單詞。我們提供的高質(zhì)量模型可以與團隊規(guī)模更大、預(yù)算更多的公司所提供的產(chǎn)品相媲美?！?/p>

NVIDIA NeMo 支持從數(shù)據(jù)整理

一直到推理的整個端到端生成式 AI 流程

Writer 使用與 NeMo 打包在一起的 Triton 推理服務(wù)器為其客戶在生產(chǎn)中運行模型。Alshikh 表示，許多運行 LLM 的公司都在使用 Triton。與其他程序相比，Triton 可實現(xiàn)更低的延遲和更高的吞吐量。

“這意味著你可以將運行一些服務(wù)的成本從 10 萬美元減少到 2 萬美元，這樣就能夠投入更多資金構(gòu)建有意義的功能。” Alshikh 說道。

廣闊的視野

Writer 還是 NVIDIA 初創(chuàng)加速計劃（https://www.nvidia.cn/startups/）的成員，該計劃旨在培育前沿初創(chuàng)企業(yè)。Alshikh 表示：“多虧了 NVIDIA 初創(chuàng)加速計劃，我們才有機會盡早使用 NeMo，還有一些了不起的人指導(dǎo)我們?nèi)绾螌ふ液褪褂盟璧墓ぞ?。?/p>

如今，Writer 的文本產(chǎn)品已經(jīng)開始受到關(guān)注，Alshikh 在佛羅里達州和加利福尼亞州兩地奔波，探尋接下來的發(fā)展方向。在生成式 AI 這片廣闊的“疆域”，他看到了圖像、音頻、視頻、3D 等領(lǐng)域的機遇，而且這些機遇可能會同時出現(xiàn)。

他表示：“我們認為多模態(tài)是未來的趨勢”。

在此頁面（https://developer.nvidia.com/nemo）了解如何開始使用 NeMo。訪問此頁面（https://developer.nvidia.com/nemo-framework-open-beta）了解多模態(tài) NeMo 的搶先體驗計劃。

如果您喜歡這篇文章，請使用以下 Writer 建議的摘要轉(zhuǎn)發(fā)給社交網(wǎng)絡(luò)上的朋友：

“了解初創(chuàng)企業(yè) Writer 如何利用 NVIDIA NeMo 軟件為數(shù)百家公司生成內(nèi)容，并以少量人員和預(yù)算獲得可觀的收入?！?/p>

SIGGRAPH 2023

NVIDIA 精彩發(fā)布

更多精彩，仍在繼續(xù)...

敬請持續(xù)關(guān)注