大模型運(yùn)行成本高昂，準(zhǔn)入壁壘較高。大模型對(duì)于訓(xùn)練時(shí)間和參數(shù)量都有高要求，以 OpenAICEO Altman 在推特上回復(fù)馬斯克的留言可知，ChatGPT 平均一次聊天成本為幾美分。根據(jù)Similar Web 數(shù)據(jù)，2023 年１月 27 日至 2 月 3 日 ChatGPT 日活躍用戶達(dá) 2500 萬(wàn)人。中性假設(shè)下，以平均單人單日對(duì)話 7 次，每次 3 美分成本進(jìn)行測(cè)算，對(duì)應(yīng)一年支出對(duì)話成本約為19.2 億美元。根據(jù)英偉達(dá)官網(wǎng)，A100 作為 DGX A100 系統(tǒng)的一部分進(jìn)行銷售，該系統(tǒng)搭載 8個(gè) A100 GPU，一個(gè)由 5 臺(tái) DGX A100 系統(tǒng)組成的機(jī)架可替代一個(gè)包括 AI 訓(xùn)練和推理基礎(chǔ)設(shè)施的數(shù)據(jù)中心，且功耗僅為其 1/20，成本為其 1/10，系統(tǒng)售價(jià) 19.9 萬(wàn)美元。因此，在中性假設(shè)條件下，考慮到服務(wù)器約占數(shù)據(jù)中心成本的 70%（中商產(chǎn)業(yè)研究院），則 ChatGPT 運(yùn)營(yíng)一年將需要 6741 個(gè) DGX A100 系統(tǒng)用于支撐訪問量。

ChatGPT帶動(dòng)大模型競(jìng)品發(fā)布，海內(nèi)外科技巨頭先后加碼AI布局。

1）谷歌向AI公司Anthropic投資近 4 億美元，后者正在測(cè)試生成式 AI 工具 Claude，且谷歌也推出對(duì)標(biāo) ChatGPT 的聊天機(jī)器人 Bard。

2）微軟以 100 億美元投資 ChatGPT 的開發(fā)商 OpenAI，并獲得其 49%股權(quán)。2023年 2 月，微軟發(fā)布基于 ChatGPT 的 new Bing。

3）亞馬遜云服務(wù) AWS 宣布與 AI 公司 HuggingFace 開展合作，Hugging Face 將在 AWS 上開發(fā)針對(duì) ChatGPT 的開源競(jìng)品，構(gòu)建開源語(yǔ)言模型的下個(gè)版本 Bloom。

4）阿里達(dá)摩院正研發(fā)類 ChatGPT 的對(duì)話機(jī)器人，目前已處于內(nèi)測(cè)階段。

5）百度開發(fā)類 ChatGPT 項(xiàng)目“文心一言”（ERINE Bot）。

6）京東推出產(chǎn)業(yè)版 ChatJD。

基于昆侖芯+飛槳+文心大模型 AI 底座，百度推出“文心一言”拉開國(guó)產(chǎn)生成式 AI 序幕。2023年 3 月 16 日，百度正式推出國(guó)內(nèi)首款生成式 AI 產(chǎn)品“文心一言”，可支持文學(xué)創(chuàng)作、文案創(chuàng)作、數(shù)理推算、多模態(tài)生成等功能，目前已有多家廠商宣布接入。“文心一言”基于全棧自研的 AI 基礎(chǔ)設(shè)施進(jìn)行學(xué)習(xí)和訓(xùn)練：

? 昆侖芯 2 代 AI 芯片：“文心一言”的芯片層核心能力，采用自研 XPU-R 架構(gòu)，通用性和性能顯著提升；256 TOPS@INT8 和 128 TFLOPS@FP16 的算力水平，較一代提升 2-3 倍，保障“文心一言”算力需求；采用 7nm 先進(jìn)工藝，GDDR6 高速顯存，支持虛擬化，芯片間互聯(lián)和視頻編解碼等功能。

? 飛槳深度學(xué)習(xí)平臺(tái)：“文心一言”的框架層核心能力，系業(yè)內(nèi)首個(gè)動(dòng)靜統(tǒng)一的框架、首個(gè)通用異構(gòu)參數(shù)服務(wù)器架構(gòu)，支持端邊云多硬件和多操作系統(tǒng)，為文心大模型提供有效、快捷、完整的訓(xùn)練框架。

? 文心知識(shí)增強(qiáng)大模型：“文心一言”的模型層核心能力，該產(chǎn)品主要采用 ERNIE 系列文心NLP 模型，擁有千億參數(shù)級(jí)別的 ERNIE 3.0 Zeus 為該系列最新模型，進(jìn)一步提升了模型對(duì)于不同下游任務(wù)的建模能力，大大拓寬了“文心一言”的應(yīng)用場(chǎng)景。

以 GPT-3 為例測(cè)算：大算力需求驅(qū)動(dòng) AI 硬件市場(chǎng)空間提升

GPT-3（Generative Pre-trained Transformer 是 GPT-3.5 的上一代語(yǔ)言模型，目前一般所說的 GPT-3 即為擁有 1750 億參數(shù)的最大 GPT-3 模型，OpenAI 在公開發(fā)表的論文《Language Models are Few-Shot Learners》中對(duì) GPT-3 模型進(jìn)行了詳細(xì)分析。對(duì)于以 ChatGPT 為例的大模型算力需求，根據(jù)測(cè)算，我們預(yù)計(jì)用于高端 GPGPU 顯卡的訓(xùn)練及推理部分市場(chǎng)空間合計(jì)約 145.32 億元，其中訓(xùn)練市場(chǎng)規(guī)模為 27.84 億元，推理市場(chǎng)規(guī)模為 117.48 億元。

英偉達(dá)引領(lǐng)硬件端產(chǎn)品升級(jí)，國(guó)產(chǎn) GPU 靜待花開

大 GPU 優(yōu)勢(shì)在于通過并行計(jì)算實(shí)現(xiàn)大量重復(fù)性計(jì)算。GPGPU（General Purpose GPU）即通用GPU，能夠幫助 CPU 進(jìn)行非圖形相關(guān)程序的運(yùn)算。在類似的價(jià)格和功率范圍內(nèi)，GPU 能提供比CPU 高得多的指令吞吐量和內(nèi)存帶寬。

GPT-4 模型算力需求擴(kuò)增，架構(gòu)升級(jí)降本增效未來(lái)可期

根據(jù) OpenAI 官網(wǎng)顯示，目前 GPT-4 每 4 小時(shí)只能處理 100 條消息，且并沒有開放圖片識(shí)別功能。大模型升級(jí)帶來(lái)的運(yùn)算需求逐漸加碼，且可推測(cè)目前算力已處于供不應(yīng)求狀態(tài)。

多模態(tài)拓展，圖片識(shí)別算力需求升級(jí)十倍以上。關(guān)于從圖片到 token 的轉(zhuǎn)換方式，OpenAI 未公布 GPT-4 的模型參數(shù),假設(shè) GPT-4 處理圖片視覺任務(wù)使用 VisionTransformer 模型（ViT），則輸入圖片尺寸必須為 224×224（ViT-B/16 版本）。根據(jù) 2021 年 ICLR 論文，模型原理大致為把一張圖片分成 nxn 個(gè) Patch，每一個(gè) Patch 作為一個(gè) Token。即把一張 224×224×3 的圖片，切分為 16×16 大小的 Patch，每個(gè) Patch 是三通道小圖片，得到 16×16×3=768 個(gè) token并作為向量輸入。相較之下，根據(jù)前文 GPT-3 部分假設(shè)，假設(shè)每個(gè)文字問題 50-100 詞，即67-133token。我們可以粗略推論，圖像識(shí)別的所需算力是文字推理部分所需算力的十倍以上級(jí)別。

審核編輯 ：李倩