近期科技圈對Deepseek R1的熱度持續(xù)升溫。這款AI模型是否真的如傳聞中那般神奇？讓我通過Raspberry Pi實(shí)測帶您一探究竟。

自DeepSeek AI發(fā)布以來，科技媒體圈就掀起了一場風(fēng)暴。這款模型不斷打破性能基準(zhǔn)測試記錄，儼然已成為AI創(chuàng)新領(lǐng)域的標(biāo)桿。

DeepSeek與OpenAI基準(zhǔn)對比 | 來源：Brian Roemmele

最近我在X平臺偶然看到有人聲稱在Raspberry Pi上以200 token/秒的速度運(yùn)行Deepseek。

這讓我瞬間懷疑人生："什么鬼？！"

仔細(xì)研究整個(gè)討論串后發(fā)現(xiàn)，該用戶是通過在Raspberry Pi上疊加AI加速模塊才達(dá)成的成績。但好奇心驅(qū)使我決定挑戰(zhàn)極限：在沒有額外硬件的情況下，用原生Raspberry Pi 5（8GB版）測試Deepseek的真實(shí)性能。

因此，為了這篇文章，我在我的Raspberry Pi 5（8GB內(nèi)存型號）上安裝了Ollama，并下載了具有不同參數(shù)（即15B、70B、80B和140B參數(shù)）的Deepseek模型。

Ollama：

https://ollama.com/

Deepseek模型：

https://ollama.com/library/deepseek-r1

以下是每個(gè)模型的性能表現(xiàn)：

Deepseek 1.5B

這個(gè)模型反應(yīng)迅速。它出乎意料地靈敏，能夠輕松處理改寫任務(wù)。我沒有遇到任何幻覺（生成不符合邏輯或上下文的內(nèi)容）問題，這使其成為日常任務(wù)（如摘要生成和文本生成）的理想選擇。

性能數(shù)據(jù)

為了進(jìn)一步測試其能力，我提出了一個(gè)問題：Podman和Docker有什么區(qū)別？

模型給出了相當(dāng)不錯(cuò)的回答，清晰地闡述了這兩種容器化工具之間的區(qū)別。它強(qiáng)調(diào)了Podman是無守護(hù)進(jìn)程的，而Docker依賴于守護(hù)進(jìn)程，并涉及了無根操作等安全方面。

這個(gè)回答花了大約兩分鐘，以下是性能數(shù)據(jù)：

總時(shí)長：1m33.59302487s加載時(shí)長：44.322672ms提示評估次數(shù)：13個(gè)tokens提示評估時(shí)長：985ms提示評估速率：13.20個(gè)tokens/s評估次數(shù)：855個(gè)tokens評估時(shí)長：1m32.562s評估速率：9.24個(gè)tokens/s

Deepseek 7B

7B模型引入了一定程度的幻覺。我嘗試編寫一個(gè)創(chuàng)意提示，要求生成三首俳句，但它開始生成無盡的文本，甚至自己問自己問題！

雖然很有趣，但并不實(shí)用。為了基準(zhǔn)測試的目的，我簡化了提示，如視頻所示。在性能方面，它更慢，但仍然可用。

性能數(shù)據(jù)

為了進(jìn)一步測試，我問：Docker Compose和Docker Run有什么區(qū)別？回答是準(zhǔn)確信息和不準(zhǔn)確信息的混合體。

它正確地解釋了Docker Compose通過docker-compose.yml文件用于管理多容器應(yīng)用程序，而Docker Run通常用于使用特定標(biāo)志運(yùn)行單個(gè)容器。

然而，它很快就開始自己問問題，比如“但是，對于一個(gè)單應(yīng)用，比如單臺機(jī)器上的簡單Flask應(yīng)用，Docker Run可能就足夠了？還是有其他命令或方法？”

以下是性能數(shù)據(jù)：

總時(shí)長：4m20.665430872s加載時(shí)長：39.565944ms提示評估次數(shù)：11個(gè)token(s)提示評估時(shí)長：3.256s提示評估速率：3.38個(gè)token/秒評估次數(shù)：517個(gè)token評估時(shí)長：4m17.368s評估速率：2.01個(gè)token/秒

Deepseek 8B

這是一個(gè)變數(shù)?？紤]到這些模型對資源的巨大需求，我沒想到8B模型能運(yùn)行起來。令我驚訝的是，它竟然成功了！

性能與7B模型相當(dāng)，既不快，也不是特別靈敏，但在沒有任何額外硬件的Raspberry Pi上運(yùn)行一個(gè)8B模型，在我看來就是勝利。

性能數(shù)據(jù)

我通過提問“編寫一個(gè)HTML模板和CSS模板”來測試它。模型成功地在單個(gè)代碼塊中生成了一個(gè)功能性的HTML和CSS模板，并確保它們整齊地配對。

然而，在跳到解決方案之前，模型解釋了它的方法、它將要做什么以及還可以添加什么。

雖然這提供了信息，但對于一個(gè)直接的查詢來說，這感覺是不必要的。如果我更精確地構(gòu)造提示，回答可能會更直接（即用戶錯(cuò)誤）。

以下是性能數(shù)據(jù)：

總時(shí)長：6m53.350371838s加載時(shí)長：44.410437ms提示評估次數(shù)：13個(gè) token(s)提示評估時(shí)長：4.99s提示評估速率：2.61個(gè)tokens/s評估次數(shù)：826個(gè)token評估時(shí)長：6m48.314s評估速率：2.02個(gè)tokens/s

Deepseek 14B？

不幸的是，這并沒有成功。14B模型需要超過10GB的內(nèi)存，而我的8GB Raspberry Pi無法處理。在8B模型成功后，我充滿希望，但現(xiàn)實(shí)給了我一擊。

結(jié)論

DeepSeek在Raspberry Pi 5上的原始性能展示了單板計(jì)算機(jī)（SBC）在處理AI工作負(fù)載方面的巨大潛力。

1.5B模型是輕量級任務(wù)的實(shí)際選擇，而7B和8B模型則展示了Raspberry Pi處理更大工作負(fù)載的能力，盡管速度較慢。