智能體正在從問答系統(tǒng)發(fā)展為長期運行的自主助手，可讀取文件、調(diào)用 API 并驅(qū)動多步驟工作流。但是，部署智能體來執(zhí)行代碼和使用工具而不進行適當(dāng)隔離會帶來真正的風(fēng)險，尤其是在使用第三方云基礎(chǔ)設(shè)施時，由于數(shù)據(jù)隱私和控制的原因。

NVIDIA NemoClaw 是一個開源參考堆棧，通過編排NVIDIA OpenShell來運行OpenClaw，一個自托管網(wǎng)關(guān)，可將消息傳遞平臺與由 NVIDIA Nemotron 等開放模型驅(qū)動的 AI 編碼智能體相連接。NemoClaw 增加了引導(dǎo)式載入、生命周期管理、圖像強化和版本化藍圖，提供了從模型推理到更安全的交互式智能體部署的完整流程。

本教程將介紹如何在 NVIDIA DGX Spark 上部署 NemoClaw，從配置運行時環(huán)境和在本地提供模型，到安裝 NemoClaw 堆棧并將其連接到 Telegram 以進行遠程訪問，不一而足。您將構(gòu)建一個在硬件上運行的本地沙盒 AI 助手，可通過任何 Telegram 客戶端訪問。

模型和代碼的快速鏈接

訪問本教程的以下資源：

* 軟件和模型：

DGX Spark 上搭載 NVIDIA Nemotron 3 Super 和 Telegram 的 NemoClaw：關(guān)于使用本地推理設(shè)置 NemoClaw 的端到端指南。

NVIDIA Build 上的 NVIDIA Nemotron 3 Super 120B：教程中使用的模型。

代碼和文檔：

NVIDIA NemoClaw 文檔：配置、策略和高級部署的完整參考。（https://docs.nvidia.com/nemoclaw/）（復(fù)制鏈接至瀏覽器打開，下同）

GitHub 上的 NVIDIA NemoClaw：源代碼和社區(qū)貢獻。（https://github.com/NVIDIA/NemoClaw）

NVIDIA DGX Spark：硬件規(guī)格和開發(fā)者資源。（https://www.nvidia.cn/products/workstations/dgx-spark/）

預(yù)備知識

有關(guān)完整的設(shè)置說明，請在網(wǎng)站訪問適用于 NemoClaw 的 DGX Spark 劇本，或者無需硬件即可開始使用。

如果您計劃使用其他設(shè)備，我們將在文檔中列出的替代部署設(shè)備上對 NemoClaw 進行測試和驗證，請檢查 API/VLLM 功能。

開始設(shè)置之前，請確保滿足以下要求：

硬件：運行 Ubuntu 24.04 LTS 的 DGX Spark (GB10) 系統(tǒng)，以及最新的 NVIDIA 驅(qū)動程序。

Docker：28.x 版本或更高版本，配置了 NVIDIA 容器運行時 (將在下一節(jié)中介紹)。

Ollama：安裝為本地模型服務(wù)引擎。

Telegram 機器人詞元：通過 Telegram 的 BotFather 創(chuàng)建 (詳情請參閱 Telegram 集成部分)。

預(yù)計時間：大約 20 – 30 分鐘的活動設(shè)置時間，以及 15 – 30 分鐘的初始模型下載時間（約 87 GB），具體取決于網(wǎng)絡(luò)帶寬。

以下命令可驗證系統(tǒng)就緒情況：

head-n 2 /etc/os-release  # Expected: Ubuntu 24.04
nvidia-smi          # Expected: NVIDIA GB10 GPU
docker info --format'{{.ServerVersion}}'# Expected: 28.x+

NemoClaw 組件

在構(gòu)建沙盒助手之前，務(wù)必要了解此環(huán)境中使用的軟件。

表 1. NVIDIA NemoClaw 堆棧的架構(gòu)組件

安全注意事項：雖然 OpenShell 提供了強大的隔離功能，但請記住，沒有任何沙盒能夠針對高級提示注入提供全面保護。在測試新工具時，始終在獨立系統(tǒng)上進行部署。

我們開始吧。

配置運行時

DGX Spark 需要幾個 Docker 配置步驟來支持具有適當(dāng)隔離設(shè)置的 GPU 加速容器。首先，通過 Docker 注冊 NVIDIA 容器運行時：

sudonvidia-ctk runtime configure --runtime=docker

接下來，將 cgroup 命名空間模式設(shè)置為host。此配置是 DGX Spark 正常處理容器化工作負載所必需的：

sudopython3 -c"
import json, os
path = '/etc/docker/daemon.json'
d = json.load(open(path)) if os.path.exists(path) else {}
d['default-cgroupns-mode'] = 'host'
json.dump(d, open(path, 'w'), indent=2)
"
Restart Docker to apply the changes and verify that the NVIDIA runtime is functioning:
sudosystemctl restart docker
docker run --rm--runtime=nvidia --gpus all ubuntu nvidia-smi

輸出應(yīng)顯示 GB10 GPU。為避免后續(xù) Docker 命令需要sudo，請將當(dāng)前用戶添加到 Docker 組：

sudousermod -aG docker$USER
newgrp docker

安裝 Ollama

Ollama 是一個輕量級模型服務(wù)引擎，用于在本地運行大語言模型。使用官方安裝程序進行安裝：

curl-fsSL https://ollama.com/install.sh | sh

默認情況下，Ollama 僅會在本地主機上偵聽。由于 NemoClaw 智能體在沙盒中運行，并且擁有自己的網(wǎng)絡(luò)命名空間，因此它必須跨越網(wǎng)絡(luò)邊界到達 Ollama。將 Ollama 配置為在所有接口上偵聽：

sudomkdir-p /etc/systemd/system/ollama.service.d 
printf'[Service]
Environment="OLLAMA_HOST=0.0.0.0"
'|   
sudotee/etc/systemd/system/ollama.service.d/override.conf
sudosystemctl daemon-reload                 
sudosystemctl restart ollama

驗證 Ollama 是否在所有接口上運行并可訪問：

curlhttp://0.0.0.0:11434

重要提示：只能通過 systemd 啟動 Ollama。手動啟動的 Ollama 進程不會接收 OLLAMA_HOST = 0.0.0.0 優(yōu)設(shè)，并且 NemoClaw 沙盒無法到達推理服務(wù)器。

sudosystemctl restart ollama

接下來，拉取 Nemotron 3 Super 120B 模型。下載約為 87 GB：

ollamapull nemotron-3-super:120b

下載完成后，將模型權(quán)重預(yù)加載到 GPU 顯存中，以避免首次智能體交互出現(xiàn)冷啟動延遲：

ollamarun nemotron-3-super:120b

加載模型并給出提示后，使用/bye退出會話。權(quán)重仍將緩存在內(nèi)存中。確認模型可用：

ollamalist
# You should see something like
NAME           ID       SIZE   MODIFIED  

安裝 NemoClaw

基礎(chǔ)準備就緒后，只需一條命令即可安裝 NemoClaw：

curl-fsSL https://www.nvidia.com/nemoclaw.sh | bash

安裝程序提供 Node.js 依賴項、OpenShell 運行時和 NemoClaw CLI，然后啟動載入向?qū)?。向?qū)⑻崾灸x擇以下配置選項：

沙盒名稱：指定帶連字符的小寫字母和數(shù)字名稱（例如my-assistant）。所有后續(xù)命令均使用此名稱。

推理提供程序：選擇 Local Ollama（本地 Ollama）（選項 7），將推理路由到本地 Ollama 實例。

模型：選擇nemotron-3-super:120b（選項 1）。

策略預(yù)設(shè)：如果您接受默認策略，請按 Y。這些預(yù)設(shè)可配置沙盒的文件系統(tǒng)和網(wǎng)絡(luò)限制。

Telegram 集成：您可以選擇在入門向?qū)У牡?5 步中配置 Telegram 機器人。

入職流程結(jié)束后，安裝程序會以http://127.0.0.1:18789/#token=的格式顯示標記化的 Web UI URL。記錄此 URL，因為它是將來訪問 Web 控制面板所必需的，并且不會再次顯示。

如果安裝后nemoclaw命令無法識別，請重新加載 shell 環(huán)境，以便在未來的所有會話中啟用該命令：

source~/.bashrc

驗證設(shè)置

連接到沙盒并驗證智能體能否到達推理后端：

nemoclawmy-assistantconnect

此命令返回模型信息，確認沙盒環(huán)境可以與 Ollama 通信。接下來，通過智能體發(fā)送測試消息：

openclaw agent--agentmain--local-m "hello"--session-idtest

如果配置正確，NVIDIA Nemotron 3 Super 會生成響應(yīng)。請注意，使用 120B 模型進行推理時，每個響應(yīng)通常需要 30 – 90 秒，對于運行本地推理的這種規(guī)模的模型，預(yù)計需要 30 – 90 秒。

交互式終端 UI 提供更具對話性的測試體驗：

openclawtui

完成后，使用Ctrl+C退出終端 UI。

訪問 Web UI

要在本地訪問 Web 控制面板，請退出沙盒，然后打開載入過程中記錄的標記化 URL：

exit

然后在瀏覽器中導(dǎo)航至 http://127.0.0.1:18789/#詞元=** long-詞元-here >。

從另一臺機器進行遠程訪問。如果您要通過網(wǎng)絡(luò)而非直接訪問 DGX Spark，則需要進行其他配置。首先，確定 Spark 的 IP 地址：

hostname-I | awk'{print$1}'

通過 Spark 的終端會話啟動端口轉(zhuǎn)發(fā)：

openshell forwardstart18789my-assistant--background

在遠程機器中，創(chuàng)建通往 Spark 的 SSH 隧道：

ssh-L18789:127.0.0.1:18789@

激活隧道后，在遠程機器的瀏覽器中打開 http://127.0.0.1:18789/#詞元=** long-詞元-here >。

注意：僅使用127.0.0.1。localhost可能會導(dǎo)致“origin not allowed”錯誤。

連接到 Telegram

Telegram 集成將助手擴展到本地終端之外，使其可以通過具有 Telegram 客戶端的任何設(shè)備進行訪問。

創(chuàng)建 Telegram 機器人

打開 Telegram 并搜索 BotFather 以管理您的機器人。開始對話并使用/newbot命令。@BotFather 會指導(dǎo)您命名機器人，并在完成后提供 API 詞元。保存此詞元以執(zhí)行以下配置步驟。

注意:如果您在 NemoClaw 載入向?qū)С绦蛑信渲昧?Telegram，則 Telegram 已在沙盒中運行。

如果您在入門期間未配置 Telegram，請使用詞元設(shè)置重新運行入門向?qū)?。這將使用烘焙的 Telegram 重建沙盒。機器人詞元已在 OpenShell 網(wǎng)關(guān)中注冊，不會直接進入沙盒。

exportTELEGRAM_BOT_TOKEN=
nemoclaw onboard   

驗證集成

打開 Telegram，找到機器人，然后發(fā)送消息。首次接觸時，OpenClaw 需要配對。機器人將使用配對代碼作出響應(yīng)：

OpenClaw: access not configured.
Your Telegram user id:
Pairing code:

nemoclawmy-assistantconnect
openclaw pairing approve telegram 
exit

openshellterm

openclawtui

nemoclaw my-assistant policy-add