生成式 AI 改變了人們將創(chuàng)意變?yōu)楝F(xiàn)實(shí)的方式。代理式 AI 進(jìn)一步推進(jìn)了這一進(jìn)程 — 利用復(fù)雜的自主因果推理和迭代式規(guī)劃來幫助解決復(fù)雜的多步驟問題。

AnythingLLM 是一款可定制的開源桌面應(yīng)用，讓用戶可以在其 PC 上將大語言模型(LLM)功能無縫地集成到各種本地應(yīng)用中。該應(yīng)用使用戶能夠利用 AI 執(zhí)行內(nèi)容生成、摘要等任務(wù)，根據(jù)特定需求定制工具。

在 NVIDIA RTX AI PC 上加速的 AnythingLLM 推出了一個(gè)全新社區(qū)中心，用戶可以在構(gòu)建和運(yùn)行本地 AI 智能體的同時(shí)分享提示詞、斜杠命令和 AI agent 技能。

利用代理式 AI 自主解決復(fù)雜的多步驟問題

AI 智能體可以進(jìn)一步提升聊天機(jī)器人的能力。這些智能體通常了解任務(wù)的場(chǎng)景，可以分析難點(diǎn)并制定策略，有些智能體甚至可以完全執(zhí)行被分配的任務(wù)。

例如，聊天機(jī)器人可以推薦餐廳，而 AI agent 甚至可以顯示餐廳的電話號(hào)碼以進(jìn)行預(yù)訂，并在用戶的日歷中添加提醒事項(xiàng)。

智能體有助于實(shí)現(xiàn)更宏大的目標(biāo)，而并不局限于具體任務(wù)層面。有許多正在開發(fā)中的智能體應(yīng)用可用于處理待辦事項(xiàng)列表、管理日程、幫助組織任務(wù)、自動(dòng)發(fā)送電子郵件回復(fù)、推薦個(gè)性化鍛煉計(jì)劃或計(jì)劃行程。

一旦收到提示，AI 智能體就可以收集和處理各種來源的數(shù)據(jù)，包括數(shù)據(jù)庫(kù)。它可以使用 LLM 進(jìn)行推理，例如理解任務(wù)，然后生成解決方案和特定功能。如果與外部工具和軟件集成，AI 智能體接下來就可以執(zhí)行任務(wù)。

一些復(fù)雜的智能體甚至可以通過反饋循環(huán)得到改進(jìn)。當(dāng)其生成的數(shù)據(jù)被反饋到系統(tǒng)時(shí)，AI 智能體會(huì)變得更智能、更快。

逐步查看代理式 AI 系統(tǒng)背后的流程。AI 智能體處理用戶輸入，從數(shù)據(jù)庫(kù)和其他來源檢索信息，并實(shí)時(shí)改進(jìn)任務(wù)，以提供可執(zhí)行的結(jié)果。

與其他 PC 相比，這些智能體由 NVIDIA RTX AI PC 加速，可以進(jìn)行推理且更快執(zhí)行任務(wù)。即使沒有互聯(lián)網(wǎng)連接，用戶也可以在本地運(yùn)行智能體，確保數(shù)據(jù)隱私。

AnythingLLM：

由 RTX 加速，社區(qū)共同努力的成果

AI 社區(qū)已經(jīng)在探索代理式 AI 的潛力，嘗試用各種方法構(gòu)建更智能、更強(qiáng)大的系統(tǒng)。

使用 AnythingLLM 等應(yīng)用，開發(fā)者可以利用他們喜歡的 Llama 和 Mistral 等模型以及 Ollama 和 LMStudio 等工具，輕松構(gòu)建、定制并解鎖代理式 AI。

AnythingLLM 借助高性能 Tensor Core，通過 RTX 驅(qū)動(dòng)的 AI PC 和工作站加速。Tensor Core 是一種專用硬件，可為性能要求極高的最新 AI 模型提供所需的計(jì)算性能。

AnythingLLM 旨在讓每個(gè)人都能無縫、高效、便捷地使用 AI。該應(yīng)用使用戶能夠使用直觀界面與文檔交互，使用 AI 智能體處理復(fù)雜的自定義任務(wù)，并在 RTX 驅(qū)動(dòng)的 PC 和工作站上本地運(yùn)行前沿 LLM。這意味著用戶可以輕松使用通常無法與云端或?yàn)g覽器應(yīng)用集成，或者需要大量設(shè)置和知識(shí)來構(gòu)建的本地資源、工具和應(yīng)用。通過利用 NVIDIA RTX GPU 的強(qiáng)大功能，AnythingLLM 可在單個(gè)桌面應(yīng)用中為各種工作流提供更快、更智能、響應(yīng)速度更快的 AI。

AnythingLLM 的社區(qū)中心讓 AI 愛好者能夠輕松訪問系統(tǒng)提示詞，幫助引導(dǎo) LLM 行為，發(fā)現(xiàn)可提高工作效率的斜杠命令，為獨(dú)特的工作流和自定義工具構(gòu)建專門的 AI agent 技能，并訪問本地資源。

用戶通過調(diào)用智能體完成 Web 搜索查詢的示例。

社區(qū)中心提供的一些智能體技能示例包括：Microsoft Outlook 電子郵件助手、日歷助手、網(wǎng)絡(luò)搜索和家庭助手控制器，以及用于填充甚至集成特定用例的自定義 API 端點(diǎn)和服務(wù)的智能體。

AnythingLLM 讓 AI 愛好者能夠在完全隱私的情況下在其自己的系統(tǒng)中下載、定制和使用代理式 AI 工作流，無論是構(gòu)建電子表格助手還是處理更高級(jí)的工作流，AnythingLLM 都推動(dòng)了創(chuàng)新，簡(jiǎn)化了最新技術(shù)的使用體驗(yàn)。

以人為本，以創(chuàng)新為驅(qū)動(dòng)力

AnythingLLM 展示了 AI 如何執(zhí)行回答問題以外的其他任務(wù)，顯著提高工作效率和創(chuàng)造力。此類應(yīng)用表明 AI 正朝著成為各個(gè)工作流之間重要協(xié)作工具的方向發(fā)展。

代理式 AI 的應(yīng)用潛力非常龐大，需要?jiǎng)?chuàng)造力、專業(yè)知識(shí)和計(jì)算能力。無論是完成內(nèi)容生成和分發(fā)等簡(jiǎn)單任務(wù)，還是管理更復(fù)雜的用例(如編排企業(yè)軟件)，NVIDIA RTX AI PC 都能為本地運(yùn)行智能體提供出色性能。

GTC 2025 將于 2025 年 3 月 17 至 21 日在美國(guó)加州圣何塞及線上同步舉行。