日B视频 亚洲,啪啪啪网站一区二区,91色情精品久久,日日噜狠狠色综合久,超碰人妻少妇97在线,999青青视频,亚洲一区二卡,让本一区二区视频,日韩网站推荐

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

用Redis為LangChain定制AI代理——OpenGPTs

虹科網絡可視化技術 ? 2024-01-13 08:03 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

OpenAI最近推出了OpenAI GPTs——一個構建定制化AI代理的無代碼“應用商店”,隨后LangChain開發(fā)了類似的開源工具OpenGPTs。OpenGPTs是一款低代碼的開源框架,專用于構建定制化的人工智能代理。因為Redis具有高速和穩(wěn)定性的優(yōu)點,所以LangChain選擇了Redis來作為OpenGPTs的默認向量數據庫。

文章速覽:

OpenGPTs簡介

Redis在OpenGPTs中的作用

在本地使用OpenGPTs

在云端使用OpenGPTs

Redis與LangChain賦能創(chuàng)新

一、OpenGPTs簡介

通過幾個配置步驟,我們可以用OpenGPTs構建一個精通Redis的機器人,名為“RedisGuru”。

以下是我們選擇的LLM、系統消息和工具的示例,包括DuckDuckGo搜索、維基百科搜索,以及通過Kay.ai訪問的公共新聞稿。

3fc33402-b1a7-11ee-aa22-92fbcf53809c.png

配置并部署RedisGuru后,可以測試代理如何運行:

3fda4804-b1a7-11ee-aa22-92fbcf53809c.png

此外,我們還可以查詢有關Redis數據結構的問題??梢钥吹?,RedisGuru記住了我的名字:

3fe9f060-b1a7-11ee-aa22-92fbcf53809c.png

我們構建的這個RedisGuru代理只是一個應用示例。你也可以構建各類應用,比如電子郵件文案編輯器、智能研究助理、代碼審查員等。

二、Redis在OpenGPTs中的作用

在這個OpenGPTs演示的背后,Redis提供了一個強大且高性能的數據層,是 OpenGPTs 技術棧不可或缺的一部分。

Redis可以持久化用戶聊天會話(線程)、代理配置和嵌入式文檔塊,并用于向量數據庫檢索。

01

用戶聊天會話

為了在對話中維持“狀態(tài)”,Redis為OpenGPTs提供了用戶與AI代理間的持久聊天線程。這些聊天會話也被輸入到LLM中,以提供當前對話狀態(tài)的上下文信息。

02

代理配置

為了支持多租戶代理架構,Redis為OpenGPTs提供了一個遠程的、低延遲的存儲層。當應用程序啟動時,它從Redis讀取指定的代理設置,然后開始處理請求。

03

向量數據庫用于RAG

為了讓對話基于實際情況,OpenGPTs允許我們上傳“知識”源,以便LLM將其與生成的答案結合。通過一種稱為檢索增強生成(RAG)的過程,OpenGPTs將上傳的文檔存儲在Redis中,并提供實時向量搜索,以檢索與LLM相關的上下文。

這些功能是Redis平臺的一部分,通過我們的LangChain + Redis集成融入到應用程序中。

Redis與LangChain的OpenGPTs集成帶來了更高的靈活性、可擴展性以及實時處理和搜索能力。處理多樣化數據結構的能力是Redis成為OpenGPTs記憶功能的首選解決方案。

三、在本地使用OpenGPTs

如果想親自體驗OpenGPTs,你可以在項目的README文件中找到更詳細的指南。以下是一個快速概述:

1、安裝后端依賴:克隆項目倉庫,然后導航到后端目錄并安裝必要的Python依賴項。

cd backendpip install -r requirements.txt

2、連接Redis和OpenAI:OpenGPTs使用Redis作為LLM的記憶庫,使用OpenAI進行LLM的生成和嵌入。設置環(huán)境變量REDIS_URL和OPENAI_API_KEY,以連接到您的Redis實例和OpenAI賬戶。

export OPENAI_API_KEY=your-openai-api-keyexport REDIS_URL=redis://your-redis-url

3、啟動后端服務器:在本地機器上運行LangChain服務器,提供應用程序服務。

langchain serve --port=8100

4、啟動前端:在前端目錄中,使用yarn啟動開發(fā)服務器。

cd frontendyarnyarn dev

5、在瀏覽器中打開http://localhost:5173/,與您的本地OpenGPTs部署進行交互。

四、在云端使用OpenGPTs

如果希望在沒有本地設置的情況下使用OpenGPTs,可以嘗試在谷歌云上部署。另外,你還可以訪問由LangChain、LangServe和Redis支持的托管預覽部署。這種部署展示了OpenGPTs的可定制性和易用性。

五、Redis與LangChain賦能創(chuàng)新

Redis企業(yè)版作為一款企業(yè)級的低延遲向量數據庫,在支持生成性AI項目方面具有獨特優(yōu)勢。其不僅提供向量搜索,還提供多功能數據結構,能有效滿足LLMs的應用狀態(tài)需求。這個強大的平臺提供了優(yōu)異的可擴展性和性能,Redis借此成為生成式AI領域的重要工具。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    91

    文章

    41315

    瀏覽量

    302694
  • 開源
    +關注

    關注

    3

    文章

    4368

    瀏覽量

    46464
  • Redis
    +關注

    關注

    0

    文章

    394

    瀏覽量

    12258
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    Java轉 AI高薪領域必備 從0到1打通生產級AI Agent開發(fā) 教程資料

    ”的勞動力陷阱 微觀經濟學中有一個概念叫“完全競爭市場”,其特征是產品同質化、準入門檻低、沒有定價權。這正是當前傳統Java開發(fā)者的真實寫照。當企業(yè)能夠輕易招到替代者,或者更便宜的初級人力配合AI工具
    發(fā)表于 04-29 17:08

    NVIDIA與Google Cloud攜手推進代理式與物理AI發(fā)展

    NVIDIA Blackwell GPU 以及由 NVIDIA Nemotron 和 NeMo 提供支持、基于 Gemini Enterprise Agent Platform 的代理AI 來構建 AI 工廠。
    的頭像 發(fā)表于 04-27 15:35 ?392次閱讀

    FastAPI+LangChain打造智能招聘系統

    ?未來招聘不再人工:FastAPI+LangChain 的經濟價值與影響 AI 自動化招聘的技術背景 隨著人工智能技術的迅速發(fā)展,企業(yè)招聘流程正在經歷深刻變革。傳統的招聘模式依賴人力資源部門通過簡歷
    的頭像 發(fā)表于 04-14 14:26 ?171次閱讀

    Redis應用監(jiān)控指標大盤點

    Redis作為高性能內存數據庫,廣泛應用于緩存、會話存儲、消息隊列等場景。對Redis運行狀況的有效監(jiān)控,是保障業(yè)務穩(wěn)定性的關鍵。本文的目的是幫助運維工程師建立完整的Redis監(jiān)控知識體系,講解需要監(jiān)控哪些指標、如何采集這些指標
    的頭像 發(fā)表于 04-09 10:07 ?185次閱讀

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI的科學應用

    和關聯性 AI驅動科學:研究和模擬人類思維和認識過程。 本章節(jié)作者我們講解了第五范式,介紹了科學發(fā)現的一般方法和流程等。一、科學發(fā)現的5個范式 第一范式:產生于公元1000年左右的阿拉伯世界和歐洲
    發(fā)表于 09-17 11:45

    代理AI 重構 EDA:從對話助手到虛擬工程師

    電子發(fā)燒友網報道(文?/?吳子鵬)代理式?AI(Agentic AI)作為?AI?領域的新興方向,是一種能夠通過自主感知、推理、規(guī)劃與執(zhí)行,獨立完成復雜多步驟任務的?
    的頭像 發(fā)表于 08-28 07:54 ?3424次閱讀

    代理AIAI智能體在不同行業(yè)中的實際應用

    代理AI 的時代已經到來。如今,代理AI 已經驅動應用邁向深度場景融合與規(guī)模化落地。這波演進浪潮標志著 AI 能力向自主執(zhí)行的躍遷。
    的頭像 發(fā)表于 07-28 14:28 ?1426次閱讀

    Redis集群部署配置詳解

    Redis集群是一種分布式Redis解決方案,通過數據分片和主從復制實現高可用性和橫向擴展。集群將整個數據集分割成16384個哈希槽(hash slots),每個節(jié)點負責一部分槽位。
    的頭像 發(fā)表于 07-17 11:04 ?1201次閱讀

    NVIDIA全棧加速代理AI應用落地

    在近期舉辦的 AWS 中國峰會上,NVIDIA 聚焦于“NVIDIA 全棧加速代理AI 應用落地”,深入探討了代理AI (Agentic A
    的頭像 發(fā)表于 07-14 11:41 ?1482次閱讀

    Redis集群部署與性能優(yōu)化實戰(zhàn)

    Redis作為高性能的內存數據庫,在現代互聯網架構中扮演著關鍵角色。作為運維工程師,掌握Redis的部署、配置和優(yōu)化技能至關重要。本文將從實戰(zhàn)角度出發(fā),詳細介紹Redis集群的搭建、性能優(yōu)化以及監(jiān)控運維的核心技術。
    的頭像 發(fā)表于 07-08 17:56 ?1046次閱讀

    【經驗分享】在Omni3576上編譯Redis-8.0.2源碼,并安裝及性能測試

    本文首先介紹Redis是什么,然后介紹如何在Omni3576上編譯Redis-8.0.2源碼,以及從源碼編譯、安裝Redis,最后介紹如何在Omni3576上運行Redis性能測試,并
    的頭像 發(fā)表于 06-05 08:05 ?1114次閱讀
    【經驗分享】在Omni3576上編譯<b class='flag-5'>Redis</b>-8.0.2源碼,并安裝及性能測試

    【幸狐Omni3576邊緣計算套件試用體驗】Redis最新8.0.2版本源碼安裝及性能測試

    可執(zhí)行程序都安裝了,安裝目錄/usr/local/bin,可以which redis-cli命令驗證: 三、運行Redis基準測試 3.1 查看
    發(fā)表于 06-03 01:28

    NVIDIA攜手微軟加速代理AI發(fā)展

    代理AI 正在重新定義科學探索,推動各行各業(yè)的研究突破和創(chuàng)新發(fā)展。NVIDIA 和微軟正通過深化合作提供先進的技術,從云到 PC 加速代理AI 應用的發(fā)展。
    的頭像 發(fā)表于 05-27 14:03 ?1252次閱讀

    基于代理AI建立網絡安全防御體系

    NVIDIA AI 安全棧為先進的代理式系統提供信任、控制和管理支持。
    的頭像 發(fā)表于 05-07 14:29 ?1349次閱讀

    Redis 再次開源!

    “ ?Redis 現已采用 AGPLv3 開源許可證。? ” Redis CEO 的 Blog 以下是 Redis CEO Rowan Trollope 的 Blog: 像 AWS 和 GCP 這樣
    的頭像 發(fā)表于 05-06 18:26 ?1075次閱讀
    松原市| 勐海县| 海门市| 浦北县| 南皮县| 乐至县| 马尔康县| 桦南县| 雅江县| 安顺市| 黔江区| 合肥市| 耒阳市| 新竹市| 白水县| 银川市| 太和县| 海林市| 仙游县| 安西县| 梁河县| 正蓝旗| 伊宁市| 南皮县| 长治县| 卢龙县| 凉城县| 开平市| 独山县| 芦山县| 屯留县| 萍乡市| 普定县| 商城县| 新田县| 思南县| 梁平县| 长岭县| 治多县| 金山区| 中超|