【AIBOX】裝在小盒子的AI足夠強(qiáng)嗎？
Firefly推出大語(yǔ)言模型本地部署的產(chǎn)品：AIBOX-1684X，目前已適配主流的大語(yǔ)言模型，包括ChatGLM3-6B，以下是ChatGLM3在AIBOX-1684X上的實(shí)機(jī)演示：ChatGLM3-6B采用更多元的訓(xùn)練數(shù)據(jù)和策略，在不同角度的數(shù)據(jù)集，采用了全新設(shè)計(jì)的Prompt格式，支持工具調(diào)用(Function Call)、代碼執(zhí)行(Code Interpreter)和Agent任務(wù)等復(fù)雜場(chǎng)景
性能實(shí)測(cè)結(jié)果
更強(qiáng)大的基礎(chǔ)模型
ChatGLM3-6B (Base) 在選取的8個(gè)中英文典型數(shù)據(jù)集中進(jìn)行性能測(cè)試：
在語(yǔ)義、數(shù)學(xué)、推理、代碼、知識(shí)等不同角度的數(shù)據(jù)集上測(cè)評(píng)顯示，ChatGLM3-6B-Base具有在10B以下的基礎(chǔ)模型中最強(qiáng)的性能
更全面的開源序列
除了對(duì)話模型ChatGLM3-6B外，還開源了基礎(chǔ)模型ChatGLM3-6B-Base、長(zhǎng)文本對(duì)話模型ChatGLM3-6B-32K。以下是ChatGLM3-6B-32K在LongBench評(píng)測(cè)集上對(duì)模型進(jìn)行測(cè)試：
在多個(gè)長(zhǎng)文本應(yīng)用場(chǎng)景下的估測(cè)試中，與二代模型相比，其效果平均提升程度大于50%。在論文閱讀、文檔摘要和財(cái)報(bào)分析等應(yīng)用中，提升尤為顯著
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
AI
+關(guān)注
關(guān)注
91文章
41326瀏覽量
302723 -
語(yǔ)言模型
+關(guān)注
關(guān)注
0文章
575瀏覽量
11345 -
Firefly
+關(guān)注
關(guān)注
2文章
549瀏覽量
9159
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
熱點(diǎn)推薦
AIBOX + JishuShell：一鍵部署端側(cè) AI，把本地龍蝦“裝”進(jìn)小盒子
近期AI技術(shù)生態(tài)中有個(gè)耳熟能詳?shù)脑~：OpenClaw，也就是所謂的“龍蝦”，而為了將龍蝦本地化，許多平臺(tái)和廠商都在投入研發(fā)相關(guān)變體和工具，其中安謀科技(ArmChina)旗下的極術(shù)社區(qū)發(fā)布了
AI 主機(jī)盒在智慧安防中的 5 大應(yīng)用場(chǎng)景：以視美泰 AIBOX-3576M/AIBOX-3588M 為例
傳統(tǒng)安防正加速向智慧安防轉(zhuǎn)型，核心驅(qū)動(dòng)力之一便是AI主機(jī)盒應(yīng)用的普及。作為邊緣計(jì)算的核心載體，AI主機(jī)盒無需依賴云端，即可在本地完成視頻解碼、AI算法推理與實(shí)時(shí)告警，讓普通監(jiān)控?cái)z像頭瞬間具備“智能
RK3588 vs RK3576 AI主機(jī)盒全方面對(duì)比：視美泰AIBOX-3588M與AIBOX-3576M深度解析
前言在AI邊緣計(jì)算領(lǐng)域，瑞芯微（Rockchip）旗下的RK3588和RK3576兩款芯片備受關(guān)注。作為國(guó)內(nèi)領(lǐng)先的商顯主板方案商，視美泰基于這兩款芯片分別推出了AIBOX
千億安防市場(chǎng)選型不踩坑！視美泰 AIBOX-3576M，整機(jī)廠商智慧監(jiān)控爆款底座
視美泰 AIBOX-3576M 智慧監(jiān)控方案，憑借強(qiáng)算力、全算法、真國(guó)產(chǎn)、易集成四大優(yōu)勢(shì)，成為整機(jī)廠商打造智慧監(jiān)控產(chǎn)品的首選核心底座。
做社區(qū)安防、工廠安監(jiān)、園區(qū)管理、商業(yè)連鎖監(jiān)控，選 AIBOX-3576M，一次選型、長(zhǎng)期受
視美泰 AIBOX-3588M 性能測(cè)評(píng)：6T 算力 AI 主機(jī)盒應(yīng)用解析
在邊緣計(jì)算與工業(yè)智能化快速發(fā)展的背景下，AI?主機(jī)盒已成為設(shè)備廠商實(shí)現(xiàn)?AI?落地的核心硬件。本文對(duì)視美泰?AIBOX-3588M進(jìn)行全面性能測(cè)評(píng)，解析其?6TOPS?算力、RK3588?平臺(tái)、工業(yè)級(jí)設(shè)計(jì)與多場(chǎng)景應(yīng)用能力，為行業(yè)
龍芯中科3B6000M芯片成功部署OpenClaw開源AI智能體
3B6000M 芯片的“小盒子”，成功完成了 OpenClaw 的本地化部署。這不僅意味著國(guó)產(chǎn)芯片在 AI 算力適配上的重大突破，更讓“低成本、高安全”的本地 AI 數(shù)字員工成為觸手可及的現(xiàn)實(shí)。
華陽(yáng)通用AIBOX車載AI計(jì)算平臺(tái)獲得國(guó)內(nèi)頭部自主品牌車企項(xiàng)目定點(diǎn)
近日，由ADAYO華陽(yáng)集團(tuán)旗下全資子公司華陽(yáng)通用推出的華陽(yáng)AIBOX高性能車載AI計(jì)算平臺(tái)，獲得國(guó)內(nèi)頭部自主品牌車企的核心智能化項(xiàng)目定點(diǎn)。該項(xiàng)目的落地，標(biāo)志著端側(cè)大模型在前裝量產(chǎn)場(chǎng)景中的應(yīng)用邁出關(guān)鍵一步，也為獨(dú)立車載AI
中科創(chuàng)達(dá)量產(chǎn)版AIBOX-N1亮相CES 2026
在2026國(guó)際消費(fèi)電子展（CES）現(xiàn)場(chǎng)，中科創(chuàng)達(dá)圍繞“AI定義汽車”核心趨勢(shì)，正式亮相基于NVIDIA Drive AGX Orin打造的量產(chǎn)版AIBOX-N1。當(dāng)前，該產(chǎn)品已具備向主機(jī)廠批量供貨的能力，這也標(biāo)志著智能汽車AI大
如何用FCU3501 AI邊緣計(jì)算盒子，打造智慧工廠的視覺分析核心？
飛凌嵌入式FCU3501 AI邊緣計(jì)算盒子，憑借“高可靠架構(gòu)、強(qiáng)算力支撐、零門檻部署”的多重優(yōu)勢(shì)，能夠?yàn)樯钕蒉D(zhuǎn)型困境的行業(yè)打造智慧工廠視覺質(zhì)檢與安全生產(chǎn)一體化系統(tǒng)，成為突破困局的關(guān)鍵動(dòng)能。
國(guó)產(chǎn)超新星｜EA500I PRO智能工作站：小盒子大能量，千元級(jí)解鎖大模型
隨著AI從小模型向大模型的加速滲透，算力已成為企業(yè)構(gòu)建智算能力的核心關(guān)鍵。對(duì)于渴望切入AI賽道的中小企業(yè)，既具備成本優(yōu)勢(shì)又能快速部署的邊緣計(jì)算盒子，無疑是理想的選擇；但市場(chǎng)上超100T算力的邊緣計(jì)算
一文了解ai計(jì)算盒子（邊緣計(jì)算盒子）是到底是什么產(chǎn)品？
在物聯(lián)網(wǎng)與人工智能深度融合的當(dāng)下，數(shù)據(jù)處理的效率和實(shí)時(shí)性成為各行業(yè)數(shù)字化轉(zhuǎn)型的關(guān)鍵。ai計(jì)算盒子（又稱邊緣計(jì)算盒子、ai邊緣計(jì)算盒子）作為連
產(chǎn)品案例 | 遛“狗”新方式，盒子來幫忙
當(dāng)一只機(jī)器狗被一個(gè)巴掌大的小盒子操控，躲避障礙、跟隨指令完成轉(zhuǎn)身、停止等動(dòng)作時(shí)，圍觀人群紛紛發(fā)出驚嘆：“這么小的盒子，居然能‘溜’機(jī)器狗？”。這個(gè)“小盒子”，正是機(jī)器狗的“智慧大腦”，它憑借強(qiáng)大
邊緣AI盒子技術(shù)解析：ASIC/FPGA/GPU芯片及邊緣-云端協(xié)同與自適應(yīng)推理
? 電子發(fā)燒友網(wǎng)綜合報(bào)道 邊緣AI盒子是一種集成了高性能芯片、AI算法和數(shù)據(jù)處理能力的硬件設(shè)備，部署在數(shù)據(jù)源的邊緣側(cè)，如工廠、商場(chǎng)、交通路口等，能在本地進(jìn)行數(shù)據(jù)采集、預(yù)處理、分析和決策，無需將所有
AIBOX 產(chǎn)品矩陣：支持主流大模型的私有化部署，滿足個(gè)性化 AI 應(yīng)用需求
AIBOX系列產(chǎn)品具備高性能、低功耗、環(huán)境適應(yīng)性強(qiáng)等特點(diǎn)，算力覆蓋6-157TOPS，通過搭配多樣化深度學(xué)習(xí)算法，體積小巧，能夠支持主流大模型的私有化部署，為多個(gè)智慧行業(yè)進(jìn)行數(shù)字化賦能。目前
傳統(tǒng)攝像頭為什么需要升級(jí)為AI盒子？多場(chǎng)景痛點(diǎn)解析
在安防監(jiān)控、智慧零售、工業(yè)檢測(cè)等領(lǐng)域，傳統(tǒng)攝像頭長(zhǎng)期以來承擔(dān)著視頻采集的任務(wù)，但隨著AI技術(shù)的快速發(fā)展，單純依賴“看得見”的攝像頭已無法滿足智能化需求。AI盒子（智能視頻分析終端）的出現(xiàn)，讓傳統(tǒng)監(jiān)控
評(píng)論