完善資料讓更多小伙伴認(rèn)識你，還能領(lǐng)取20積分哦，立即完善>
標(biāo)簽 > 大模型
以大模型作為基礎(chǔ)模型支撐AI產(chǎn)業(yè)應(yīng)用邏輯已經(jīng)被證明實(shí)用性，AI大模型為AI落地應(yīng)用提供了一種通用化的解決方案；各自各樣參數(shù)不一、面向不同行業(yè)、面向不同任務(wù)的“大模型”也陸續(xù)發(fā)布，大模型已經(jīng)成為整個(gè)AI 界追逐的寵兒，AI大模型有效果好、泛化性強(qiáng)、研發(fā)流程標(biāo)準(zhǔn)化程度高等特點(diǎn)。
文章：3751個(gè) 瀏覽：5285次 帖子：25個(gè)
之前我們使用網(wǎng)頁文本輸入的方式體驗(yàn)了訊飛星火認(rèn)知大模型的功能（是什么讓科大訊飛1個(gè)月股價(jià)翻倍？），本篇博文將從開發(fā)者角度來看看如何使用訊飛星火認(rèn)知大模型API。
隨著BERT、GPT等預(yù)訓(xùn)練模型取得成功，預(yù)訓(xùn)-微調(diào)范式已經(jīng)被運(yùn)用在自然語言處理、計(jì)算機(jī)視覺、多模態(tài)語言模型等多種場景，越來越多的預(yù)訓(xùn)練模型取得了優(yōu)異的效果。
基于AX650N/AX630C部署端側(cè)大語言模型Qwen2
本文將分享如何將最新的端側(cè)大語言模型部署到超高性價(jià)比SoC上，向業(yè)界對端側(cè)大模型部署的開發(fā)者提供一種新的思路。
進(jìn)入deepseek-r1詳細(xì)頁面，在下拉式列表選擇適合你的模型精度，精度越高，思考越精細(xì)，模型也越大，對電腦配置的要求也越高。然后復(fù)制右邊文本框里的命...
這是任何RAG流程的最后一步——基于我們仔細(xì)檢索的所有上下文和初始用戶查詢生成答案。最簡單的方法可能是將所有獲取到的上下文（超過某個(gè)相關(guān)性閾值的）連同查...
如何在NVIDIA Jetson AGX Thor上部署1200億參數(shù)大模型
上一期介紹了如何在 NVIDIA Jetson AGX Thor 上使用 Docker 部署 vLLM 推理服務(wù)，以及使用 Chatbox 作為前端調(diào)用...
這個(gè)方法之所以有效，是因?yàn)榫鶆蚍植紟椭覀儗q(x)提供的“封包”縮放到p(x)的概率密度函數(shù)。另一種看法是，我們?nèi)狱c(diǎn)x0的概率。這與從g中取樣x0...
用DeepSeek-R1實(shí)現(xiàn)自動(dòng)生成Manim動(dòng)畫
? 作者：算力魔方創(chuàng)始人/英特爾創(chuàng)新大使劉力 前面我們分享了在本地運(yùn)行能與OpenAI-o1 能力相媲美的DeepSeek-R1 模型。本文將介紹如何使...
小編作為一名一線MCU系統(tǒng)應(yīng)用工程師，既從事MCU底層驅(qū)動(dòng)開發(fā)，也涉足MCU應(yīng)用層開發(fā)。早在 2022 年就開始嘗試使用 OpenAI 推出的 Chat...
internal feedback：使用LLM去預(yù)測生成的plan取得成功的概率、Tree of Thought去對比不同的plan（有點(diǎn)類似Alpha...
小白學(xué)大模型：大模型加速的秘密 FlashAttention 1/2/3
在Transformer架構(gòu)中，注意力機(jī)制的計(jì)算復(fù)雜度與序列長度（即文本長度）呈平方關(guān)系()。這意味著，當(dāng)模型需要處理更長的文本時(shí)（比如從幾千個(gè)詞到幾萬...
一款基于星火大模型的智能編程助手，旨在為開發(fā)者提供高效、準(zhǔn)確和智能的編程支持。
Rust目前在GPU編程生態(tài)方面的現(xiàn)狀和前景
各種 GL API 的純軟實(shí)現(xiàn)，當(dāng)沒有可用的硬件時(shí)，它可以提供純軟件的 GL API 的實(shí)現(xiàn)； 它可以用于 Linux/Windows/Mac 等...
大模型系列：Flash Attention V2整體運(yùn)作流程
基于1.1中的思想，我們在V2中將原本的內(nèi)外循環(huán)置換了位置（示意圖就不畫了，基本可以對比V1示意圖想象出來）。我們直接來看V2的偽代碼（如果對以下偽代碼...
NVIDIA RTX 5880 Ada與Qwen3系列模型實(shí)測報(bào)告
近日，阿里巴巴通義千問團(tuán)隊(duì)正式推出新一代開源大語言模型——Qwen3 系列，該系列包含 6 款 Dense 稠密模型和 2 款 MoE 混合專家模型，參...
英偉達(dá) H100 vs 蘋果M2 大模型訓(xùn)練，哪款性價(jià)比更高？
訓(xùn)練和微調(diào)大型語言模型對于硬件資源的要求非常高。目前，主流的大模型訓(xùn)練硬件通常采用英特爾的CPU和英偉達(dá)的GPU。然而，最近蘋果的M2 Ultra芯片和...
開放加速規(guī)范AI服務(wù)器的設(shè)計(jì)方法
當(dāng)前語言大模型的參數(shù)量已達(dá)千億以上，訓(xùn)練數(shù)據(jù)集的規(guī)模也達(dá)到了TB級別。業(yè)界典型的自然語言大模型有GPT、LLAMA、PaLM、文心、悟道、源等。如果用“...
2023-09-01 標(biāo)簽：服務(wù)器AI計(jì)算系統(tǒng) 4.7k 0
【使用教程】基于MaaS DeepSeek API和Dify快速構(gòu)建一個(gè)網(wǎng)站智能客服
客服系統(tǒng)是企業(yè)與消費(fèi)者溝通的重要橋梁，然而傳統(tǒng)的人工客服存在著工資/培訓(xùn)成本高昂、數(shù)據(jù)收集和分析困難、難以全天候提供服務(wù)等痛點(diǎn)。
基于Transformer做大模型預(yù)訓(xùn)練基本的并行范式
在之前的內(nèi)容中，我們已經(jīng)介紹過流水線并行、數(shù)據(jù)并行（DP，DDP和ZeRO）。 今天我們將要介紹最重要，也是目前基于Transformer做大模型預(yù)訓(xùn)練...
2023-05-31 標(biāo)簽：數(shù)據(jù)API模型 4.6k 0
科大訊飛深度解析DeepSeek-V3/R1推理系統(tǒng)成本
本篇分析來自科大訊飛技術(shù)團(tuán)隊(duì)，深度解析了DeepSeek-V3 / R1 推理系統(tǒng)成本，旨在助力開發(fā)者實(shí)現(xiàn)高性價(jià)比的MoE集群部署方案。感謝訊飛研究院副...
換一批
編輯推薦廠商產(chǎn)品技術(shù)軟件/工具OS/語言教程專題
| 電機(jī)控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動(dòng)駕駛 | TI | 瑞薩電子 |
| BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
| 無刷電機(jī) | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
| 直流電機(jī) | PID | MOSFET | 傳感器 | 人工智能 | 物聯(lián)網(wǎng) | NXP | 賽靈思 |
| 步進(jìn)電機(jī) | SPWM | 充電樁 | IPM | 機(jī)器視覺 | 無人機(jī) | 三菱電機(jī) | ST |
| 伺服電機(jī) | SVPWM | 光伏發(fā)電 | UPS | AR | 智能電網(wǎng) | 國民技術(shù) | Microchip |
| Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
| 示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
| OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
| C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
| Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
| DuerOS | Brillo | Windows11 | HarmonyOS |
關(guān)注我們的微信
下載發(fā)燒友APP
機(jī)器人發(fā)燒友
