完善資料讓更多小伙伴認(rèn)識(shí)你，還能領(lǐng)取20積分哦，立即完善>
標(biāo)簽 > 語言模型
文章：559個(gè) 瀏覽：11352次 帖子：4個(gè)
大語言模型事實(shí)性幻象的實(shí)驗(yàn)性分析
盡管大語言模型能力不斷提升，但一個(gè)持續(xù)存在的挑戰(zhàn)是它們具有產(chǎn)生幻象的傾向。本文構(gòu)建了幻象評(píng)測(cè)基準(zhǔn)HaluEval 2.0，并基于該評(píng)測(cè)框架從預(yù)訓(xùn)練/有監(jiān)...
面對(duì)推測(cè)性解碼的復(fù)雜性，研究人員推出了Medusa技術(shù)，這個(gè)框架回歸了Transformer模型的本質(zhì)，減少了復(fù)雜度，增強(qiáng)了效率，讓每個(gè)生成階段都能快速...
2023-09-20 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)語言模型LLM 1.4k 0
FPGA加速器支撐ChatGPT類大語言模型創(chuàng)新
作者：Bill Jenkins，Achronix人工智能/機(jī)器學(xué)習(xí)產(chǎn)品營銷總監(jiān) 探索FPGA加速語言模型如何通過更快的推理、更低的延遲和更好的語言理解來...
最近，人們對(duì)大型語言模型所展示的強(qiáng)大能力（例如思維鏈 ^[2]^ 、便簽本 ^[3]^ ）產(chǎn)生了極大的興趣，并開展了許多工作。我們將之統(tǒng)稱為大模型的突現(xiàn)...
? 作者：Sebastian Raschka 博士， 翻譯：張晶，Linux Fundation APAC Open Source Evangelist...
一種針對(duì)LLMs簡(jiǎn)單有效的思維鏈解毒方法
考慮到強(qiáng)化學(xué)習(xí)[10]訓(xùn)練大語言模型的困難性，我們從語言建模的角度對(duì)大語言模型進(jìn)行解毒。已有工作將解毒視為單一的任務(wù)，可以實(shí)現(xiàn)從有毒內(nèi)容到無毒內(nèi)容的直接...
2023-08-21 標(biāo)簽：API語言模型強(qiáng)化學(xué)習(xí) 1.3k 0
通過循環(huán)訓(xùn)練實(shí)現(xiàn)忠實(shí)的低資源數(shù)據(jù)文本生成
從結(jié)構(gòu)化數(shù)據(jù)中自然語言生成（NLG）往往會(huì)產(chǎn)生多種錯(cuò)誤，從而限制了這些模型在面向客戶的應(yīng)用中的實(shí)用性。當(dāng)NLG 模型在生成的輸出文本時(shí)注入與輸入結(jié)構(gòu)化數(shù)...
2023-08-24 標(biāo)簽：數(shù)據(jù)庫模型語言模型 1.3k 0
號(hào)稱「碾壓」LLaMA的Falcon實(shí)測(cè)得分僅49.08，HuggingFace決定重寫排行榜代碼
這是一組由 Meta 開源的大型語言模型，共有 7B、13B、33B、65B 四種版本。其中，LLaMA-13B 在大多數(shù)數(shù)據(jù)集上超過了 GPT-3（1...
基于預(yù)訓(xùn)練模型和語言增強(qiáng)的零樣本視覺學(xué)習(xí)
在一些非自然圖像中要比傳統(tǒng)模型表現(xiàn)更好 CoOp 增加一些 prompt 會(huì)讓模型能力進(jìn)一步提升 怎么讓能力更好？可以引入其他知識(shí)，即其他的預(yù)訓(xùn)練模型，...
爆火Llama 2一周請(qǐng)求下載超15萬，有人開源了Rust實(shí)現(xiàn)版本
隨著 Llama 2 的逐漸走紅，大家對(duì)它的二次開發(fā)開始流行起來。前幾天，OpenAI 科學(xué)家 Karpathy 利用周末時(shí)間開發(fā)了一個(gè)明星項(xiàng)目 lla...
重新審視Prompt優(yōu)化問題，預(yù)測(cè)偏差讓語言模型上下文學(xué)習(xí)更強(qiáng)
Prompt tuning 的關(guān)鍵思想是將任務(wù)特定的 embedding 注入隱藏層，然后使用基于梯度的優(yōu)化來調(diào)整這些 embeddings。然而，這些...
2023-04-03 標(biāo)簽：語言模型 1.3k 0
如何借助大語言模型打造人工智能生態(tài)系統(tǒng)
大語言模型(LLMs)正以革命性的姿態(tài)重塑我們與科技的互動(dòng)模式。然而，由于其龐大的規(guī)模，它們往往屬于資源密集型范疇，不僅大幅推高了成本，還造成了能源消耗...
誠然，專有模型很方便，“開箱即用”。但是，當(dāng)務(wù)之急是投資于開源的 LLM，既要幫助建立它們，又要將它們用于研究。我很樂觀地認(rèn)為，它們將被廣泛采用，就像開...
Llama 2是 Meta 發(fā)布了其最新的大型語言模型，Llama2 是基于 Transformer 的人工神經(jīng)網(wǎng)絡(luò)，以一系列單詞作為輸入，遞歸地預(yù)測(cè)下...
2023-08-06 標(biāo)簽：英特爾神經(jīng)網(wǎng)絡(luò)AI 1.2k 0
Subword算法如今已經(jīng)成為了一個(gè)重要的NLP模型性能提升方法。自從2018年BERT橫空出世橫掃NLP界各大排行榜之后，各路預(yù)訓(xùn)練語言模型如同雨后春...
摩爾線程Round Attention優(yōu)化AI對(duì)話
摩爾線程科研團(tuán)隊(duì)發(fā)布研究成果《Round Attention：以輪次塊稀疏性開辟多輪對(duì)話優(yōu)化新范式》，該方法端到端延遲低于現(xiàn)在主流的Flash Atte...
AGI離我們還有多遠(yuǎn)？大模型不是最終解，世界模型才是未來
大型語言模型（如 GPT-4）在解決特定任務(wù)和提取因果關(guān)系方面表現(xiàn)出色，但缺乏抽象的因果推理能力。它們傾向于從數(shù)據(jù)中提取已知的因果模式，而無法生成新的因果見解。
不同于單模態(tài)模型編輯，多模態(tài)模型編輯需要考慮更多的模態(tài)信息。文章出發(fā)點(diǎn)依然從單模態(tài)模型編輯入手，將單模態(tài)模型編輯拓展到多模態(tài)模型編輯，主要從以下三個(gè)方面...
OpenAI用GPT-4解釋了GPT-2三十萬個(gè)神經(jīng)元：智慧原來是這個(gè)樣子
可解釋性研究的一種簡(jiǎn)單方法是首先了解 AI 模型各個(gè)組件（神經(jīng)元和注意力頭）在做什么。傳統(tǒng)的方法是需要人類手動(dòng)檢查神經(jīng)元，以確定它們代表數(shù)據(jù)的哪些特征。...
GPT-4推理提升1750%！清華姚班校友提出全新ToT框架
那么，這樣一個(gè)簡(jiǎn)單的機(jī)制能否足以建立一個(gè)通向「解決通用問題的語言模型」？如果不是，哪些問題會(huì)挑戰(zhàn)當(dāng)前的范式，真正的替代機(jī)制應(yīng)該是什么？
換一批
編輯推薦廠商產(chǎn)品技術(shù)軟件/工具OS/語言教程專題
| 電機(jī)控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動(dòng)駕駛 | TI | 瑞薩電子 |
| BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
| 無刷電機(jī) | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
| 直流電機(jī) | PID | MOSFET | 傳感器 | 人工智能 | 物聯(lián)網(wǎng) | NXP | 賽靈思 |
| 步進(jìn)電機(jī) | SPWM | 充電樁 | IPM | 機(jī)器視覺 | 無人機(jī) | 三菱電機(jī) | ST |
| 伺服電機(jī) | SVPWM | 光伏發(fā)電 | UPS | AR | 智能電網(wǎng) | 國民技術(shù) | Microchip |
| Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
| 示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
| OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
| C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
| Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
| DuerOS | Brillo | Windows11 | HarmonyOS |
關(guān)注我們的微信
下載發(fā)燒友APP
機(jī)器人發(fā)燒友
