小白學解釋性AI：從機器學習到大模型

科學AI需要可解釋性人工智能的崛起，尤其是深度學習的發(fā)展，在眾多領域帶來了令人矚目的進步。然而，伴隨這些進步而來的是一個關鍵問題——“黑箱”問題。許多人...

2025-02-10 標簽：AI機器學習大模型 1.5k 0

RT-Thread虛擬化部署DeepSeek大模型實踐

背景介紹隨著邊緣計算與實時智能需求的快速增長，如何在資源受限的嵌入式設備上同時滿足實時控制與AI推理能力成為技術熱點。本文以ROCK5B開發(fā)板為開發(fā)平臺...

2025-03-12 標簽：虛擬化RT-Thread大模型 1.5k 0

大模型未來的產業(yè)發(fā)展趨勢和挑戰(zhàn)是什么

一般而言，大模型(Large Language Models)指的是包含超大規(guī)模參數(shù)的神經網絡模型。大模型通常能夠學習到更細微的模式和規(guī)律，具有更強的泛...

2023-09-13 標簽：神經網絡語音識別人工智能 1.5k 0

大模型在代碼缺陷檢測領域的應用實踐

靜態(tài)代碼掃描(SA)能快速識別代碼缺陷，如空指針訪問、數(shù)組越界等，以較高ROI保障質量及提升交付效率。當前掃描能力主要依賴人工經驗生成規(guī)則，泛化能力弱且...

2023-11-08 標簽：計算機代碼缺陷檢測 1.5k 0

Continous Batching大模型推理關鍵技術

TurboTransformers算是比較早期指出輸入變長需要新的Batching方法的論文。在2020年上半年，我開始思考如何把變長輸入Batchin...

2024-01-23 標簽：gpuGPTnlp 1.5k 0

LLaMA2上下文長度暴漲至100萬tokens，只需調整1個超參數(shù)

目前的Transformer位置編碼方法，有絕對位置編碼（將位置信息融入到輸入）、相對位置編碼（將位置信息寫入attention分數(shù)計算）和旋轉位置編碼...

2023-10-22 標簽：參數(shù)人工智能大模型 1.5k 0

語言模型的發(fā)展歷程 基于神經網絡的語言模型解析

簡單來說，語言模型能夠以某種方式生成文本。它的應用十分廣泛，例如，可以用語言模型進行情感分析、標記有害內容、回答問題、概述文檔等等。但理論上，語言模型的...

2023-07-14 標簽：人工智能機器學習大模型 1.5k 0

計算機系統(tǒng)如何應對大模型時代的挑戰(zhàn)與機遇

“操作系統(tǒng)管理著計算機的資源和進程，以及所有的硬件和軟件。計算機的操作系統(tǒng)讓用戶在不需要了解計算機語言的情況下與計算機進行交互?！边@是我們對計算機系統(tǒng)的...

2024-01-23 標簽：云計算計算機系統(tǒng)數(shù)據庫 1.5k 0

小白學大模型：從零實現(xiàn) LLM語言模型

在當今人工智能領域，大型語言模型（LLM）的開發(fā)已經成為一個熱門話題。這些模型通過學習大量的文本數(shù)據，能夠生成自然語言文本，完成各種復雜的任務，如寫作、...

2025-04-30 標簽：語言模型大模型LLM 1.5k 0

跑分沒輸過，體驗沒贏過，大模型刷分何時休？

從手機到大模型，國內產品為啥都這么熱衷跑分？

2023-12-13 標簽：AI大模型 1.5k 0

揭秘大語言模型可信能力的五個關鍵維度

不同于上述工作從待干預模型自身抽取引導向量，我們意在從LLMs預訓練過程的切片中構建引導向量來干預指令微調模型（SFT Model），試圖提升指令微調模...

2024-03-15 標簽：線性分類器大模型 1.5k 0

大模型心高氣傲，沒有AI Agents生死難料

AI Agents會消除人與AI系統(tǒng)的大量繁瑣交互已經板上釘釘，正在發(fā)生

2023-09-06 標簽：AI大模型 1.4k 0

連接視覺語言大模型與端到端自動駕駛

端到端自動駕駛在大規(guī)模駕駛數(shù)據上訓練，展現(xiàn)出很強的決策規(guī)劃能力，但是面對復雜罕見的駕駛場景，依然存在局限性，這是因為端到端模型缺乏常識知識和邏輯思維。

2024-11-07 標簽：智能駕駛自動駕駛大模型 1.4k 0

一種基于正交與縮放變換的大模型量化方法

近年來，大規(guī)模語言模型（Large Language Models, LLMs）在自然語言處理領域取得了革命性進展。以 GPT 系列、LLaMA 等為代...

2025-03-04 標簽：語言模型GPT大模型 1.4k 0

百度搜索內容HTAP表格存儲系統(tǒng)

整套存儲設計需要解決的核心問題是——如何在OLTP存儲系統(tǒng)中支持OLAP workflow？OLAP workflow在OLTP存儲系統(tǒng)上帶來的兩個最主...

2023-12-05 標簽：耦合存儲系統(tǒng)大模型 1.4k 0

大模型訓練如何應對GPU萬卡互聯(lián)難題

為了增強對訓練穩(wěn)定性和性能的監(jiān)控，開發(fā)了一個精度達到毫秒級的監(jiān)控系統(tǒng)。采用不同級別的監(jiān)控來跟蹤各種指標。

2024-04-07 標簽：gpu數(shù)據中心人工智能 1.4k 0

大模型的位置編碼和外推性問題一樣嗎

這種編碼方式又叫做 Sinusoidal編碼 。直覺上看，第個位置的表征向量維度是 ，這個向量的奇數(shù)位置元素使用余弦值，偶數(shù)位置元素使用正弦值。

2023-09-06 標簽：人工智能GPT位置編碼器 1.4k 0

一文讀懂大模型常見的10個核心概念

如今高效智能的AI大模型，正如雨后春筍般破土而出，人們對于AI大模型的學習與探索之路，也愈發(fā)寬闊平坦。雖然AI工具已不再陌生，但其中關于AIPrompt...

2025-09-22 標簽：AI人工智能大模型 1.4k 0

大模型對話系統(tǒng)的內功與外功

Zero-shot Setting：在 O-Cue 中，由于單步指令較復雜（不要要進行推理還要進行回復生成，以及生成的格式要求），單步生成內容過多，導致...

2023-12-01 標簽：數(shù)據集大模型LLM 1.4k 0