近期，“AI幻覺(jué)”引發(fā)廣泛關(guān)注。這一現(xiàn)象指大模型在生成信息時(shí)可能基于統(tǒng)計(jì)規(guī)律“虛構(gòu)”不準(zhǔn)確內(nèi)容，例如在回答“周邊咖啡館分布”時(shí)編造不存在的地點(diǎn)及營(yíng)業(yè)信息。

這種“幻覺(jué)”在需要精準(zhǔn)決策的城市治理場(chǎng)景中需要被重點(diǎn)關(guān)注。

一方面因?yàn)槟Ｐ陀?xùn)練大多使用的是公開(kāi)數(shù)據(jù)，但政府的核心數(shù)據(jù)并未公開(kāi)，所以導(dǎo)致大模型在面對(duì)城市治問(wèn)題時(shí)更容易產(chǎn)生虛構(gòu)的情況。

另一方面，城市治理是在現(xiàn)實(shí)物理場(chǎng)景中進(jìn)行的，不能只依靠“紙上談兵”式的理論推導(dǎo)，更需要了解現(xiàn)實(shí)世界的運(yùn)行邏輯。

比如暴雨天問(wèn)AI“怎么防內(nèi)澇”，它也許可以給出一個(gè)看起來(lái)面面俱到的教科書(shū)般的答案，但卻會(huì)忽略某條路正在修地鐵、某個(gè)社區(qū)老人占比80%等動(dòng)態(tài)環(huán)境要素，導(dǎo)致決策建議偏離真實(shí)需求。

維智科技認(rèn)為，化解AI幻覺(jué)需突破通用模型的技術(shù)邊界，通過(guò)構(gòu)建垂直領(lǐng)域知識(shí)圖譜與場(chǎng)景化模型調(diào)優(yōu)實(shí)現(xiàn)認(rèn)知升級(jí)。

- 全域知識(shí)融合：在DeepSeek這類通用大模型的底層架構(gòu)中融合專業(yè)的知識(shí)庫(kù)，從源頭上解決“虛構(gòu)”的問(wèn)題。

比如集成實(shí)時(shí)物聯(lián)感知數(shù)據(jù)（交通流量、管網(wǎng)負(fù)荷）、專題政務(wù)庫(kù)（城市規(guī)劃白皮書(shū)、社區(qū)人口檔案）、社會(huì)化動(dòng)態(tài)信息（人口遷徙熱力、企業(yè)注冊(cè)變更）

- 業(yè)務(wù)鏈微調(diào)機(jī)制：基于不同業(yè)務(wù)場(chǎng)景對(duì)模型進(jìn)行微調(diào)，例如在防汛響應(yīng)場(chǎng)景中，模型會(huì)強(qiáng)化施工路段承壓分析、特殊人群疏散優(yōu)先級(jí)等決策因子權(quán)重。

維智科技的時(shí)空大模型以地理位置坐標(biāo)為索引，實(shí)現(xiàn)人、地、物、事、策的多維關(guān)聯(lián)與動(dòng)態(tài)推演，讓大模型更理解真實(shí)城市。

未來(lái)，維智科技也會(huì)持續(xù)探索解決AI幻覺(jué)的方法，例如采取多個(gè)模型交叉驗(yàn)證、增加提示詞限制和提供輸出參考等方式，讓垂直領(lǐng)域的AI大模型為城市治理深度賦能。