電子發(fā)燒友網(wǎng)報道（文/黃山明）這次AI泡沫可能真的要破了，但不是技術(shù)與商業(yè)存在巨大落差導(dǎo)致的破裂，而是AI可能表現(xiàn)得太好了。

近期，Anthropic公開發(fā)布了一篇名為《When AI Builds Itself》（當(dāng)AI自我構(gòu)建時）的文章。文章警告AI正在逼近RSI（Recursive Self-Improvement，遞歸自我改進）的臨界點，并正式呼吁全球前沿AI實驗室聯(lián)合起來，考慮暫時或放緩前沿AI的研發(fā)。

Anthropic的警告

許多人或許不曾聽聞Anthropic這家公司，但有可能聽過甚至用過他們的產(chǎn)品，那就是大語言模型Claude。其特點是擁有高達20萬Token的超長上下文窗口，能一口氣理解幾百頁的復(fù)雜合同或上萬行代碼，甚至在2026年已經(jīng)包攬了Anthropic內(nèi)部80%以上的代碼編寫。

2026年4月，Claude獨立提交了800多個修復(fù)補丁，直接將某類API的錯誤率降低了1000倍。工程師不再是寫代碼的人，而變成了審查代碼的人。2026年第二季度，工程師平均每人每天合并的代碼量，大約是2024年的8倍。

多數(shù)內(nèi)部員工認(rèn)為，2025年底Claude編寫的代碼質(zhì)量仍遜于人類工程師，但到了今天，兩者已經(jīng)基本持平。Anthropic預(yù)測，不出一年，Claude寫的代碼質(zhì)量就會全面超過人類。

Anthropic創(chuàng)始團隊本是OpenAI的核心高管，也是GPT系列模型的早期開發(fā)者。但在 OpenAI越來越傾向于商業(yè)化和追求“全能”之時，他們出于對AI失控的深切恐懼，帶領(lǐng)一批頂尖科學(xué)家出走，創(chuàng)立了Anthropic。因此，Anthropic的核心命題只有一個，如何控制比人類更聰明的AI。

為此，他們發(fā)明了憲法AI（Constitutional AI）技術(shù)，從一開始便為AI植入一套明確的道德準(zhǔn)則和行為底線。這使得Claude在編程、長文本處理、金融和法律服務(wù)等對準(zhǔn)確性和安全性要求極高的企業(yè)級場景中表現(xiàn)尤為出色。也因此獲得了亞馬遜、谷歌、微軟等科技巨頭的重金支持。截至2026年，其估值已飆升至萬億美元級別，年化收入也達到了數(shù)百億美元。

根據(jù)Anthropic的報告，目前AI獨立完成任務(wù)的能力每4個月就翻一倍，而此前是每7個月翻倍。如果按這個趨勢，今年內(nèi)AI就能獨立完成人類需要幾天才能搞定的復(fù)雜科研任務(wù)；到2027年，它能獨立完成人類需要幾周才能搞定的任務(wù)。

值得注意的是，Anthropic警告目前AI正在逼近RSI臨界點。所謂RSI，是指當(dāng)前的AI模型具備了足夠的編程、邏輯和科研能力，能夠完全自主地設(shè)計、編寫和訓(xùn)練出比自己更強大的下一代AI。而下一代AI變強后，又會以更快的速度開發(fā)出下下一代，循環(huán)往復(fù)。

當(dāng)前Anthropic發(fā)現(xiàn)了Claude已經(jīng)具備了極強的科研和工程自主性，能夠接管原本依賴人類科學(xué)家的部分工作。例如曾讓Claude代理自主解決一個AI安全領(lǐng)域的開放問題。Claude Agent用800小時、約1.8萬美元算力恢復(fù)了97%的性能缺口，而兩名人類研究員一周只恢復(fù)23%。

需要注意的是，Anthropic在文章中強調(diào)，AI還未走到RSI那一步，并表示遞歸自我改進并非必然發(fā)生，不過其可能比大多數(shù)機構(gòu)準(zhǔn)備好的時間更早到來。

所以嚴(yán)格來說，目前Claude寫代碼、做實驗、做優(yōu)化，但大方向、研究品味、目標(biāo)設(shè)定仍主要由人類掌控，還沒形成AI自己決定自己下一代架構(gòu)的閉環(huán)。

因此Anthropic也不是要求立刻停止所有AI研究，而是希望全球建立一個機制，在必要時可以放緩或暫時暫停前沿AI開發(fā)，讓社會制度和對齊研究跟上技術(shù)。并且Anthropic明確表示，如果只有一家公司停，對手會趁機超車，所以必須多國多實驗室一起參與。

AI的RSI時刻

Anthropic所擔(dān)心的也并不是AI有沒有意識，而是三類技術(shù)問題。一個是對齊漂移，隨著AI每一輪自我改進，模型的目標(biāo)和行為可能發(fā)生微小偏移；多次迭代后，系統(tǒng)可能變得“更聰明但更不對齊”。學(xué)術(shù)界已經(jīng)在專門研究RSI中的對齊漂移問題，并提出SAHOO等框架來監(jiān)控漂移指數(shù)等。

同時，伴隨著AI能夠自動生成代碼、跑實驗、寫論文時，人類審查和理解的速度會成為系統(tǒng)瓶頸。Anthropic自己也承認(rèn)，代碼量爆炸后，人類只能抽樣審查，更多依賴自動化測試與對齊監(jiān)控。

這樣一來，一旦AI在提出研究想法、設(shè)計架構(gòu)、優(yōu)化訓(xùn)練流程上超過人類，人類就很難再參與其中，因為跟不上系統(tǒng)的演化速度。這意味著人類只能做個簽字的人，因為已經(jīng)看不懂AI在寫什么了。

如果發(fā)生上面的情況，就證明AI正式進入到了RSI時刻。從硬件的角度來看，影響也將是深遠(yuǎn)的。以AI設(shè)計芯片為例，目前只是人類工程師在EDA軟件中讓AI跑個局部優(yōu)化，并且人類設(shè)計芯片習(xí)慣于模塊化，也就是CPU歸CPU，緩存歸緩存，有清晰的物理界限。

但隨著未來AI真的進入到RSI時刻，在設(shè)計下一代AI芯片時，可能會完全拋棄人類的邏輯，設(shè)計出一種高密度、網(wǎng)狀交織、極其反直覺的異構(gòu)晶圓。這種芯片對于人類來說根本無法畫出電路圖，但它的能量效率和數(shù)據(jù)傳輸比會逼近物理極限。

并且當(dāng) AI 自我改進將算法效率提升幾個數(shù)量級后，計算核心（ALU）將不再是瓶頸，真正的瓶頸在于數(shù)據(jù)傳輸?shù)难舆t和帶寬。

這就意味著未來數(shù)據(jù)中心內(nèi)部，傳統(tǒng)的銅線和電子信號將無法承載自迭代大模型所需的龐大數(shù)據(jù)吞吐。芯片與芯片、機柜與機柜之間，將全面改用光子傳輸。

為了徹底干掉芯片封裝帶來的信號延遲，未來會更多地采用像Cerebras那樣的整塊晶圓級芯片，或者通過極致的3D堆疊，將內(nèi)存在垂直空間上直接貼在計算核心上方，讓數(shù)據(jù)傳輸距離縮短到微米級。

并且進入到AI的RSI時刻后，對于端側(cè)硬件將是巨變。如果AI 自我改進能將模型的體積壓縮 100 倍，同時保持甚至超越現(xiàn)在的能力，那么未來的手機、汽車、甚至是智能家居里的微型芯片，都將擁有獨立長鏈推理的能力。

意味著未來的硬件趨勢不再是單純指望中心化的超級計算機，而是千億個分布在民間的邊緣端側(cè)設(shè)備。它們在空閑時，會通過低延遲網(wǎng)絡(luò)自我編織成一個去中心化的算力網(wǎng)，在本地進行自主的邏輯演進和協(xié)同工作。

寫在最后

Anthropic這篇文章的發(fā)布，是第一次有一家頂尖的AI公司公開承認(rèn)，AI已經(jīng)開始深度參與到自身的開發(fā)過程中，并且這個速度還在持續(xù)加速。

但就在今年5月28日，Anthropic宣布完成H輪650億美元融資，投后估值達9650億美元，一舉超越OpenAI 8520億美元的估值，成為全球估值最高的AI創(chuàng)企。此時發(fā)布這種言論，不僅有吹捧自家Claude的嫌疑，并且有利于鎖死當(dāng)前的競爭格局，保護Anthropic現(xiàn)有的B2B市場份額，限制后面那些正在瘋狂追趕的開源模型或中小型對手。

還有批評者指出，Anthropic在今年2月份才剛剛修改了安全承諾，表示如果競爭對手追得太緊，他們將不再保留可能具有危險性的AI能力。在激烈的商業(yè)競爭中，單憑呼吁是根本不可能讓大家停下來的。