ChatGPT之父警告AI可能滅絕人類

此前先是特斯拉CEO埃隆·馬斯克在內(nèi)的1000多名行業(yè)高管和專家簽署公開信，積極呼吁在6個月內(nèi)暫停更高級AI的開發(fā)；呼吁暫停開發(fā)比GPT-4更強大的人工智能6個月時間，要先制定一套安全協(xié)議?，F(xiàn)在ChatGPT之父警告AI可能滅絕人類。

是的，你沒有看錯，不是在寫科幻小說。

“ChatGPT之父”等350名行業(yè)大佬共同警告：AI可能給人類帶來滅絕；這封信于周二發(fā)表在非營利組織人工智能安全中心（CAIS）的網(wǎng)站上，簽署者包括“ChatGPT之父”O(jiān)pen AI首席執(zhí)行官山姆·奧特曼、DeepMind首席執(zhí)行官Demis Hassabis、Anthropic首席執(zhí)行官Dario Amodei以及微軟和谷歌的高管等。

這封信只有一段話：“減輕AI帶來的滅絕風險，應該與流行病和核戰(zhàn)爭等其他社會規(guī)模的風險一起，成為全球優(yōu)先事項?！?/p>

當然呼吁政府進行加強監(jiān)管這個本身是對的，此外，也有其他的一些聲音，比如微軟首席科學官埃里克·霍維茨曾公開宣稱：AI的研發(fā)應該要“加速”。

此前；七國集團領導人就制定和建立人工智能（AI）技術標準作出了積極呼吁，敦促行業(yè)和監(jiān)管者確保人工智能“值得信賴”。歐盟已經(jīng)接近通過一項人工智能技術監(jiān)管的立法，這也有望成為全球首部全面的人工智能法案。

回顧一下有關叫停 6 個月 AI 研究的公開信的原文：

人工智能具有與人類競爭的智能，這可能給社會和人類帶來深刻的風險，這已經(jīng)通過大量研究得到證實，并得到了頂級AI實驗室的認可。正如廣泛認可的阿西洛馬爾人工智能原則（Asilomar AI Principles）所指出的，先進的 AI 可能代表地球生命歷史上的重大變革，因此應該以相應的關注和資源進行規(guī)劃和管理。不幸的是，即使在最近幾個月， AI 實驗室在開發(fā)和部署越來越強大的數(shù)字化思維方面陷入了失控的競爭，而沒有人能夠理解、預測或可靠地控制這些數(shù)字化思維，即使是它們的創(chuàng)造者也無法做到這一點?，F(xiàn)代 AI 系統(tǒng)現(xiàn)在已經(jīng)在通用任務方面具有與人類競爭的能力，我們必須問自己：

我們應該讓機器充斥我們的信息渠道，傳播宣傳和謊言嗎？

我們應該將所有工作都自動化，包括那些令人滿足的工作嗎？

我們應該發(fā)展可能最終超過、取代我們的非人類思維嗎？

我們應該冒失控文明的風險嗎？這些決策不應該由非選舉產(chǎn)生的科技領導人來負責。只有當我們確信AI系統(tǒng)的影響是積極的，風險是可控的，我們才應該開發(fā)強大的AI系統(tǒng)。這種信心必須得到充分的理由，并隨著系統(tǒng)潛在影響的增大而增強。

OpenAI 最近關于人工智能的聲明指出：「在某個時候，可能需要在開始訓練未來系統(tǒng)之前獲得獨立審查，對于最先進的努力，需要同意限制用于創(chuàng)建新模型的計算增長速度?！刮覀兺狻，F(xiàn)在就是那個時刻。因此，我們呼吁所有 AI 實驗室立即暫停至少 6 個月的時間，不要訓練比 GPT-4 更強大的 AI 系統(tǒng)。這個暫停應該是公開和可驗證的，并包括所有關鍵參與者。如果無法迅速實施這樣的暫停，政府應該介入并實行一個暫禁令。

AI 實驗室和獨立專家應該利用這個暫停時間共同制定和實施一套共享的先進 AI 設計和開發(fā)安全協(xié)議，這些協(xié)議應該由獨立的外部專家嚴格審核和監(jiān)督。這些協(xié)議應確保遵守它們的系統(tǒng)在合理懷疑范圍之外是安全的。

這并不意味著暫停AI發(fā)展，而只是從不斷邁向更大、不可預測的黑箱模型及其突現(xiàn)能力的危險競賽中退一步。AI 研究和開發(fā)應該重點放在提高現(xiàn)有強大、先進系統(tǒng)的準確性、安全性、可解釋性、透明度、魯棒性、對齊、可信度和忠誠度。與此同時，AI 開發(fā)者必須與政策制定者合作，大力加速 AI 治理體系的發(fā)展。這些至少應包括：

專門負責 AI 的新的、有能力的監(jiān)管機構；

對高能力 AI 系統(tǒng)和大型計算能力池的監(jiān)督和跟蹤；

用于區(qū)分真實與合成內(nèi)容、跟蹤模型泄漏的溯源和水印系統(tǒng)；

健全的審計和認證生態(tài)系統(tǒng)；對 AI 造成的損害承擔責任；

技術AI安全研究的充足公共資金；

應對 AI 引起的巨大經(jīng)濟和政治變革（特別是對民主制度的影響）的資深機構。人類可以在 AI 的幫助下享受繁榮的未來。在成功創(chuàng)造出強大的 AI 系統(tǒng)之后，我們現(xiàn)在可以享受一個「AI 盛夏」，在其中我們收獲回報，將這些系統(tǒng)明確地用于造福所有人，并讓社會有機會適應。在面臨可能對社會造成災難性影響的其他技術上，社會已經(jīng)按下了暫停鍵。在這里，我們也可以這樣做。讓我們享受一個漫長的AI盛夏，而不是毫無準備地沖向秋天。

ChatGPT火爆之后還帶動了大模型的火爆，我們看到消息爆出首個大模型創(chuàng)業(yè)大賽獎金達千萬元。

首個大模型創(chuàng)業(yè)大賽獎金達千萬元

5月31日，百度創(chuàng)始人、董事長兼首席執(zhí)行官李彥宏在摩根大通全球中國峰會期間宣布，百度將設立10億元人民幣的百度文心投資基金。而且啟動“文心杯”創(chuàng)業(yè)大賽，最高獎項為價值1000萬元早期投資。

我們希望百度積淀多年的AI大模型技術為創(chuàng)業(yè)者奠定堅實基座，與創(chuàng)業(yè)者共創(chuàng)、共建，共同打造開放繁榮的AI大模型生態(tài)。

大賽獲獎團隊將贏取豐厚的資金與資源支持：

一等獎：1，000萬元 早期投資（現(xiàn)金+資源）

二等獎：500萬元 早期投資（現(xiàn)金+資源）

三等獎：200萬元 早期投資（現(xiàn)金+資源）

此外，獲獎團隊還有機會獲得一系列創(chuàng)業(yè)加速扶持：

與多家頂級基金的資深投資人面對面交流

專屬大模型技術指導，與百度AI大咖深度交流機會

媒體宣傳與曝光，擴大市場聲量與影響力

獲獎者結成“校友群”，收獲創(chuàng)業(yè)路上的可靠伙伴

你怎么看？AI的發(fā)展會導致人類滅絕嗎？