據(jù)路透社報(bào)道，微軟、谷歌以及OpenAI等16家全球科技巨頭在5月21至22日舉行的“人工智能（AI）首爾峰會(huì)”上，公開(kāi)表態(tài)承諾進(jìn)行AI模型的安全開(kāi)發(fā)，并在無(wú)法有效控制最極端風(fēng)險(xiǎn)時(shí)，對(duì)其尖端系統(tǒng)進(jìn)行關(guān)閉。

此次峰會(huì)上，與會(huì)公司還包含了中國(guó)本土的科技力量如智譜AI（IT之家備注：騰訊、阿里、美團(tuán)和小米曾對(duì)其投資）、IBM、亞馬遜、Meta及三星等知名企業(yè)。

此外，這些公司在會(huì)議中就安全性問(wèn)題達(dá)成共識(shí)，包括發(fā)布明確的評(píng)估框架，用以衡量模型可能帶來(lái)的風(fēng)險(xiǎn)。若風(fēng)險(xiǎn)嚴(yán)重且無(wú)法承受，人工智能公司將被迫按下緊急停止按鈕，暫停模型和系統(tǒng)的開(kāi)發(fā)或部署。

然而，這并非人工智能行業(yè)首次提出此類(lèi)看似高尚卻缺乏實(shí)際約束力的安全承諾。早在去年，亞馬遜、谷歌、Meta及微軟便已簽署由美國(guó)政府推動(dòng)的自愿保障措施，以確保其產(chǎn)品在上市前具備足夠的安全性。

盡管如此，被譽(yù)為“人工智能教父”的計(jì)算機(jī)科學(xué)家約書(shū)亞·本吉奧對(duì)此類(lèi)承諾表示歡迎，同時(shí)也強(qiáng)調(diào)自愿承諾需伴隨著嚴(yán)格的監(jiān)管機(jī)制。