隨著人工智能技術的飛速發(fā)展，大語言模型（Large Language Models, LLMs）在各行各業(yè)的應用日益廣泛，尤其是在軟件開發(fā)、數(shù)據(jù)分析、客戶服務等領域。蘑菇云創(chuàng)客空間[445期開放夜]就以“ChatGPT、Gemini、通義千問等一眾大語言模型，哪家更適合您”這樣的主題，開展了一次深度的大語言模型的測評。開放夜現(xiàn)場測評了十幾個國內外大語言模型，測評角度從邏輯、數(shù)學、翻譯、倫理等方面，深入探討和體驗了這些大語言模型的實際效能。

測評的大語言模型：

1.Kimi 智能助手：由月之暗面科技有限公司開發(fā)的先進AI。

2.智譜清言：由智言科技開發(fā)的大語言模型，以深度學習和自然語言處理技術見長。

3.訊飛星火：科大訊飛推出的創(chuàng)新語言模型。

4.文心一言：百度的前沿語言模型，致力于理解和生成自然語言。

5.豆包：專注于提供個性化的智能對話服務。

6.通義千問：以廣泛的知識庫和靈活的對話能力著稱。

7.海螺AI：新興的語言模型，擅長處理復雜的語言任務。

8.騰訊混元助手：騰訊推出的多功能AI助手。

9.Sider: 是由日本公司Sider開發(fā)的大語言模型。

10.ChatGPT：由OpenAI開發(fā)，國際上廣受認可的更大規(guī)模、功能更全面的語言模型。

11.Claude：Anthropic開發(fā)的先進語言模型，注重安全性和可靠性。

12.groq：以其專為AI設計的硬件加速器而聞名。

13.Gemini: OpenAI 開發(fā)的較小規(guī)模的語言模型，旨在提供更高效的計算和資源利用。

14.Mixtral：開源人工智能初創(chuàng)公司 MistralAI開發(fā)的超越GPT-3.5的AI模型

測評問題一: 雞兔同籠的數(shù)學問題

雞兔同籠是一個經(jīng)典的數(shù)學問題，通過觀察雞兔的頭和腳的數(shù)量關系，可以利用代數(shù)方程來解決問題，從而確定籠子里雞和兔子的數(shù)量。這個問題常常展示了代數(shù)方程組的應用。

針對雞兔同籠的問題，除了Gemini Pro沒有得出正確的結果，其余的大語言模型都可以給出正確結果。

測評問題二：翻譯（詩句中翻英）

詩人馬致遠的詩句“斷腸人在天涯”，描寫了“夕陽向西緩緩落下，只有孤獨的旅人漂泊在遙遠的地方。”詩句的翻譯涉及到文化差異和詩人獨特情感。Mixtral 的語言模型正確的解釋了詩句本身的含義，幫助翻譯者很好地理解這句詩句。 Claude的語言模型對于詩句的本身理解是不正確的。

這句詩翻譯家許淵沖翻譯為“Far, far from home is the heartbroken one.”由此可見，大語言模型可以幫助翻譯者分析這句詩基本的意思，但是涉及文化層面的深層含義，還是做不到意譯的。

開放夜也探討了如下涉及生活、工作的一些問題，比如：

過年福字要倒著貼，那為什么不直接生產(chǎn)倒過來的福字呢？

收到公司的裁員通知郵件，你應該怎么回復郵件來保住工作？

一個烏龜?shù)暨M了井里，井里有30米深。烏龜白天爬3米，晚上滑下2米。問這只烏龜需要多長時間才能爬出井口？

DFRobot AIGC小組主理人夏青在開放夜的現(xiàn)場測評了十幾個國內外大語言模型，通過多維度問題的測評，他認為：對于處理綜合性問題，OpenAI的ChatGPT 4.0邏輯清楚，能提供非常有用的信息。盡管在回答一些較為復雜的問題上略顯不足，但在大多數(shù)場合下，其性能仍然令人滿意。然而，ChatGPT 4.0在國內的使用成本是一個不容忽視的問題，不僅涉及訂閱費用，也包括使用的技術門檻。

與此同時，Gemini和Claude等海外語言模型，盡管在遵循指令方面略顯不足，但已達到了實用水平。令人驚喜的是，國內的Qwen1.5 72b開源模型在中文理解和特定任務，幾乎能與ChatGPT4.0匹敵此外，其他開源模型如Mixtral和新發(fā)布的LLaMA3雖在邏輯性上略遜于商業(yè)模型如ChatGPT，但總體表現(xiàn)已超越了ChatGPT 3.5。

綜合分析來看，盡管ChatGPT 4.0仍然是目前市場上最優(yōu)秀的大語言模型，但不可忽視的是，無論是國際市場還是國內市場，其他廠商的模型均顯示出迅速的進步。開源模型的崛起也證明了開源社區(qū)在AI時代的巨大潛力。當前的大語言模型在處理理性問題方面表現(xiàn)一致，但通常無法提供情緒價值回應。例如，一些國內模型如“豆包”將展現(xiàn)其在情緒回應方面的潛力。這種能力的發(fā)展可能為未來陪伴型機器人的商業(yè)模型提供新的方向。

蘑菇云創(chuàng)客空間

蘑菇云創(chuàng)客空間是上海浦東的一家創(chuàng)客空間,是科技部授牌的首批國家級創(chuàng)客空間,由浦軟孵化器提供場地支持、上海智位機器人提供硬件及技術支持的一家為創(chuàng)客服務的開放式創(chuàng)客空間。擁有獨立的加工室、公共協(xié)作區(qū)域以及儲物、耗材商店,為硬件愛好者、程序員、設計師、DIY 發(fā)燒友等各類創(chuàng)客,甚至包括進行創(chuàng)新研發(fā)的科創(chuàng)團隊提供一個開放式的社區(qū)化會員空間。

審核編輯 黃宇