日B视频 亚洲,啪啪啪网站一区二区,91色情精品久久,日日噜狠狠色综合久,超碰人妻少妇97在线,999青青视频,亚洲一区二卡,让本一区二区视频,日韩网站推荐

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

OpenAI斷供API,國產(chǎn)大模型替代方案低成本遷移

Carol Li ? 來源:電子發(fā)燒友 ? 作者:李彎彎 ? 2024-06-27 09:04 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)日前,不少國內(nèi)API開發(fā)者收到了來自O(shè)penAI的郵件。郵件稱,從7月9日起采取額外措施,阻止來自非支持國家和地區(qū)列表中的地區(qū)的API流量。根據(jù)OpenAI官網(wǎng),支持訪問API服務(wù)的國家和地區(qū)列表中總計(jì)188個(gè)國家和地區(qū),不包括中國內(nèi)地與中國香港。

這意味著,OpenAI宣布終止對中國開發(fā)者提供API服務(wù)。OpenAI終止對中國提供API服務(wù),對一些通過接入OpenAI API做大模型或應(yīng)用的企業(yè)會(huì)有影響,不過這對國產(chǎn)大模型的長遠(yuǎn)發(fā)展卻也有積極意義,它反而促進(jìn)國產(chǎn)大模型的自主研發(fā),并帶來更多應(yīng)用機(jī)會(huì)。

國產(chǎn)大模型紛紛推出替代方案

隨著OpenAI停止對中國提供API服務(wù),國內(nèi)大模型公司紛紛行動(dòng),上線“遷移計(jì)劃”。如智譜,該公司第一時(shí)間在官微宣布,面向OpenAI API用戶提供特別搬家計(jì)劃,幫助用戶切換至國產(chǎn)大模型,其 GLM 大模型號(hào)稱全面對標(biāo) OpenAI 產(chǎn)品體系,且全鏈路技術(shù)自研、安全可控。

具體來看,智譜為開發(fā)者提供1.5億Token(5000萬 GLM-4 + 1億 GLM-4-Air),從OpenAI 到 GLM 的系列遷移培訓(xùn)。對于高用量客戶,智譜提供與OpenAI使用規(guī)模對等的Token贈(zèng)送計(jì)劃(不設(shè)上限),以及與 OpenAI 對等的并發(fā)規(guī)模,匹配高等級(jí)會(huì)員政策,專屬搬家顧問及5人天技術(shù)專家支持,備案培訓(xùn)和輔助。

百度智能云千帆推出大模型普惠計(jì)劃,稱讓用戶0成本切換至國內(nèi)調(diào)用量第一的大模型平臺(tái),場景更豐富、模型更全面、工具鏈更完整易用、更安全可靠。

具體來看,即日起為新注冊企業(yè)用戶提供0元調(diào)用服務(wù):文心旗艦?zāi)P褪状蚊赓M(fèi),贈(zèng)送ERNIE3.5旗艦?zāi)P?000萬Tokens包,主力模型ERNIE Speed/ERNIE Lite和輕量模型ERNIE Tiny持續(xù)免費(fèi) ;針對OpenAI遷移用戶額外贈(zèng)送與OpenAI使用規(guī)模對等的ERNIE3.5旗艦?zāi)P蚑okens包。

同時(shí),該計(jì)劃還支持0元訓(xùn)練、0元遷移、0元服務(wù)。0 元訓(xùn)練:免費(fèi)模型精調(diào)訓(xùn)練服務(wù) 0 元遷移:零成本 SDK 遷移工具;0 元服務(wù):專家服務(wù)(遷移 & 使用指導(dǎo))。

騰訊云宣布,即日起至2024年7月31日24時(shí),將為新遷移企業(yè)用戶免費(fèi)贈(zèng)送1億騰訊混元大模型tokens(標(biāo)記),并提供免費(fèi)專屬遷移工具和服務(wù)。目前,騰訊云提供混元Pro、Standard、Lite等多個(gè)不同版本和尺寸的模型,用戶可任意選擇。

阿里云百煉宣布,將為OpenAI API用戶提供最具性價(jià)比的中國大模型替代方案,并為中國開發(fā)者提供2200萬免費(fèi)tokens和專屬遷移服務(wù)。根據(jù)斯坦福最新公布的大模型測評(píng)榜單HELM MMLU,Qwen2-72B得分為0.824,與GPT-4并列全球第四。通義千問GPT4級(jí)主力模型Qwen-plus在阿里云百煉上的調(diào)用價(jià)格為0.004元/千tokens,僅為GPT-4的50分之一。

由李開復(fù)創(chuàng)立的AI大模型獨(dú)角獸公司零一萬物也發(fā)起“Yi API二折平替計(jì)劃”,面向OpenAI用戶推出平滑遷移至Yi系列大模型的服務(wù)。據(jù)介紹,目前注冊使用Yi API的新客戶,零一萬物立即贈(zèng)送100元額度,幫助用戶完成平穩(wěn)過渡;平臺(tái)充值還將贈(zèng)送50%到賬額度,上不封頂。此外,零一萬物API還將提供Prompt兼容調(diào)優(yōu)服務(wù)支持。

百川智能宣布特別推出OpenAI 零成本遷移計(jì)劃,將為參與用戶免費(fèi)贈(zèng)送1 千萬 token,同時(shí)宣布Assitants API 免費(fèi)使用。據(jù)介紹,目前百川智能開放平臺(tái)接口已完全兼容OpenAI API,支持零成本遷移,功能更豐富。借助百川技術(shù)專家隨時(shí)答疑,開發(fā)者五分鐘即可完成Api遷移。

少不了算力芯片的支持

國產(chǎn)大模型紛紛推出替代方案,這背后少不了需要算力芯片的支持。目前國內(nèi)大模型訓(xùn)練基本使用英偉達(dá)GPU,英偉達(dá)的GPU因其強(qiáng)大的并行處理能力和高效的計(jì)算性能,被廣泛應(yīng)用于深度學(xué)習(xí)機(jī)器學(xué)習(xí)等需要大量計(jì)算資源的領(lǐng)域。

如阿里通義千問大模型,它包含多個(gè)不同規(guī)模的版本,Qwen-1.8B、Qwen-7B、Qwen-14B和Qwen-72B等,據(jù)了解,阿里通義千問大模型主要使用英偉達(dá)Tesla A100、Tesla A800、Tesla H100等GPU芯片,這些GPU具有較大的顯存和強(qiáng)大的計(jì)算能力,能夠滿足大模型訓(xùn)練的需求。

百度文心一言主要基于英偉達(dá)的A100 GPU完成其高效的深度學(xué)習(xí)計(jì)算任務(wù)。A100 GPU采用了NVIDIA最新的Ampere架構(gòu),被廣泛應(yīng)用在各種AI模型和高性能計(jì)算場景中。A100 GPU在文心一言的構(gòu)建和運(yùn)行過程中,執(zhí)行大規(guī)模并行處理任務(wù),特別是在語義理解、語境關(guān)聯(lián)及文本生成等領(lǐng)域內(nèi)。

除此之外,百度也兼容其他公司的GPU,在英偉達(dá)A100、H100等訓(xùn)練AI用GPU遭遇進(jìn)口管制的情況下,百度采用了將來自不同供應(yīng)商的GPU集成到統(tǒng)一的計(jì)算集群中的策略,以訓(xùn)練大語言模型。

字節(jié)跳動(dòng)大模型在訓(xùn)練過程中也是主要使用英偉達(dá)的GPU。據(jù)悉,字節(jié)跳動(dòng)在2023年向英偉達(dá)訂購了超過10億美元的GPU產(chǎn)品,目前已經(jīng)采購了10萬塊A100與H800加速卡,這兩款GPU均屬于英偉達(dá)的高性能計(jì)算產(chǎn)品線,非常適合用于深度學(xué)習(xí)、大模型訓(xùn)練等任務(wù)。

另外,像智譜、百川智能等也主要使用英偉達(dá)的GPU。智譜AI通過與優(yōu)刻得等公司的合作,利用英偉達(dá)GPU構(gòu)建超千卡規(guī)模的推理集群,以滿足其大模型在文本、圖片、視頻等多場景下的大規(guī)模實(shí)時(shí)推理需求。

百川智能與鴻博股份的全資子公司英博數(shù)科合作,后者向百川智能提供的智算服務(wù)器,其單臺(tái)所提供的算力規(guī)模和性能不低于英偉達(dá)H系列8卡智算服務(wù)器所有的同等算力。這意味著百川智能大模型的訓(xùn)練過程中,將直接使用到英偉達(dá)高性能的GPU資源。

除了使用英偉達(dá)GPU之外,一些國產(chǎn)大模型的訓(xùn)練和運(yùn)行也使用國內(nèi)的算力芯片,如華為、科大訊飛、月之暗面等。同時(shí),海光信息、天數(shù)智芯、摩爾線程、沐曦、景嘉微等都已經(jīng)推出和搭建可以支持大模型訓(xùn)練和推理的芯片、系統(tǒng)和智算集群。

寫在最后

總的來說,OpenAI停止對中國開發(fā)者提供API服務(wù),對于目前一些調(diào)用通過接入OpenAI API做大模型和AI應(yīng)用的企業(yè)來說有所影響,不過,國內(nèi)不少大模型廠商已經(jīng)紛紛推出替代方案,雖然目前國產(chǎn)大模型較OpenAI有一定差距,不過隨著更多的被使用,長遠(yuǎn)來看國產(chǎn)大模型將會(huì)逐步實(shí)現(xiàn)突破。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • API
    API
    +關(guān)注

    關(guān)注

    2

    文章

    2481

    瀏覽量

    67060
  • OpenAI
    +關(guān)注

    關(guān)注

    9

    文章

    1252

    瀏覽量

    10293
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    3797

    瀏覽量

    5278
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    PT153S千兆網(wǎng)卡 完全PIN對PIN替代RTL8153E

    等方面具備顯著優(yōu)勢。其國產(chǎn)化屬性解決了進(jìn)口芯片的供應(yīng)鏈痛點(diǎn),高集成度與低功耗設(shè)計(jì)適配更多場景需求,“即插即用”的特性提升了用戶體驗(yàn)與部署效率,是當(dāng)下千兆網(wǎng)卡芯片國產(chǎn)替代的優(yōu)選產(chǎn)品,能夠?yàn)槠髽I(yè)提供高效、可靠、
    發(fā)表于 04-24 11:05

    國產(chǎn)替代STM32F103CBT6的32位MCU單片機(jī)參考方案

    針對STM32F103CBT6等MCU單片機(jī)長期存在的供應(yīng)波動(dòng)、價(jià)格上調(diào)及供應(yīng)鏈不確定性,英尚為電子推出基于國產(chǎn)自主架構(gòu)的32位MCU替代方案。英尚的32位MCU以軟件全兼容為核心設(shè)計(jì)目標(biāo),實(shí)現(xiàn)零改
    的頭像 發(fā)表于 04-23 16:17 ?130次閱讀
    <b class='flag-5'>國產(chǎn)</b><b class='flag-5'>替代</b>STM32F103CBT6的32位MCU單片機(jī)參考<b class='flag-5'>方案</b>

    拋棄“天價(jià)”進(jìn)口件!AI算力爆發(fā)下,SMB連接器如何靠“國產(chǎn)方案”省下 30% 硬成本?

    在AI算力爆發(fā)的2026年,SMB射頻連接器成為無線通信、車載T-Box及邊緣計(jì)算設(shè)備中的關(guān)鍵一環(huán)。本文深入剖析高頻高速趨勢下,如何通過國產(chǎn)替代方案實(shí)現(xiàn)30%硬成本降低,同時(shí)保證信號(hào)完
    的頭像 發(fā)表于 03-20 10:24 ?916次閱讀
    拋棄“天價(jià)”進(jìn)口件!AI算力爆發(fā)下,SMB連接器如何靠“<b class='flag-5'>國產(chǎn)</b><b class='flag-5'>方案</b>”省下 30% 硬<b class='flag-5'>成本</b>?

    長江連接器(CJTconn)6大核心優(yōu)勢,助力進(jìn)口連接器國產(chǎn)替代

    長江連接器(CJTconn)6大核心優(yōu)勢助力進(jìn)口連接器國產(chǎn)替代—長江連接器—在連接器行業(yè),曾經(jīng)歐美日品牌曾長期占據(jù)主導(dǎo)地位,連接器交期動(dòng)輒數(shù)月、價(jià)格居高不下、停產(chǎn)頻發(fā)、定制響應(yīng)遲
    的頭像 發(fā)表于 02-13 11:50 ?373次閱讀
    長江連接器(CJTconn)6大核心優(yōu)勢,助力進(jìn)口連接器<b class='flag-5'>國產(chǎn)</b>化<b class='flag-5'>替代</b>

    Neway微波國產(chǎn)替代方案

    和零部件,在2-6周內(nèi)完成定制產(chǎn)品的交付。技術(shù)兼容性適配無縫對接:支持原位替代TI、Murata等國際品牌,電氣參數(shù)、尺寸、引腳定義無需調(diào)整,降低客戶的替代成本,提高替代
    發(fā)表于 01-30 08:45

    Neway微波產(chǎn)品的國產(chǎn)替代方案

    替代Neway微波產(chǎn)品在技術(shù)兼容性方面進(jìn)行了深度適配,確保國產(chǎn)替代方案能夠無縫對接現(xiàn)有系統(tǒng)。例如,在電源模塊替代中,Neway通過優(yōu)化電
    發(fā)表于 12-18 09:24

    風(fēng)華電阻:低成本與高穩(wěn)定性家電應(yīng)用

    風(fēng)華電阻在家電應(yīng)用中以低成本與高穩(wěn)定性為核心優(yōu)勢,通過材料創(chuàng)新、工藝優(yōu)化及嚴(yán)格認(rèn)證,為家電提供高性價(jià)比、高可靠性的解決方案 ,具體分析如下: 一、低成本實(shí)現(xiàn)路徑 材料替代與工藝優(yōu)化 銅
    的頭像 發(fā)表于 10-29 15:39 ?537次閱讀

    如何評(píng)價(jià)OpenRouter這樣的大模型API聚合平臺(tái)?

    接口。 大模型時(shí)代商業(yè)模式大多數(shù)都是重資產(chǎn),OpenAI、Anthropic談?wù)撈饋矶际巧蟽|美元的資本開支,不管是訓(xùn)練還是推理,建設(shè)數(shù)據(jù)中心成本高昂。 OpenRouter這樣的轉(zhuǎn)發(fā)商,相比之下資本投入就低了2個(gè)數(shù)量級(jí)。 有的人
    的頭像 發(fā)表于 10-28 10:04 ?768次閱讀

    NXP 1052 國產(chǎn)替代推薦?

    NXP 1052 國產(chǎn)替代推薦
    發(fā)表于 09-29 10:47

    高效設(shè)計(jì),國產(chǎn)精品:BT5026——LM5026的優(yōu)質(zhì)Pin-to-Pin替代方案

    國產(chǎn)芯片替代方案
    的頭像 發(fā)表于 09-02 14:50 ?1654次閱讀
    高效設(shè)計(jì),<b class='flag-5'>國產(chǎn)</b>精品:BT5026——LM5026的優(yōu)質(zhì)Pin-to-Pin<b class='flag-5'>替代</b><b class='flag-5'>方案</b>

    騰視科技大模型一體機(jī)解決方案低成本私有化落地,重塑行業(yè)智能應(yīng)用新格局

    當(dāng)大模型進(jìn)入 “深水區(qū)”,私有化與低成本已成為企業(yè)選型的核心考量。騰視科技大模型一體機(jī)解決方案,用技術(shù)創(chuàng)新打破 “安全與成本不可兼得” 的困
    的頭像 發(fā)表于 08-07 11:06 ?2052次閱讀
    騰視科技大<b class='flag-5'>模型</b>一體機(jī)解決<b class='flag-5'>方案</b>:<b class='flag-5'>低成本</b>私有化落地,重塑行業(yè)智能應(yīng)用新格局

    FA模型的ServiceAbility的切換介紹

    的ServiceExtensionAbility為系統(tǒng)API,只有系統(tǒng)應(yīng)用才可以創(chuàng)建。因此,F(xiàn)A模型的ServiceAbility的切換,對于系統(tǒng)應(yīng)用和三方應(yīng)用策略有所不同。下面分別介紹這兩種場景。 系統(tǒng)
    發(fā)表于 06-05 07:24

    非隔離5V低成本方案YD925板子最小,替代阻容降壓

    深圳市三佛科技有限公司供應(yīng) 非隔離5V低成本方案YD925板子最小,原裝現(xiàn)貨 YD925典型應(yīng)用:替代阻容降壓的小家電輔助電源。 YD925線性穩(wěn)壓方案特點(diǎn): 1、外圍簡單,尺寸小,可以全貼片加工
    發(fā)表于 06-03 16:53

    突發(fā)!全球三大家EDA大陸,國產(chǎn)EDA崛起?

    這兩天EDA的事傳的沸沸揚(yáng)揚(yáng),金融時(shí)報(bào)和路透社都報(bào)道了這件事。截止到目前,最新的消息還是這兩個(gè)報(bào)告中的內(nèi)容,但還不知道具體的細(xì)節(jié)。筆者認(rèn)為全面即一刀切的可能性并不是很大,這樣就
    的頭像 發(fā)表于 05-30 09:16 ?2297次閱讀
    突發(fā)!全球三大家EDA<b class='flag-5'>斷</b><b class='flag-5'>供</b>大陸,<b class='flag-5'>國產(chǎn)</b>EDA崛起?

    如何獲取 OpenAI API Key?API 獲取與代碼調(diào)用示例 (詳解教程)

    OpenAI API Key 獲取與使用詳解:從入門到精通 OpenAI 正以其 GPT 和 DALL-E 等先進(jìn)模型引領(lǐng)全球人工智能創(chuàng)新。其 AP
    的頭像 發(fā)表于 05-04 11:42 ?2w次閱讀
    如何獲取 <b class='flag-5'>OpenAI</b> <b class='flag-5'>API</b> Key?<b class='flag-5'>API</b> 獲取與代碼調(diào)用示例 (詳解教程)
    皋兰县| 仁布县| 揭西县| 娱乐| 澄迈县| 汶上县| 建宁县| 高台县| 峨眉山市| 于田县| 山西省| 稷山县| 额尔古纳市| 杭锦后旗| 盘锦市| 鸡东县| 台安县| 衡东县| 甘孜| 栖霞市| 施甸县| 海南省| 宁南县| 合水县| 荔浦县| 香港| 宝山区| 祁东县| 银川市| 孙吴县| 广州市| 桑日县| 府谷县| 郁南县| 上犹县| 甘南县| 麻江县| 承德市| 阿巴嘎旗| 聂拉木县| 绥化市|