日B视频 亚洲,啪啪啪网站一区二区,91色情精品久久,日日噜狠狠色综合久,超碰人妻少妇97在线,999青青视频,亚洲一区二卡,让本一区二区视频,日韩网站推荐

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

甲骨文、微軟再次合作!討論共享AI服務器,應對算力短缺!

Carol Li ? 來源:電子發(fā)燒友網(wǎng) ? 作者:李彎彎 ? 2023-05-12 01:23 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報道(文/李彎彎)日前消息,據(jù)相關人士透露,甲骨文(Oracle)和微軟(Microsoft)最近討論了一項不同尋常的協(xié)議,如果任何一家公司為使用大規(guī)模AI的云客戶提供的計算能力不足,雙方將相互租用服務器。

這筆交易將幫助這兩家互為競爭對手的云服務提供商滿足市場對可運行AI軟件的服務器日益增長的需求,這種需求已導致服務器短缺。

微軟和甲骨文曾多次合作

微軟和甲骨文雖然互為競爭對手,但卻曾多次攜手合作。2013年6月,微軟與甲骨文宣布達成合作,將Java、甲骨文數(shù)據(jù)庫以及其他甲骨文軟件帶到微軟WindowsServerHyper-V和WindowsAzure云平臺,這種合作為開發(fā)人員提供了極大的便利。

消費者可以在WindowsServerHyper-V和WindowsAzure上部署甲骨文軟件,包括Java、甲骨文數(shù)據(jù)庫、甲骨文WebLogicServer,甲骨文將提供完整支持。

作為合作的一部分,甲骨文將認證和支持自家軟件在微軟平臺上的運行,并為WindowsAzure用戶提供OracleLinux,微軟也向WindowsAzure用戶提供上述甲骨文軟件。

甲骨文與微軟的強強聯(lián)合,Java開發(fā)人員和企業(yè)用戶獲益最大,甲骨文數(shù)據(jù)庫與微軟云計算平臺的整合,使得他們可以直接將桌面上的傳統(tǒng)軟件遷移至云計算系統(tǒng)。

2019年6月,微軟和甲骨文又宣布建立一個新的合作關系,兩家公司將通過網(wǎng)絡直連他們的云服務,以便用戶可以在兩者之間無縫地遷移其工作負載和數(shù)據(jù)。

微軟和甲骨文發(fā)布的聯(lián)合聲明顯示,企業(yè)用戶將可以無縫地使用微軟Azure的分析和人工智能等服務,以及甲骨文自主數(shù)據(jù)庫等云服務。整體來說,雙方為用戶提供了一站式的服務,為用戶提供經(jīng)營整個企業(yè)的所有云服務和應用程序。

據(jù)分析,微軟和甲骨文攜手合作是為了應對共同的競爭壓力。隨著移動互聯(lián)網(wǎng)快速發(fā)展,云計算市場重要性日益凸顯。微軟的AZure始終無法趕上亞馬遜云服務AWS的步伐,甲骨文更是由于最初對云計算前景的估計失誤而處境尷尬。

根據(jù)Synergy Research Group數(shù)據(jù)顯示,亞馬遜云服務以超過30%的市場占有率,成為全球云計算市場上的領跑者。微軟Azure以大約15%的市場份額位列第二,緊隨其后的是IBM Cloud以及谷歌Cloud。甲骨文(Oracle)這樣的小型云計算服務商,更是在上述四大云計算巨頭加強市場控制的壓力下,業(yè)務增速有所放緩。兩者攜手合作對于雙方來說都很有必要。

AI服務器需求快速增長

ChatGPT的出現(xiàn)掀起了全球AI大模型研究熱潮,無論是訓練還是推理,這都需要消耗大量的算力,尤其是訓練階段。以ChatGPT為例,根據(jù)OpenAI在2020年發(fā)表的論文,訓練階段算力需求與模型參數(shù)數(shù)量、訓練數(shù)據(jù)集規(guī)模等有關,且為兩者乘積的6倍:訓練階段算力需求=6×模型參數(shù)數(shù)量×訓練集規(guī)模。

GPT-3模型參數(shù)約1750億個,預訓練數(shù)據(jù)量為45 TB,折合成訓練集約為3000億tokens。即訓練階段算力需求=6×1.75×1011×3×1011=3.15×1023 FLOPS=3.15×108 PFLOPS

依據(jù)谷歌論文,OpenAI公司訓練GPT-3采用英偉達V100 GPU,有效算力比率為21.3%。GPT-3的實際算力需求應為1.48×109 PFLOPS(17117 PFLOPS-day)。

假設應用A100 640GB服務器進行訓練,該服務器AI算力性能為5 PFLOPS,最大功率為6.5 kw,則根據(jù)測算,訓練階段需要服務器數(shù)量=訓練階段算力需求÷服務器AI算力性能=2.96×108臺(同時工作1秒),即3423臺服務器工作1日。

在ChatGPT及各種AI大模型的推進下,AI服務器市場需求呈現(xiàn)高速增長趨勢。美國服務器供應商超微電腦在5月初的財報會議上表示,AI服務器業(yè)務正迎來創(chuàng)紀錄暴漲。公司向主要客戶交付新平臺的速度加快,2023財年有望迎來強勁收尾。

不過也因為需求強勁,AI服務器硬件資源也面臨短缺的問題,超微電腦就表示,AI服務器出貨量可能會受到供應鏈瓶頸的限制。

事實上,今年3月微軟公司就已經(jīng)傳出面臨內部AI服務器硬件短缺的窘境。為此,微軟不得不對硬件資源采取配額供應的方式,限制其他內部AI工具開發(fā)團隊的使用量,從而確?;贕PT-4的新版必應聊天機器人和即將發(fā)布的新款Office工具獲得足夠的資源。

小結

可以看到,隨著AI大模型的研究推進,算力需求與日俱增,AI服務器企業(yè)也迎來大幅增長。然而由于受到供應鏈,比如高算力GPU芯片等限制,AI服務器硬件資源仍然面臨短缺。微軟和甲骨文的再次攜手合作,正是其應對當前困境的方式之一。




聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 微軟
    +關注

    關注

    4

    文章

    6754

    瀏覽量

    108098
  • AI
    AI
    +關注

    關注

    91

    文章

    41315

    瀏覽量

    302691
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    AI服務器PCBA加工技術解析:高時代的核心制造能力

    AI服務器PCBA加工 是AI服務器硬件制造的重要環(huán)節(jié),也是支撐人工智能基礎設施的重要技術能
    的頭像 發(fā)表于 04-16 22:57 ?156次閱讀

    AI時代的熱挑戰(zhàn):宏展高發(fā)熱大負載Walk-in試驗箱的技術應對

    AI迅猛發(fā)展的今天,服務器已從單純的數(shù)據(jù)處理機演進為智能時代的核心基礎設施。無論是訓練大型語言模型、實時推演AI應用,還是進行邊緣運算
    的頭像 發(fā)表于 03-27 09:52 ?308次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>時代的熱挑戰(zhàn):宏展高發(fā)熱大負載Walk-in試驗箱的技術<b class='flag-5'>應對</b>

    爆發(fā)下的剛需賽道:AI服務器高頻高速連接需求迎爆發(fā)式增長

    當前,AI基建正進入全面爆發(fā)期,高頻高速連接作為AI服務器的核心零部件,承擔著短距離高速信
    的頭像 發(fā)表于 03-20 14:07 ?972次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>爆發(fā)下的剛需賽道:<b class='flag-5'>AI</b><b class='flag-5'>服務器</b>高頻高速連接<b class='flag-5'>器</b>需求迎爆發(fā)式增長

    邊緣AI臨界點:深度解析176TOPS香橙派AI Station的產(chǎn)業(yè)價值

    AI服務器) 這一形態(tài)應運而生。它需要在極小體積內,提供接近服務器級的AI吞吐能力,同時具備工業(yè)級的接口擴展性。 OrangePi AI S
    發(fā)表于 03-10 14:19

    高達 1570 TOPS!支持多硬盤的高服務器 CSB2-N10

    CSB2-N10服務器內置10個分布式計算節(jié)點,單節(jié)點可提供6-157TOPS,可選瑞芯微、能、NVIDIA等平臺。支持主流AI大模型
    的頭像 發(fā)表于 01-06 16:33 ?795次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>高達 1570 TOPS!支持多硬盤的高<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務器</b> CSB2-N10

    高達 1100 TOPS!內置 Jetson AGX Orin 模組的高服務器

    CSB1-N4AGXOrin最高可配置4個NVIDIAJetsonAGXOrin(64GB)計算節(jié)點,最高1100TOPS(INT8)。支持主流AI大模型的私有化部署、多種深度學習框架。擁有4個
    的頭像 發(fā)表于 12-17 16:31 ?850次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>高達 1100 TOPS!內置 Jetson AGX Orin 模組的高<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務器</b>

    AI服務器電源測試解決方案:為巨擘注入穩(wěn)定之魂

    在人工智能浪潮之巔,AI服務器電源作為驅動萬億參數(shù)模型奔騰不息的“心臟”,其性能至關重要。這顆心臟能否在極限負載下強勁搏動,在復雜工況中穩(wěn)定運行,直接決定了整個AI
    的頭像 發(fā)表于 12-03 13:56 ?903次閱讀

    覺醒 · AI共生——上海永銘電子2025AI服務器電容應用專題會議圓滿落幕

    隨著人工智能浪潮席卷全球,AI正以前所未有的速度爆發(fā)式增長。在這場決定未來的技術競速中,穩(wěn)定、高效、可靠的電力供應是基石的核心。而電
    的頭像 發(fā)表于 11-03 14:00 ?1142次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>覺醒 · <b class='flag-5'>AI</b>共生——上海永銘電子2025<b class='flag-5'>AI</b><b class='flag-5'>服務器</b>電容應用專題會議圓滿落幕

    成都匯陽投資關于甲骨文云計算訂單超預期,全球投資持續(xù)高景氣

    甲骨文披露 4550 億美元訂單超預期 全球投資高景氣 , 甲骨文披露4550億美元訂單超預期 ,微軟與 Nebius 達成五年 174
    的頭像 發(fā)表于 10-17 10:05 ?909次閱讀

    天波科普:超過30T的邊緣計算服務器可以做什么?

    網(wǎng)關的能力邊界,也涉及到高低。那么,目前邊緣計算服務器到多少算高呢?以廣東天波AI邊緣
    的頭像 發(fā)表于 09-28 11:18 ?871次閱讀
    天波科普:<b class='flag-5'>算</b><b class='flag-5'>力</b>超過30T的邊緣計算<b class='flag-5'>服務器</b>可以做什么?

    多達 48 個計算節(jié)點!Firefly 推出 CSC2-N48 AI 服務器

    Firefly最新推出CSC2-N48服務器,內置48個分布式計算節(jié)點,單節(jié)點可提供6TOPS-157TOPS,可選瑞芯微、
    的頭像 發(fā)表于 08-20 16:37 ?1840次閱讀
    多達 48 個計算節(jié)點!Firefly 推出 CSC2-N48 <b class='flag-5'>AI</b> <b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務器</b>

    看懂AI集群

    最近這幾年,AI浪潮席卷全球,成為整個社會的關注焦點。大家在討論AI的時候,經(jīng)常會提到AI
    的頭像 發(fā)表于 07-23 12:18 ?1979次閱讀
    一<b class='flag-5'>文</b>看懂<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>集群

    看點:曝OpenAI與甲骨文加碼“星際之門” 富士康要求中國員工從印度撤離 微軟放慢AI芯片開發(fā):專注務實設計

    OpenAI將從甲骨文額外租用總計約4.5吉瓦的數(shù)據(jù)中心電力,這相當于4.5座核反應堆的發(fā)電量。 據(jù)悉,在得州阿比林甲骨文已經(jīng)建立了一個I大型數(shù)據(jù)中心;計劃將阿比林數(shù)據(jù)中心的電力容量從目前的1.2吉瓦擴展至約2吉瓦。 同時甲骨文
    的頭像 發(fā)表于 07-03 13:56 ?921次閱讀

    AI 服務器電源如何迭代升級?

    AI 需求增長的今天,AI 服務器電源正陷入 “性能瓶頸與國產(chǎn)替代并行、場景適配與技術創(chuàng)新交織” 的雙重挑戰(zhàn)。 由Big-Bit商務網(wǎng)
    的頭像 發(fā)表于 06-23 14:51 ?1737次閱讀

    服務器多少錢一臺?價格因素與選購指南

    入門級服務器可能只需幾千元,而高性能計算(HPC)或AI訓練專用服務器則可能高達數(shù)十萬元。一般來說,中小型企業(yè)常用的
    的頭像 發(fā)表于 06-17 09:45 ?3492次閱讀
    蛟河市| 乌恰县| 汉沽区| 莲花县| 大足县| 荣成市| 泗洪县| 额尔古纳市| 甘谷县| 防城港市| 丹巴县| 皮山县| 临泽县| 克东县| 怀来县| 陆河县| 青田县| 章丘市| 福贡县| 铜梁县| 甘洛县| 行唐县| 鹤岗市| 上犹县| 申扎县| 塔城市| 工布江达县| 甘南县| 邢台县| 浏阳市| 秦安县| 漠河县| 华宁县| 吕梁市| 南部县| 永州市| 阳朔县| 广灵县| 延边| 色达县| 鸡西市|