日B视频 亚洲,啪啪啪网站一区二区,91色情精品久久,日日噜狠狠色综合久,超碰人妻少妇97在线,999青青视频,亚洲一区二卡,让本一区二区视频,日韩网站推荐

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

Kafka的核心概念

馬哥Linux運(yùn)維 ? 來源:馬哥Linux運(yùn)維 ? 作者:馬哥Linux運(yùn)維 ? 2022-06-20 14:24 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

Kafka 是主流的消息流系統(tǒng),其中的概念還是比較多的,下面通過圖示的方式來梳理一下 Kafka 的核心概念,以便在我們的頭腦中有一個清晰的認(rèn)識。

01 基礎(chǔ)

Kafka 是一套流處理系統(tǒng)(也可以叫消息隊列),可以讓后端服務(wù)輕松地相互溝通,是微服務(wù)架構(gòu)中的常用組件。

d73d250e-efd4-11ec-ba43-dac502259ad0.jpg

02 生產(chǎn)者消費(fèi)者

生產(chǎn)者服務(wù) Producer 向 Kafka 發(fā)送消息,消費(fèi)者服務(wù) Consumer 監(jiān)聽 Kafka 接收消息。

d74b5980-efd4-11ec-ba43-dac502259ad0.jpg

一個服務(wù)可以同時為生產(chǎn)者和消費(fèi)者。

d75cb8f6-efd4-11ec-ba43-dac502259ad0.jpg

03 Topics 主題

Topic 是生產(chǎn)者發(fā)送消息的目標(biāo)地址,是消費(fèi)者的監(jiān)聽目標(biāo)。

d76a322e-efd4-11ec-ba43-dac502259ad0.jpg

一個服務(wù)可以監(jiān)聽、發(fā)送多個 Topics。

d785daa6-efd4-11ec-ba43-dac502259ad0.jpg

Kafka 中有一個【consumer-group(消費(fèi)者組)】的概念。

這是一組服務(wù),扮演一個消費(fèi)者。

d79d6504-efd4-11ec-ba43-dac502259ad0.jpg

如果是消費(fèi)者組接收消息,Kafka 會把一條消息路由到組中的某一個服務(wù)。

d7bbde76-efd4-11ec-ba43-dac502259ad0.jpg

這樣有助于消息的負(fù)載均衡,也方便擴(kuò)展消費(fèi)者。

Topic 扮演一個消息的隊列。首先,一條消息發(fā)送了。

d7ccbb06-efd4-11ec-ba43-dac502259ad0.jpg

然后,這條消息被記錄和存儲在這個隊列中,不允許被修改。

d7ef00d0-efd4-11ec-ba43-dac502259ad0.jpg

接下來,消息會被發(fā)送給此 Topic 的消費(fèi)者。

但是,這條消息并不會被刪除,會繼續(xù)保留在隊列中。

d7fe1098-efd4-11ec-ba43-dac502259ad0.jpg

繼續(xù)發(fā)送消息。

d814eea8-efd4-11ec-ba43-dac502259ad0.jpg

像之前一樣,這條消息會發(fā)送給消費(fèi)者,不允許被改動,一直呆在隊列中(消息在隊列中能待多久,取決于 Kafka 的配置)。

d825185a-efd4-11ec-ba43-dac502259ad0.jpg

d8426d9c-efd4-11ec-ba43-dac502259ad0.jpg

04 Partitions 分區(qū)

上面 Topic 的描述中,把 Topic 看做了一個隊列,實(shí)際上,一個 Topic 是由多個隊列組成的,被稱為【Partition(分區(qū))】。

這樣可以便于 Topic 的擴(kuò)展。

d85453e0-efd4-11ec-ba43-dac502259ad0.jpg

生產(chǎn)者發(fā)送消息的時候,這條消息會被路由到此 Topic 中的某一個分區(qū)(Partition)。

d85f8152-efd4-11ec-ba43-dac502259ad0.jpg

消費(fèi)者監(jiān)聽的是所有分區(qū)并消耗所有人的事件。

d879a960-efd4-11ec-ba43-dac502259ad0.jpg

生產(chǎn)者發(fā)送消息時,默認(rèn)是面向 Topic 的,由 Topic 決定放在哪個 Partition,默認(rèn)使用輪詢策略。

d889aef0-efd4-11ec-ba43-dac502259ad0.jpg

也可以配置 Topic,讓同類型的消息都在同一個 Partition。

例如,處理用戶消息,可以讓某一個用戶所有消息都在一個 Partition。

例如,用戶 1 發(fā)送了 3 條消息:A、B、C,默認(rèn)情況下,這 3 條消息是在不同的 Partition 中(如 P1、P2、P3)。

在配置之后,可以確保用戶 1 的所有消息都發(fā)到同一個分區(qū)中(如 P1)。

d8a34644-efd4-11ec-ba43-dac502259ad0.jpg

這個功能有什么用呢?這是為了提供消息的【有序性】。

消息在不同的 Partition 是不能保證有序的,只有一個 Partition 內(nèi)的消息是有序的。

d8bd0782-efd4-11ec-ba43-dac502259ad0.jpg

d8cf8ca4-efd4-11ec-ba43-dac502259ad0.jpg

05 架構(gòu)

Kafka 是集群架構(gòu)的,ZooKeeper 是其重要組件。

d8f4aa84-efd4-11ec-ba43-dac502259ad0.jpg

ZooKeeper 管理著所有的 Topic 和 Partition。

Topic 和 Partition 存儲在 Node 物理節(jié)點(diǎn)中,ZooKeeper 負(fù)責(zé)維護(hù)這些 Node。

d907fc4c-efd4-11ec-ba43-dac502259ad0.jpg

例如,有 2 個 Topic,各自有 2 個 Partition。

d919a65e-efd4-11ec-ba43-dac502259ad0.jpg

這是邏輯上的形式,但在 Kafka 集群中的實(shí)際存儲可能是這樣的:

d92779aa-efd4-11ec-ba43-dac502259ad0.jpg

Topic A 的 Partition#1有 3 份,分布在各個 Node 上。

這樣可以增加 Kafka 的可靠性和系統(tǒng)彈性。

3 個 Partition#1中,ZooKeeper 會指定一個 Leader,負(fù)責(zé)接收生產(chǎn)者發(fā)來的消息。

d93a0c5a-efd4-11ec-ba43-dac502259ad0.jpg

其他 2 個 Partition #1 會作為 Follower,Leader 接收到的消息會復(fù)制給 Follower。

d958fc82-efd4-11ec-ba43-dac502259ad0.jpg

這樣,每個 Partition 都含有了全量消息數(shù)據(jù)。

d9782cf6-efd4-11ec-ba43-dac502259ad0.jpg

即使某個 Node 節(jié)點(diǎn)出現(xiàn)了故障,也不用擔(dān)心消息的損壞。

Topic A 和 Topic B 的所有 Partition 分布可能就是這樣的:

d98d59b4-efd4-11ec-ba43-dac502259ad0.jpg

這樣一來,你對 Kafka 的組件有了一個初步認(rèn)識,更多關(guān)于 Kafka 或消息隊列的內(nèi)容,可以查閱相關(guān)資料,感謝您的閱讀,希望對您有所幫助。

審核編輯 :李倩

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 架構(gòu)
    +關(guān)注

    關(guān)注

    1

    文章

    537

    瀏覽量

    26646
  • kafka
    +關(guān)注

    關(guān)注

    0

    文章

    55

    瀏覽量

    5595

原文標(biāo)題:講真!Kafka 的原理竟是這樣的,一看就明白!

文章出處:【微信號:magedu-Linux,微信公眾號:馬哥Linux運(yùn)維】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    淺談Kubernetes的六個核心概念

    運(yùn)維工程師在學(xué)習(xí) Kubernetes 時,往往會在某些核心概念上反復(fù)卡住。這些概念不是孤立的知識點(diǎn),而是相互關(guān)聯(lián)、層層遞進(jìn)的體系。理解這些概念的關(guān)鍵在于動手實(shí)踐,而非僅僅閱讀文檔。
    的頭像 發(fā)表于 04-13 13:55 ?226次閱讀

    開關(guān)電源的基本概念和分析方法

    開關(guān)電源的基本概念和分析方法
    發(fā)表于 04-10 15:20 ?1次下載

    聚焦概念驗證中國路徑 國內(nèi)外專家齊聚昱櫟技術(shù)深入研討

    轉(zhuǎn)化模式創(chuàng)新等核心議題開展了深度研討與交流。會上,昱櫟技術(shù)董事長栗旭錦系統(tǒng)介紹,公司深耕行業(yè)12年,作為北京市規(guī)模最大的民營概念驗證中心,始終以純市場化模式實(shí)現(xiàn)自我
    的頭像 發(fā)表于 03-31 16:24 ?725次閱讀
    聚焦<b class='flag-5'>概念</b>驗證中國路徑 國內(nèi)外專家齊聚昱櫟技術(shù)深入研討

    進(jìn)程概念和特征

    進(jìn)程的概念   在多道程序環(huán)境下,允許多個程序并發(fā)執(zhí)行,此時它們將失去封閉性,并具有間斷性及不可再現(xiàn)性的特征。為此引入了進(jìn)程(Process)的概念,以便更好地描述和控制程序的并發(fā)執(zhí)行,實(shí)現(xiàn)操作系統(tǒng)
    發(fā)表于 01-15 06:39

    工程師之夜系列分享第三十九篇:Kafka、RocketMQ、JMQ 存儲架構(gòu)深度對比

    引言 消息隊列的存儲架構(gòu)是決定其可靠性、吞吐量、延遲性能的核心因素,直接影響業(yè)務(wù)場景適配能力。本文聚焦三款主流消息隊列 ——Kafka(LinkedIn 開源,側(cè)重高吞吐)、RocketMQ(阿里
    的頭像 發(fā)表于 01-13 16:19 ?302次閱讀
    工程師之夜系列分享第三十九篇:<b class='flag-5'>Kafka</b>、RocketMQ、JMQ 存儲架構(gòu)深度對比

    Hudi系列:Hudi核心概念之索引(Indexs)

    Hudi系列:Hudi核心概念(版本1.0) ?Hudi架構(gòu) ?一. 時間軸(TimeLine)s ?1.1 時間軸(TimeLine)概念 ?1.2 Hudi的時間線由組成 ?1.3 時間線
    的頭像 發(fā)表于 10-21 09:47 ?538次閱讀
    Hudi系列:Hudi<b class='flag-5'>核心</b><b class='flag-5'>概念</b>之索引(Indexs)

    Hudi系列:Hudi核心概念之文件布局(Storage Layouts)

    Hudi系列:Hudi核心概念(版本1.0) ?Hudi架構(gòu) ?一. 時間軸(TimeLine) ?1.1 時間軸(TimeLine)概念 ?1.2 Hudi的時間線由組成 ?1.3 時間線
    的頭像 發(fā)表于 10-14 16:06 ?847次閱讀
    Hudi系列:Hudi<b class='flag-5'>核心</b><b class='flag-5'>概念</b>之文件布局(Storage Layouts)

    RK3576與RK3588核心板如何選型?1分鐘速通!#RK3576核心板 #RK3588核心

    核心
    廣州靈眸科技有限公司
    發(fā)布于 :2025年09月23日 17:31:12

    一文讀懂大模型常見的10個核心概念

    這些常見的專業(yè)術(shù)語,你又了解多少?這篇文章將幫助你快速掌握AI行業(yè)常見的核心概念。1、大模型型號每個大模型都有其獨(dú)特的設(shè)計和功能,有些大模型可能在語言理解方面表現(xiàn)出
    的頭像 發(fā)表于 09-22 17:02 ?1389次閱讀
    一文讀懂大模型常見的10個<b class='flag-5'>核心</b><b class='flag-5'>概念</b>

    《AI芯片:科技探索與AGI愿景》—— 深入硬件核心的AGI指南

    《AI芯片:科技探索與AGI愿景》一書如同一張詳盡的“藏寶圖”,為讀者指明了通往下一代人工智能的硬件之路。作者沒有停留在空洞的概念層面,而是直擊核心,從馮·諾依曼架構(gòu)的“內(nèi)存墻”瓶頸切入,清晰闡述了
    發(fā)表于 09-17 09:29

    CoWoP封裝的概念、流程與優(yōu)勢

    本文介紹了CoWoP(Chip?on?Wafer?on?Substrate)封裝的概念、流程與優(yōu)勢。
    的頭像 發(fā)表于 08-12 10:49 ?3505次閱讀
    CoWoP封裝的<b class='flag-5'>概念</b>、流程與優(yōu)勢

    Kafka生產(chǎn)環(huán)境應(yīng)用方案

    Apache Kafka作為分布式流處理平臺,在現(xiàn)代大數(shù)據(jù)架構(gòu)中扮演著消息中間件的核心角色。本文將從運(yùn)維工程師的角度,詳細(xì)介紹Kafka在生產(chǎn)環(huán)境中的部署方案、配置優(yōu)化、監(jiān)控運(yùn)維等關(guān)鍵技術(shù)。通過實(shí)戰(zhàn)案例和代碼示例,幫助運(yùn)維團(tuán)隊構(gòu)
    的頭像 發(fā)表于 07-09 09:56 ?693次閱讀

    概念模擬電子電路(全彩版)

    《新概念模擬電子電路》,五部合集。 純分享貼,有需要可以直接下載附件獲取完整資料! (如果內(nèi)容有幫助可以關(guān)注、點(diǎn)贊、評論支持一下哦~)
    發(fā)表于 05-19 16:17

    Kafka工作流程及文件存儲機(jī)制

    Kafka 中消息是以 topic 進(jìn)行分類的,生產(chǎn)者生產(chǎn)消息,消費(fèi)者消費(fèi)消息,都是面向 topic 的。
    的頭像 發(fā)表于 05-19 10:14 ?1086次閱讀
    <b class='flag-5'>Kafka</b>工作流程及文件存儲機(jī)制

    Linux系統(tǒng)管理的核心概念

    在前一篇文章中,我們深入探討了Linux中的文件操作命令,如cp、mv、rm,以及文本處理命令grep、wc和管道符。本文將繼續(xù)深入Linux系統(tǒng)管理的核心概念,包括root用戶的角色、用戶和用戶組
    的頭像 發(fā)表于 05-15 17:05 ?848次閱讀
    沙洋县| 敦化市| 彩票| 竹溪县| 贵南县| 嘉黎县| 广德县| 枝江市| 克拉玛依市| 金山区| 柘荣县| 固阳县| 桃园县| 遵义县| 屯昌县| 略阳县| 积石山| 古田县| 辽阳市| 扎鲁特旗| 荔浦县| 蓝山县| 孟州市| 永安市| 山西省| 武平县| 本溪| 吉木萨尔县| 喀什市| 武汉市| 凤山市| 海淀区| 博客| 威海市| 沅江市| 桂平市| 嵊州市| 宜兰市| 兖州市| 兴化市| 札达县|