0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

分布式發(fā)布與訂閱系統(tǒng)Apache Kafka在即將發(fā)布的2.8版本

電子工程師 ? 來源:科技社techpub ? 作者:科技社techpub ? 2021-05-31 09:58 ? 次閱讀

分布式發(fā)布與訂閱系統(tǒng)Apache Kafka在即將發(fā)布的2.8版本,使用Kafka內(nèi)部的Quorum控制器來取代ZooKeeper,因此用戶第一次可在完全不需要ZooKeeper的情況下執(zhí)行Kafka,這不只節(jié)省運(yùn)算資源,并且也使得Kafka效能更好,還可支持規(guī)模更大的集群。

過去Apache ZooKeeper是Kafka這類分布式系統(tǒng)的關(guān)鍵,ZooKeeper扮演協(xié)調(diào)代理的角色,所有代理服務(wù)器啟動(dòng)時(shí),都會(huì)連接到Zookeeper進(jìn)行注冊(cè),當(dāng)代理狀態(tài)發(fā)生變化時(shí),Zookeeper也會(huì)儲(chǔ)存這些數(shù)據(jù),在過去,ZooKeeper是一個(gè)強(qiáng)大的工具,但是畢竟ZooKeeper是一個(gè)獨(dú)立的軟件,使得Kafka整個(gè)系統(tǒng)變得復(fù)雜,因此官方?jīng)Q定使用內(nèi)部Quorum控制器來取代ZooKeeper。

這項(xiàng)工作從去年4月開始,而現(xiàn)在這項(xiàng)工作取得部分成果,用戶將可以在2.8版本,在沒有ZooKeeper的情況下執(zhí)行Kafka,官方稱這項(xiàng)功能為Kafka Raft元數(shù)據(jù)模式(KRaft)。在KRaft模式,過去由Kafka控制器和ZooKeeper所操作的元數(shù)據(jù),將合并到這個(gè)新的Quorum控制器,并且在Kafka集群內(nèi)部執(zhí)行,當(dāng)然,如果使用者有特殊使用情境,Quorum控制器也可以在專用的硬件上執(zhí)行。

KRaft協(xié)定使用事件驅(qū)動(dòng)機(jī)制來追蹤整個(gè)集群的元數(shù)據(jù),過去必須依賴RPC來處理的任務(wù),現(xiàn)在受益于事件驅(qū)動(dòng)以及實(shí)際的日志傳輸,這些改變所帶來的好處,便是讓Kafka仍夠支持更多的分割。

過去Kafka因?yàn)閹е鳽ooKeeper,因此被認(rèn)為擁有笨重的基礎(chǔ)設(shè)施,而在移除ZooKeeper之后,Kafka更輕巧更適用于小規(guī)模工作負(fù)載,輕量級(jí)單體程序適合用于邊緣以及輕量級(jí)硬件解決方案。

值得注意的是,在搶先體驗(yàn)版中,有部分像是ACL、安全以及交易等功能都尚未支持,而且在KRaft模式下,也還不支持重新分配分割和JBOD,官方提到,這些功能會(huì)在今年稍晚的版本中提供,由于很多功能處于測試階段,不建議大家將其用于生產(chǎn)環(huán)境中。

參考:https://www.confluent.io/blog/kafka-without-zookeeper-a-sneak-peek/https://www.ithome.com.tw/news/143569

編輯:jq

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 控制器
    +關(guān)注

    關(guān)注

    112

    文章

    16361

    瀏覽量

    178071
  • RPC
    RPC
    +關(guān)注

    關(guān)注

    0

    文章

    111

    瀏覽量

    11537
  • ACL
    ACL
    +關(guān)注

    關(guān)注

    0

    文章

    61

    瀏覽量

    11979
  • zookeeper
    +關(guān)注

    關(guān)注

    0

    文章

    33

    瀏覽量

    3683

原文標(biāo)題:Kafka 2.8獨(dú)立運(yùn)行,不再需要ZooKeeper

文章出處:【微信號(hào):AndroidPush,微信公眾號(hào):Android編程精選】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    HarmonyOS Next 應(yīng)用元服務(wù)開發(fā)-分布式數(shù)據(jù)對(duì)象遷移數(shù)據(jù)權(quán)限與基礎(chǔ)數(shù)據(jù)

    提供了async版本供該場景使用。 當(dāng)前,wantParams中“sessionId”字段在遷移流程中被系統(tǒng)占用,建議開發(fā)者在wantParams中定義其他key值存儲(chǔ)該分布式數(shù)據(jù)對(duì)象生成的id,避免
    發(fā)表于 12-24 09:40

    超詳細(xì)“零”基礎(chǔ)kafka入門篇

    1、認(rèn)識(shí)kafka 1.1 kafka簡介 Kafka?是一個(gè)分布式流媒體平臺(tái) kafka官網(wǎng):http://
    的頭像 發(fā)表于 12-18 09:50 ?303次閱讀
    超詳細(xì)“零”基礎(chǔ)<b class='flag-5'>kafka</b>入門篇

    基于ArkTS語言的OpenHarmony APP應(yīng)用開發(fā):公共事件的訂閱發(fā)布

    1、程序介紹 示例主要展示了公共事件相關(guān)的功能,實(shí)現(xiàn)了一個(gè)檢測用戶部分行為的應(yīng)用。 具體而言,本案例實(shí)現(xiàn)了如下幾個(gè)公共事件功能: 通過訂閱系統(tǒng)公共事件,實(shí)現(xiàn)對(duì)用戶操作行為(亮滅屏、斷聯(lián)網(wǎng))的監(jiān)測
    發(fā)表于 09-18 13:16

    安科瑞分布式光伏系統(tǒng)在某重工企業(yè)18MW分布式光伏中應(yīng)用

    2024年7月16日,江蘇省發(fā)改委發(fā)布《關(guān)于高質(zhì)量做好全省分布式光伏接網(wǎng)消納的通知(征求意見稿)》,計(jì)劃大力支持分布式光伏的發(fā)展! 1、未來分布式光伏規(guī)模規(guī)劃 根據(jù)規(guī)劃,2024、20
    的頭像 發(fā)表于 07-19 11:30 ?521次閱讀
    安科瑞<b class='flag-5'>分布式</b>光伏<b class='flag-5'>系統(tǒng)</b>在某重工企業(yè)18MW<b class='flag-5'>分布式</b>光伏中應(yīng)用

    ENV-Windows v2.0.0版本發(fā)布

    ENV-Windows v2.0.0版本發(fā)布
    的頭像 發(fā)表于 06-26 08:35 ?749次閱讀
    ENV-Windows v2.0.0<b class='flag-5'>版本</b><b class='flag-5'>發(fā)布</b>

    openEuler 24.03 LTS Meetup:聚焦AI、嵌入分布式創(chuàng)新

    隨著OpenAtom openEuler(簡稱“openEuler”)24.03 LTS版本發(fā)布,這一開源操作系統(tǒng)再次成為業(yè)界的焦點(diǎn)。為了進(jìn)一步推廣與宣傳新版本帶來的特性和技術(shù)進(jìn)展,
    的頭像 發(fā)表于 06-24 10:08 ?460次閱讀

    鴻蒙開發(fā)接口數(shù)據(jù)管理:【@ohos.data.distributedDataObject (分布式數(shù)據(jù)對(duì)象)】

    模塊提供管理基本數(shù)據(jù)對(duì)象的相關(guān)能力,包括創(chuàng)建、查詢、刪除、修改、訂閱等;同時(shí)支持相同應(yīng)用多設(shè)備間的分布式數(shù)據(jù)對(duì)象協(xié)同能力。
    的頭像 發(fā)表于 06-07 17:51 ?1495次閱讀
    鴻蒙開發(fā)接口數(shù)據(jù)管理:【@ohos.data.distributedDataObject (<b class='flag-5'>分布式</b>數(shù)據(jù)對(duì)象)】

    分布式SCADA系統(tǒng)的特點(diǎn)的組成

    在工業(yè)自動(dòng)化和能源管理領(lǐng)域,SCADA(Supervisory Control And Data Acquisition)系統(tǒng)扮演著至關(guān)重要的角色。其中,分布式SCADA系統(tǒng)憑借其獨(dú)特的結(jié)構(gòu)和功能
    的頭像 發(fā)表于 06-07 14:43 ?549次閱讀

    浪潮信息發(fā)布為大模型專門優(yōu)化的分布式全閃存儲(chǔ)AS13000G7-N系列

    近日,浪潮信息發(fā)布為大模型專門優(yōu)化的分布式全閃存儲(chǔ)AS13000G7-N系列。該系列依托浪潮信息自研分布式文件系統(tǒng),搭載新一代數(shù)據(jù)加速引擎DataTurbo,
    的頭像 發(fā)表于 05-08 09:38 ?566次閱讀
    浪潮信息<b class='flag-5'>發(fā)布</b>為大模型專門優(yōu)化的<b class='flag-5'>分布式</b>全閃存儲(chǔ)AS13000G7-N系列

    分布式光伏監(jiān)控系統(tǒng)解決方案

    分布式光伏發(fā)電系統(tǒng)的發(fā)電量,提高分布式光伏發(fā)電系統(tǒng)的利用率。發(fā)展分布式光伏發(fā)電對(duì)優(yōu)化能源結(jié)構(gòu)、實(shí)現(xiàn)“雙碳目標(biāo)”、推動(dòng)節(jié)能減排、實(shí)現(xiàn)經(jīng)濟(jì)可持續(xù)
    的頭像 發(fā)表于 04-22 15:56 ?985次閱讀
    <b class='flag-5'>分布式</b>光伏監(jiān)控<b class='flag-5'>系統(tǒng)</b>解決方案

    HarmonyOS實(shí)戰(zhàn)案例:【分布式賬本】

    Demo基于Open Harmony系統(tǒng)使用ETS語言進(jìn)行編寫,Demo主要通過設(shè)備認(rèn)證、分布式拉起、分布式數(shù)據(jù)管理等功能來實(shí)現(xiàn)。
    的頭像 發(fā)表于 04-12 16:40 ?1333次閱讀
    HarmonyOS實(shí)戰(zhàn)案例:【<b class='flag-5'>分布式</b>賬本】

    法國FEBUS分布式光纖聲波系統(tǒng)發(fā)布A1 v2版本

    法國FEBUS公司是一家專業(yè)從事分布式光纖傳感設(shè)備研發(fā)和制造的法國企業(yè),總部坐落于法國城市PAU,這座城市也是FEBUS公司起步階段強(qiáng)有力支持者國際石油公司道達(dá)爾能源的總部。
    的頭像 發(fā)表于 03-22 14:06 ?1014次閱讀
    法國FEBUS<b class='flag-5'>分布式</b>光纖聲波<b class='flag-5'>系統(tǒng)</b><b class='flag-5'>發(fā)布</b>A1 v2<b class='flag-5'>版本</b>

    得瑞領(lǐng)新參編團(tuán)體標(biāo)準(zhǔn)《高性能計(jì)算 分布式存儲(chǔ)系統(tǒng)技術(shù)要求》正式發(fā)布

    得瑞領(lǐng)新參編的《高性能計(jì)算 分布式存儲(chǔ)系統(tǒng)技術(shù)要求》團(tuán)標(biāo)由中國電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)正式發(fā)布,這標(biāo)志著得瑞在高性能計(jì)算和分布式存儲(chǔ)領(lǐng)域的技術(shù)實(shí)力得到認(rèn)可,同時(shí)也展現(xiàn)了公司在行業(yè)標(biāo)準(zhǔn)制定
    的頭像 發(fā)表于 03-01 10:00 ?466次閱讀
    得瑞領(lǐng)新參編團(tuán)體標(biāo)準(zhǔn)《高性能計(jì)算 <b class='flag-5'>分布式</b>存儲(chǔ)<b class='flag-5'>系統(tǒng)</b>技術(shù)要求》正式<b class='flag-5'>發(fā)布</b>

    分布式大屏控制系統(tǒng)的工作原理

    分布式大屏控制系統(tǒng)是一種基于分布式計(jì)算、云計(jì)算和大數(shù)據(jù)技術(shù)的控制系統(tǒng),具有高效、穩(wěn)定、靈活的特點(diǎn)。該系統(tǒng)通過將各個(gè)子
    的頭像 發(fā)表于 01-29 14:24 ?761次閱讀

    什么是分布式架構(gòu)?

    分布式架構(gòu)是指將一個(gè)系統(tǒng)或應(yīng)用拆分成多個(gè)獨(dú)立的節(jié)點(diǎn),這些節(jié)點(diǎn)通過網(wǎng)絡(luò)連接進(jìn)行通信和協(xié)作,以實(shí)現(xiàn)共同完成任務(wù)的一種架構(gòu)模式。這種架構(gòu)模式旨在提高系統(tǒng)的可擴(kuò)展性、可靠性和性能表現(xiàn)。 一、分布式
    的頭像 發(fā)表于 01-12 15:04 ?1244次閱讀
    什么是<b class='flag-5'>分布式</b>架構(gòu)?