0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

DBSyncer支持多種數(shù)據(jù)源和預(yù)警功能

jf_ro2CN3Fa ? 來(lái)源:芋道源碼 ? 2023-05-18 16:37 ? 次閱讀

設(shè)計(jì)

應(yīng)用場(chǎng)景

使用教程

預(yù)覽

DBSyncer是一款開源的數(shù)據(jù)同步中間件,提供MySQL、Oracle、SqlServer、PostgreSQL、Elasticsearch(ES)、Kafka、File、SQL等同步場(chǎng)景。

支持上傳插件自定義同步轉(zhuǎn)換業(yè)務(wù),提供監(jiān)控全量和增量數(shù)據(jù)統(tǒng)計(jì)圖、應(yīng)用性能預(yù)警等。

特點(diǎn)

組合驅(qū)動(dòng) ,自定義庫(kù)同步到庫(kù)組合,關(guān)系型數(shù)據(jù)庫(kù)與非關(guān)系型之間組合,任意搭配表同步映射關(guān)系

實(shí)時(shí)監(jiān)控 ,驅(qū)動(dòng)全量或增量實(shí)時(shí)同步運(yùn)行狀態(tài)、結(jié)果、同步日志和系統(tǒng)日志

開發(fā)插件 ,自定義轉(zhuǎn)化同步邏輯

設(shè)計(jì)

架構(gòu)圖

f4359d5e-f496-11ed-90ce-dac502259ad0.png

基于 Spring Boot + MyBatis Plus + Vue & Element 實(shí)現(xiàn)的后臺(tái)管理系統(tǒng) + 用戶小程序,支持 RBAC 動(dòng)態(tài)權(quán)限、多租戶、數(shù)據(jù)權(quán)限、工作流、三方登錄、支付、短信、商城等功能

項(xiàng)目地址:https://github.com/YunaiV/ruoyi-vue-pro

視頻教程:https://doc.iocoder.cn/video/

應(yīng)用場(chǎng)景

連接器 數(shù)據(jù)源 目標(biāo)源 支持版本(包含以下)
MySQL 5.7.19以上
Oracle 10gR2 -11g
SqlServer 2008以上
PostgreSQL 9.5.25以上
ES 6.0以上
Kafka 開發(fā)中 2.10-0.9.0.0以上
File *.txt, *.unl
SQL 支持以上關(guān)系型數(shù)據(jù)庫(kù)
后期計(jì)劃 Redis

基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 實(shí)現(xiàn)的后臺(tái)管理系統(tǒng) + 用戶小程序,支持 RBAC 動(dòng)態(tài)權(quán)限、多租戶、數(shù)據(jù)權(quán)限、工作流、三方登錄、支付、短信、商城等功能

項(xiàng)目地址:https://github.com/YunaiV/yudao-cloud

視頻教程:https://doc.iocoder.cn/video/

使用教程

1.啟動(dòng) 代理 和 數(shù)據(jù)庫(kù) 服務(wù)

f43b1dce-f496-11ed-90ce-dac502259ad0.png

2.準(zhǔn)備測(cè)試賬號(hào),test

f4440ae2-f496-11ed-90ce-dac502259ad0.png

3.分配sysadmin角色

f44ac0f8-f496-11ed-90ce-dac502259ad0.png

4.分配指定數(shù)據(jù)庫(kù)權(quán)限

f4504a96-f496-11ed-90ce-dac502259ad0.png

PostgreSQL

通過(guò)復(fù)制流技術(shù)監(jiān)聽增量事件,基于內(nèi)置插件pgoutput、test_decoding實(shí)現(xiàn)解析wal日志

1、修改postgresql.conf文件,重啟服務(wù)

wal_level=logical

2、授予賬號(hào)權(quán)限LOGIN和REPLICATION

File

監(jiān)聽文件修改時(shí)間得到變化文件,通過(guò)文件偏移量讀取最新數(shù)據(jù)

https://gitee.com/ghi/dbsyncer/issues/I55EP5

ES

定時(shí)獲取增量數(shù)據(jù)。

賬號(hào)具有訪問(wèn)權(quán)限。

日志

建議MySQL、SqlServer、PostgreSQL都使用日志

f45773e8-f496-11ed-90ce-dac502259ad0.png

定時(shí)

假設(shè)源表數(shù)據(jù)格式

f45f4050-f496-11ed-90ce-dac502259ad0.pngf468bcfc-f496-11ed-90ce-dac502259ad0.png

預(yù)覽

驅(qū)動(dòng)管理

f46f32a8-f496-11ed-90ce-dac502259ad0.png

驅(qū)動(dòng)詳情

f476ef02-f496-11ed-90ce-dac502259ad0.png

驅(qū)動(dòng)表字段關(guān)系配置

f482318c-f496-11ed-90ce-dac502259ad0.png

監(jiān)控

f48c4988-f496-11ed-90ce-dac502259ad0.png

上傳插件

f4927754-f496-11ed-90ce-dac502259ad0.png

開源地址

審核編輯:彭靜

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 開源
    +關(guān)注

    關(guān)注

    3

    文章

    3363

    瀏覽量

    42537
  • 管理系統(tǒng)
    +關(guān)注

    關(guān)注

    1

    文章

    2521

    瀏覽量

    35946
  • 數(shù)據(jù)源
    +關(guān)注

    關(guān)注

    1

    文章

    63

    瀏覽量

    9691

原文標(biāo)題:星標(biāo)1.4k,一款國(guó)產(chǎn)開源數(shù)據(jù)同步中間件,支持多種數(shù)據(jù)源和預(yù)警功能!

文章出處:【微信號(hào):芋道源碼,微信公眾號(hào):芋道源碼】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    LabView動(dòng)態(tài)創(chuàng)建數(shù)據(jù)源的方法

    在LabView中LabSQL操作數(shù)據(jù)庫(kù)是通過(guò)ODBC連接,用戶需要在ODBC中指定數(shù)據(jù)源名稱和驅(qū)動(dòng)程序。因此在使用LabSQL之前,首先需要在Windows操作系統(tǒng)中的ODBC數(shù)據(jù)源中創(chuàng)建一個(gè)
    發(fā)表于 09-23 01:53

    ODBC數(shù)據(jù)源的建立

    我找不到數(shù)據(jù)源這個(gè)選項(xiàng)啊,怎么辦?
    發(fā)表于 04-21 11:39

    DxDataBook 如何調(diào)用網(wǎng)絡(luò)數(shù)據(jù)源

    DxDataBook 如何調(diào)用網(wǎng)絡(luò)數(shù)據(jù)源: 就是在library wizard中有三種調(diào)用三種數(shù)據(jù)源的方式:WWW、oracle、ODBC三種,后面兩種我知道怎么調(diào)用,但有人知道第一種(www)怎么調(diào)用嗎?求大神解救??!
    發(fā)表于 07-19 10:06

    QuickBI助你成為分析師——搞定數(shù)據(jù)源

    摘要: QuickBI支持多種數(shù)據(jù)源連接,添加數(shù)據(jù)源數(shù)據(jù)分析展示的第一步,下面來(lái)詳細(xì)介紹一下產(chǎn)品數(shù)據(jù)源
    發(fā)表于 03-28 12:43

    ViCANdo Suite直接支持數(shù)據(jù)源

    點(diǎn)云數(shù)據(jù)實(shí)時(shí)處理ViCANdo Suite直接支持數(shù)據(jù)源ViCANdo Suite 產(chǎn)品介紹
    發(fā)表于 01-05 07:28

    數(shù)據(jù)源配置工具

    odbc_for_access.exe1、可直接配置數(shù)據(jù)源。2、可直接創(chuàng)建Access數(shù)據(jù)庫(kù)文件。3、為數(shù)據(jù)庫(kù)配置密碼。
    發(fā)表于 07-01 16:22 ?4次下載

    如何使用Apache Spark中的DataSource API以實(shí)現(xiàn)數(shù)據(jù)源混合計(jì)算的實(shí)踐

    結(jié)構(gòu)化,各種各樣的數(shù)據(jù)結(jié)構(gòu)、格局格式,這種數(shù)據(jù)的多樣性本身即是大數(shù)據(jù)的特性之一,從而也決定了一種存儲(chǔ)方式不可能通吃所有。因此,數(shù)據(jù)本身決定了多種數(shù)據(jù)
    發(fā)表于 10-10 14:35 ?0次下載
    如何使用Apache Spark中的DataSource API以實(shí)現(xiàn)<b class='flag-5'>數(shù)據(jù)源</b>混合計(jì)算的實(shí)踐

    基于元組水平對(duì)數(shù)據(jù)源進(jìn)行分層抽樣

    深網(wǎng)查詢?cè)赪eb上眾多的應(yīng)用,需要查詢大量的數(shù)據(jù)源才能獲得足夠的數(shù)據(jù),如多媒體數(shù)據(jù)搜索、團(tuán)購(gòu)網(wǎng)站信息聚合等.應(yīng)用的成功,取決于查詢多數(shù)據(jù)源的效率和效果,當(dāng)前研究側(cè)重查詢與
    發(fā)表于 12-29 10:55 ?0次下載
    基于元組水平對(duì)<b class='flag-5'>數(shù)據(jù)源</b>進(jìn)行分層抽樣

    基于LDA主題模型進(jìn)行數(shù)據(jù)源選擇方法

    聯(lián)邦搜索是從大規(guī)模深層網(wǎng)上獲取信息的一種重要技術(shù)。給定一個(gè)用戶查詢,聯(lián)邦搜索系統(tǒng)需要解決的一個(gè)主要問(wèn)題是數(shù)據(jù)源選擇問(wèn)題,即從海量數(shù)據(jù)源中選出一組最有可能返回相關(guān)結(jié)果的數(shù)據(jù)源?,F(xiàn)有的數(shù)據(jù)源
    發(fā)表于 01-04 15:00 ?0次下載
    基于LDA主題模型進(jìn)行<b class='flag-5'>數(shù)據(jù)源</b>選擇方法

    Deep Web數(shù)據(jù)源選擇和集成方法

    針對(duì)基于數(shù)據(jù)源質(zhì)量選擇方法的數(shù)據(jù)源數(shù)據(jù)爬取時(shí)存在代價(jià)大、重復(fù)率高的問(wèn)題,提出一種結(jié)合兩層選擇模型的Deep Web數(shù)據(jù)源選擇和集成方法。該方法根據(jù)
    發(fā)表于 02-09 15:24 ?0次下載
    Deep Web<b class='flag-5'>數(shù)據(jù)源</b>選擇和集成方法

    數(shù)據(jù)倉(cāng)庫(kù)入門之創(chuàng)建數(shù)據(jù)源

    首先需要?jiǎng)?chuàng)建一個(gè)數(shù)據(jù)源,SSAS(分析服務(wù))將利用數(shù)據(jù)源來(lái)連接數(shù)據(jù)庫(kù)。一、準(zhǔn)備環(huán)境二、啟動(dòng)SSDT,新建項(xiàng)目三、創(chuàng)建數(shù)據(jù)源
    發(fā)表于 02-24 14:48 ?2541次閱讀
    <b class='flag-5'>數(shù)據(jù)</b>倉(cāng)庫(kù)入門之創(chuàng)建<b class='flag-5'>數(shù)據(jù)源</b>

    Quick BI 支持多種數(shù)據(jù)源進(jìn)行多維分析

    Quick?BI?支持多種數(shù)據(jù)源進(jìn)行多維分析 一、摘要 隨著互聯(lián)網(wǎng)的高速發(fā)展,數(shù)據(jù)量爆發(fā)式增長(zhǎng)的同時(shí),數(shù)據(jù)的存儲(chǔ)形式也開始呈現(xiàn)出多樣性,有結(jié)構(gòu)化存儲(chǔ),如?Mysql, Oracle
    發(fā)表于 12-27 16:45 ?375次閱讀
    Quick BI <b class='flag-5'>支持</b><b class='flag-5'>多種數(shù)據(jù)源</b>進(jìn)行多維分析

    SpringBoot多數(shù)據(jù)源及事務(wù)解決方案

    當(dāng)Spring容器創(chuàng)建AbstractRoutingDataSource對(duì)象時(shí),通過(guò)調(diào)用afterPropertiesSet復(fù)制上述目標(biāo)數(shù)據(jù)源。由此可見,一旦數(shù)據(jù)源實(shí)例對(duì)象創(chuàng)建完畢,業(yè)務(wù)無(wú)法再添加新的數(shù)據(jù)源。
    的頭像 發(fā)表于 04-12 11:22 ?2254次閱讀

    數(shù)據(jù)源數(shù)據(jù)轉(zhuǎn)換和同步的ETL工具推薦

    多種數(shù)據(jù)源的連接,包括文件系統(tǒng)、數(shù)據(jù)庫(kù)、消息隊(duì)列、網(wǎng)絡(luò)接口等。它提供了可視化的界面和強(qiáng)大的數(shù)據(jù)處理功能,可以輕松地創(chuàng)建數(shù)據(jù)流,進(jìn)行
    的頭像 發(fā)表于 07-28 16:32 ?1115次閱讀

    weblogic修改數(shù)據(jù)源需要重啟嗎

    WebLogic是一款支持Java EE(Java Enterprise Edition)規(guī)范的應(yīng)用服務(wù)器,通過(guò)WebLogic可進(jìn)行數(shù)據(jù)源的配置和管理。在WebLogic中修改數(shù)據(jù)源是否需要重啟
    的頭像 發(fā)表于 12-05 16:09 ?1452次閱讀