0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

大數(shù)據(jù)技術(shù)概念解析

我快閉嘴 ? 來源: 山西區(qū)塊鏈技術(shù)中心 ? 作者:山西區(qū)塊鏈技術(shù)中 ? 2020-10-20 11:48 ? 次閱讀

大數(shù)據(jù)技術(shù)當(dāng)中,在海量數(shù)據(jù)的存儲環(huán)節(jié),涉及到兩個重要的概念,就是分布式數(shù)據(jù)存儲與數(shù)據(jù)庫,穩(wěn)定高效安全的數(shù)據(jù)存儲,才能為后續(xù)的計算分析環(huán)節(jié),提供穩(wěn)固的支持。今天的大數(shù)據(jù)概念解析,我們來講講分布式存儲與數(shù)據(jù)庫。

進入大數(shù)據(jù)時代,數(shù)據(jù)特征發(fā)生了明顯的變化,數(shù)據(jù)規(guī)模大、非結(jié)構(gòu)化/半結(jié)構(gòu)化的數(shù)據(jù)多,使得大數(shù)據(jù)存儲本身也需要克服很多的問題。要實現(xiàn)大規(guī)模數(shù)據(jù)的計算分析加工等問題,對于企業(yè)而言,需要通過各種手段來解決相關(guān)的問題,比如說通過優(yōu)化存儲基礎(chǔ)設(shè)施,或者搭建高性能的大數(shù)據(jù)存儲框架等等。海量數(shù)據(jù)的存儲任務(wù),針對于不同的應(yīng)用場景,往往需要因地制宜地選擇存儲方案,因此有了對象存儲、塊存儲、文件系統(tǒng)存儲等。

分布式文件/對象存儲系統(tǒng)

分布式存儲系統(tǒng)面向海量數(shù)據(jù)的存儲訪問與共享需求,提供基于多存儲節(jié)點的高性能,高可靠和可伸縮性的數(shù)據(jù)存儲和訪問能力,實現(xiàn)分布式存儲節(jié)點上多用戶的訪問共享。目前業(yè)界比較流行的分布式存儲系統(tǒng)包括:HDFS、OpenStack Swift、Ceph、GlusterFS、Lustre、AFS、OSS等。

分布式關(guān)系型數(shù)據(jù)庫

關(guān)系型數(shù)據(jù)庫是建立在關(guān)系模型基礎(chǔ)上的數(shù)據(jù)庫,借助于集合代數(shù)等數(shù)學(xué)概念和方法來處理數(shù)據(jù)庫中的數(shù)據(jù)。目前業(yè)界比較流行的分布式關(guān)系型數(shù)據(jù)庫包括:DRDS、TiDB、GreenPlum、Cobar、Aurora、Mycat等。

分析型數(shù)據(jù)庫

分析數(shù)據(jù)庫是面向分析應(yīng)用的數(shù)據(jù)庫,與傳統(tǒng)的數(shù)據(jù)庫不同,它可以對數(shù)據(jù)進行在線統(tǒng)計、數(shù)據(jù)在線分析、隨即查詢等發(fā)掘信息數(shù)據(jù)價值的工作。目前業(yè)界比較流行的分析型數(shù)據(jù)庫包括:Kylin、AnalyticDB、Druid、Clickhouse、Vertica、MonetDB、InfiniDB、LucidDB等。

圖數(shù)據(jù)庫

圖數(shù)據(jù)庫的基本含義是以“圖”這種數(shù)據(jù)結(jié)構(gòu)存儲和查詢數(shù)據(jù),而不是存儲圖片的數(shù)據(jù)庫。目前業(yè)界比較流行的圖數(shù)據(jù)庫包括:Titan、Neo4J、ArangoDB、OrientDB、MapGraph、ALLEGROGRAPH等。

列存儲數(shù)據(jù)庫

列式數(shù)據(jù)庫是以列相關(guān)存儲架構(gòu)進行數(shù)據(jù)存儲的數(shù)據(jù)庫,主要適合于批量數(shù)據(jù)處理和即時查詢。目前業(yè)界比較流行的列存儲數(shù)據(jù)庫包括:Phoenix、Cassandra、Hbase、Kudu、Hypertable等。

文檔數(shù)據(jù)庫

文檔型數(shù)據(jù)庫是NoSQL中非常重要的一個分支,它主要用來存儲、索引并管理面向文檔的數(shù)據(jù)或者類似的半結(jié)構(gòu)化數(shù)據(jù)。目前業(yè)界比較流行的文檔型數(shù)據(jù)庫包括:MongoDb、CouchDB、OrientDB、MarkLogic等。

鍵值存儲數(shù)據(jù)庫

鍵值存儲(Key-Value)是NoSQL中,數(shù)據(jù)模型中比較簡單的一個了,主要就是用哈希表,通過對于鍵(Key)的查找來找到特定的數(shù)據(jù)。目前業(yè)界比較流行的鍵值存儲數(shù)據(jù)庫包括:Redis、Memcached、Tair等。關(guān)于大數(shù)據(jù)概念解析,分布式存儲與數(shù)據(jù)庫,以上就為大家做了一個簡單的介紹了。大數(shù)據(jù)存儲環(huán)節(jié),涉及到分布式與數(shù)據(jù)庫,是需要重點去掌握的一部分,對于主流的技術(shù)架構(gòu)也需要有相應(yīng)程度的掌握。

目前業(yè)界比較流行的鍵值存儲數(shù)據(jù)庫包括:Redis、Memcached、Tair等。

關(guān)于大數(shù)據(jù)概念解析,分布式存儲與數(shù)據(jù)庫,以上就為大家做了一個簡單的介紹了。大數(shù)據(jù)存儲環(huán)節(jié),涉及到分布式與數(shù)據(jù)庫,是需要重點去掌握的一部分,對于主流的技術(shù)架構(gòu)也需要有相應(yīng)程度的掌握。
責(zé)任編輯:tzh

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 存儲
    +關(guān)注

    關(guān)注

    13

    文章

    4314

    瀏覽量

    85854
  • 大數(shù)據(jù)
    +關(guān)注

    關(guān)注

    64

    文章

    8890

    瀏覽量

    137449
收藏 人收藏

    評論

    相關(guān)推薦

    緩存對大數(shù)據(jù)處理的影響分析

    緩存對大數(shù)據(jù)處理的影響顯著且重要,主要體現(xiàn)在以下幾個方面: 一、提高數(shù)據(jù)訪問速度 在大數(shù)據(jù)環(huán)境中,數(shù)據(jù)存儲通常采用分布式存儲系統(tǒng),數(shù)據(jù)量龐大
    的頭像 發(fā)表于 12-18 09:45 ?137次閱讀

    ADS1675最大數(shù)據(jù)吞吐率是是多少?

    ADS1675 24bit的ADC的采樣率最大是4Msps,請問這款adc的最大數(shù)據(jù)吞吐率是是多少?怎么算的,在datasheet中有明確寫出來嗎
    發(fā)表于 11-28 07:56

    VLAN 概念解析及使用場景

    1. VLAN 概念解析 VLAN(Virtual Local Area Network,虛擬局域網(wǎng))是一種在交換網(wǎng)絡(luò)中劃分不同廣播域的技術(shù)。VLAN 的主要目的是將一個物理局域網(wǎng)劃分成多個邏輯
    的頭像 發(fā)表于 11-19 09:33 ?630次閱讀

    raid 在大數(shù)據(jù)分析中的應(yīng)用

    的具體應(yīng)用: 一、提高性能 并行讀寫 :RAID技術(shù)通過并行讀寫多個磁盤,可以顯著提高數(shù)據(jù)的讀寫速度。在大數(shù)據(jù)分析環(huán)境中,數(shù)據(jù)讀寫速度是影響分析效率的關(guān)鍵因素之一。RAID 0(條帶化
    的頭像 發(fā)表于 11-12 09:44 ?251次閱讀

    emc技術(shù)大數(shù)據(jù)分析中的角色

    大數(shù)據(jù)分析通常涉及來自多個來源和格式的數(shù)據(jù)。這些數(shù)據(jù)可能包括結(jié)構(gòu)化數(shù)據(jù)(如數(shù)據(jù)庫中的表格數(shù)據(jù)
    的頭像 發(fā)表于 11-01 15:22 ?285次閱讀

    智慧城市與大數(shù)據(jù)的關(guān)系

    智慧城市與大數(shù)據(jù)之間存在著密切的關(guān)系,這種關(guān)系體現(xiàn)在大數(shù)據(jù)對智慧城市建設(shè)的支撐和推動作用,以及智慧城市產(chǎn)生的大量數(shù)據(jù)大數(shù)據(jù)技術(shù)的應(yīng)用需求。
    的頭像 發(fā)表于 10-24 15:27 ?675次閱讀

    梯云物聯(lián) 智慧電梯數(shù)據(jù)先行:電梯大數(shù)據(jù)平臺構(gòu)建安全生態(tài)

    在現(xiàn)代化城市的摩天大樓中,電梯作為垂直交通的動脈,其安全性與效率直接關(guān)系到居民的生活質(zhì)量和社會運行的順暢。隨著物聯(lián)網(wǎng)、大數(shù)據(jù)、云計算等技術(shù)的飛速發(fā)展,智慧電梯的概念應(yīng)運而生,而梯云物聯(lián)電梯大數(shù)
    的頭像 發(fā)表于 08-23 09:57 ?393次閱讀

    使用CYW20829的BLE進行最大數(shù)據(jù)發(fā)送應(yīng)用,BLE丟失數(shù)據(jù)如何解決?

    我目前正在使用 CYW20829 的 BLE 進行最大數(shù)據(jù)發(fā)送應(yīng)用,我使用的是 FREERTOS(例程 Bluetooth_LE_GATT_Throughput_Server 是我的參考),藍牙被
    發(fā)表于 07-23 07:56

    大數(shù)據(jù)在軍事方面的應(yīng)用

    決策支持:大數(shù)據(jù)技術(shù)為戰(zhàn)爭決策提供了全新的思路和工具。軍事機關(guān)指揮系統(tǒng)通過搜集和分析大量的戰(zhàn)場數(shù)據(jù),可以建立復(fù)雜的決策模型,快速分析敵我態(tài)勢,評估作戰(zhàn)可行性,并推薦最優(yōu)的戰(zhàn)術(shù)方案。這種基于
    的頭像 發(fā)表于 07-16 09:44 ?1081次閱讀

    大數(shù)據(jù)采集系統(tǒng)分為幾類

    和應(yīng)用場景. 1. 概述 大數(shù)據(jù)采集系統(tǒng)是實現(xiàn)數(shù)據(jù)收集、處理和存儲的關(guān)鍵環(huán)節(jié)。隨著大數(shù)據(jù)技術(shù)的快速發(fā)展,大數(shù)據(jù)采集系統(tǒng)也在不斷演進和創(chuàng)新。本
    的頭像 發(fā)表于 07-01 15:44 ?1537次閱讀

    大數(shù)據(jù)在軍事方面的應(yīng)用有哪些

    大數(shù)據(jù)技術(shù)為戰(zhàn)爭決策提供了全新的思路和工具。軍事機關(guān)指揮系統(tǒng)通過搜集和分析大量的戰(zhàn)場數(shù)據(jù),可以建立復(fù)雜的決策模型,快速分析敵我態(tài)勢,評估作戰(zhàn)可行性,并推薦最優(yōu)的戰(zhàn)術(shù)方案。 利用大數(shù)據(jù)
    的頭像 發(fā)表于 06-23 10:34 ?1033次閱讀

    CYBT-343026傳輸大數(shù)據(jù)時會丟數(shù)據(jù)的原因?

    我正在使用 CYBT-343026 (CYW-20706 Silicon) 模塊。 我根據(jù) SPP 樣本制作了一個操作 SPP 的應(yīng)用程序。 但是,傳輸大數(shù)據(jù)時有時會丟失數(shù)據(jù)。 它從
    發(fā)表于 03-01 15:04

    簡析大數(shù)據(jù)技術(shù)下智能充電樁在網(wǎng)絡(luò)系統(tǒng)中的應(yīng)用

    簡析大數(shù)據(jù)技術(shù)下智能充電樁在網(wǎng)絡(luò)系統(tǒng)中的應(yīng)用 張穎姣 安科瑞電氣股份有限公司?上海嘉定 201801 摘要:*近幾年來隨著我國經(jīng)濟社會的飛速發(fā)展,各方面實力都有了明顯的提升,尤其是步入21世紀以來
    的頭像 發(fā)表于 02-26 10:57 ?455次閱讀
    簡析<b class='flag-5'>大數(shù)據(jù)</b><b class='flag-5'>技術(shù)</b>下智能充電樁在網(wǎng)絡(luò)系統(tǒng)中的應(yīng)用

    多業(yè)務(wù)光端機:實現(xiàn)高速數(shù)據(jù)傳輸?shù)年P(guān)鍵技術(shù)解析

    隨著信息技術(shù)的迅猛發(fā)展,網(wǎng)絡(luò)傳輸速度的需求日益提高。在這樣的背景下,多業(yè)務(wù)光端機作為一種高速數(shù)據(jù)傳輸?shù)年P(guān)鍵設(shè)備,逐漸受到了業(yè)界的廣泛關(guān)注。本文將對多業(yè)務(wù)光端機的關(guān)鍵技術(shù)進行深入解析,以
    的頭像 發(fā)表于 02-23 14:10 ?597次閱讀

    大數(shù)據(jù)技術(shù)是干嘛的 大數(shù)據(jù)核心技術(shù)有哪些

    大數(shù)據(jù)技術(shù)是指用來處理和存儲海量、多類型、高速的數(shù)據(jù)的一系列技術(shù)和工具?,F(xiàn)如今,大數(shù)據(jù)已經(jīng)滲透到各個行業(yè)和領(lǐng)域,對企業(yè)決策和業(yè)務(wù)發(fā)展起到了重
    的頭像 發(fā)表于 01-31 11:07 ?3476次閱讀