一種面向MapReduce的中間數(shù)據(jù)傳輸流水線(xiàn)優(yōu)化機(jī)制
資料介紹
Mapreduce是一種適用于大數(shù)據(jù)處理的重要并行計(jì)算框架,通過(guò)在大量集群節(jié)點(diǎn)上并行執(zhí)行多個(gè)任務(wù),極大地提高了數(shù)據(jù)的處理性能。然而,由于中間數(shù)據(jù)需要等到 Mapper任務(wù)完成之后才能被發(fā)送給 Reducer任務(wù),由此導(dǎo)致的大量傳輸延遲成為 Mapreduce框架性能的重要瓶頸。為此,文中提出了一種面向 Mapreduce的中間數(shù)據(jù)傳輸流水線(xiàn)優(yōu)化機(jī)制,將有效計(jì)算與中間數(shù)據(jù)傳輸解耦,以流水線(xiàn)的方式重疊執(zhí)行各個(gè)階段,有效隱藏?cái)?shù)據(jù)傳輸開(kāi)銷(xiāo)。文中還給岀了中間數(shù)據(jù)傳輸流水線(xiàn)執(zhí)行機(jī)制和實(shí)現(xiàn)策略,包括流水線(xiàn)劃分、數(shù)據(jù)細(xì)分、數(shù)據(jù)歸并和數(shù)據(jù)傳輸粒度等。在公開(kāi)數(shù)據(jù)集上對(duì)所提中間數(shù)據(jù)傳輸流水線(xiàn)優(yōu)化機(jī)制進(jìn)行了評(píng)價(jià),當(dāng) Shuffle數(shù)據(jù)量較大時(shí),該優(yōu)化機(jī)制比默認(rèn)框架的整體性能提高了60.2%。
- 嵌入式_流水線(xiàn)
- 使用FPGA設(shè)計(jì)流水線(xiàn)的資料和程序詳細(xì)概述 3次下載
- 關(guān)于ARM流水線(xiàn)的資料和分析 5次下載
- 一種基于混合社區(qū)的移動(dòng)機(jī)會(huì)網(wǎng)絡(luò)數(shù)據(jù)傳輸機(jī)制 0次下載
- DSP設(shè)計(jì)中的流水線(xiàn)數(shù)據(jù)相關(guān)問(wèn)題解析 0次下載
- 一種基于雙層總線(xiàn)架構(gòu)的數(shù)據(jù)傳輸方案_陳瑾 0次下載
- 一種系統(tǒng)化流水線(xiàn)控制方法_章其富 0次下載
- 一種基于流水線(xiàn)DA算法的數(shù)字下變頻器_周云 2次下載
- 一種針對(duì)可重構(gòu)處理器流水線(xiàn)簡(jiǎn)化編程的設(shè)計(jì)范式 0次下載
- 一種改進(jìn)運(yùn)放共享結(jié)構(gòu)的11位流水線(xiàn)ADC設(shè)計(jì) 3次下載
- 一種基于40nmCMOS工藝12位60MHz流水線(xiàn)模數(shù)轉(zhuǎn)換器 3次下載
- 電鍍流水線(xiàn)的PLC控制 36次下載
- 一種流水線(xiàn)存儲(chǔ)的數(shù)據(jù)采集系統(tǒng) 36次下載
- 基于消息中間件的農(nóng)電數(shù)據(jù)傳輸系統(tǒng)
- 一種流水線(xiàn)結(jié)構(gòu)AD轉(zhuǎn)換器的速度分析方法
- 以太網(wǎng)接口的數(shù)據(jù)傳輸原理詳解 945次閱讀
- 新版本Jenkins推薦使用聲明式流水線(xiàn) 604次閱讀
- Google GPipe為代表的流水線(xiàn)并行范式 891次閱讀
- 一個(gè)典型的流水線(xiàn)設(shè)計(jì) 1095次閱讀
- 報(bào)文解析規(guī)則定義 流水線(xiàn)劃分提取方案 809次閱讀
- CPU流水線(xiàn)優(yōu)缺點(diǎn) 3912次閱讀
- 一文詳細(xì)了解流水線(xiàn)設(shè)計(jì) 4610次閱讀
- FPGA中流水線(xiàn)的原因和方式 5710次閱讀
- IEEE802.15.4協(xié)議的數(shù)據(jù)傳輸模型解析 3844次閱讀
- 流水線(xiàn)設(shè)計(jì)的思想介紹與設(shè)計(jì)實(shí)例 7896次閱讀
- 差分數(shù)據(jù)傳輸有什么優(yōu)勢(shì)? 1w次閱讀
- 新專(zhuān)利介紹--一種基于超聲波測(cè)量和GPRS數(shù)據(jù)傳輸的水表系統(tǒng) 1087次閱讀
- 淺談GPU的渲染流水線(xiàn)實(shí)現(xiàn) 3757次閱讀
- DMA數(shù)據(jù)傳輸(源代碼分享) 8943次閱讀
- 一文讀懂處理器流水線(xiàn) 2.2w次閱讀
下載排行
本周
- 1電子電路原理第七版PDF電子教材免費(fèi)下載
- 0.00 MB | 1489次下載 | 免費(fèi)
- 2單片機(jī)典型實(shí)例介紹
- 18.19 MB | 91次下載 | 1 積分
- 3S7-200PLC編程實(shí)例詳細(xì)資料
- 1.17 MB | 27次下載 | 1 積分
- 4筆記本電腦主板的元件識(shí)別和講解說(shuō)明
- 4.28 MB | 18次下載 | 4 積分
- 5開(kāi)關(guān)電源原理及各功能電路詳解
- 0.38 MB | 9次下載 | 免費(fèi)
- 6基于AT89C2051/4051單片機(jī)編程器的實(shí)驗(yàn)
- 0.11 MB | 4次下載 | 免費(fèi)
- 7基于單片機(jī)和 SG3525的程控開(kāi)關(guān)電源設(shè)計(jì)
- 0.23 MB | 3次下載 | 免費(fèi)
- 8基于單片機(jī)的紅外風(fēng)扇遙控
- 0.23 MB | 3次下載 | 免費(fèi)
本月
- 1OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234313次下載 | 免費(fèi)
- 2PADS 9.0 2009最新版 -下載
- 0.00 MB | 66304次下載 | 免費(fèi)
- 3protel99下載protel99軟件下載(中文版)
- 0.00 MB | 51209次下載 | 免費(fèi)
- 4LabView 8.0 專(zhuān)業(yè)版下載 (3CD完整版)
- 0.00 MB | 51043次下載 | 免費(fèi)
- 5555集成電路應(yīng)用800例(新編版)
- 0.00 MB | 33562次下載 | 免費(fèi)
- 6接口電路圖大全
- 未知 | 30319次下載 | 免費(fèi)
- 7Multisim 10下載Multisim 10 中文版
- 0.00 MB | 28588次下載 | 免費(fèi)
- 8開(kāi)關(guān)電源設(shè)計(jì)實(shí)例指南
- 未知 | 21539次下載 | 免費(fèi)
總榜
- 1matlab軟件下載入口
- 未知 | 935053次下載 | 免費(fèi)
- 2protel99se軟件下載(可英文版轉(zhuǎn)中文版)
- 78.1 MB | 537791次下載 | 免費(fèi)
- 3MATLAB 7.1 下載 (含軟件介紹)
- 未知 | 420026次下載 | 免費(fèi)
- 4OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234313次下載 | 免費(fèi)
- 5Altium DXP2002下載入口
- 未知 | 233045次下載 | 免費(fèi)
- 6電路仿真軟件multisim 10.0免費(fèi)下載
- 340992 | 191183次下載 | 免費(fèi)
- 7十天學(xué)會(huì)AVR單片機(jī)與C語(yǔ)言視頻教程 下載
- 158M | 183277次下載 | 免費(fèi)
- 8proe5.0野火版下載(中文版免費(fèi)下載)
- 未知 | 138039次下載 | 免費(fèi)
評(píng)論
查看更多