基金海量交換數(shù)據(jù)平臺(tái)方案
海量數(shù)據(jù)實(shí)時(shí)采集、 實(shí)時(shí)分析準(zhǔn)實(shí)時(shí)接收所有基金公司上傳數(shù)據(jù), 基于東方國(guó)信Hadoop發(fā)行版BEH構(gòu)建行業(yè)級(jí)海量交換數(shù)據(jù)平臺(tái)和大數(shù)據(jù)基礎(chǔ)平臺(tái), 具備海量數(shù)據(jù)準(zhǔn)實(shí)時(shí)接收、存儲(chǔ)和處理能力,提供準(zhǔn)實(shí)時(shí)決策支持能力。
海量交換數(shù)據(jù)平臺(tái)具有數(shù)據(jù)來源較多,數(shù)據(jù)文件格式多樣性, 文件大小分布廣泛,數(shù)據(jù)來源質(zhì)量參差不齊, 海量數(shù)據(jù)文件不定時(shí)發(fā)送等特點(diǎn)。其每天接收近50萬個(gè)數(shù)據(jù)文件, 需要對(duì)所有文件做到實(shí)時(shí)偵測(cè),實(shí)時(shí)接收,實(shí)時(shí)校驗(yàn),實(shí)時(shí)入庫。 對(duì)于大型基金公司會(huì)存在單公司上傳數(shù)十GB數(shù)據(jù)文件的情況, 本系統(tǒng)可以做到半小時(shí)內(nèi)校驗(yàn)入庫。平臺(tái)對(duì)所有文件統(tǒng)一管理, 實(shí)時(shí)監(jiān)控,對(duì)重點(diǎn)數(shù)據(jù)文件做到及時(shí)預(yù)警。 平臺(tái)提供準(zhǔn)實(shí)時(shí)數(shù)據(jù)處理,為各業(yè)務(wù)系統(tǒng)提供基礎(chǔ)數(shù)據(jù); 關(guān)鍵業(yè)務(wù)實(shí)時(shí)查詢,為業(yè)務(wù)系統(tǒng)提供精準(zhǔn)數(shù)據(jù)支持; 為上游數(shù)據(jù)提供實(shí)時(shí)數(shù)據(jù)支持及準(zhǔn)實(shí)時(shí)數(shù)據(jù)核對(duì)匯總服務(wù)。
海量交換數(shù)據(jù)平臺(tái)包含海量數(shù)據(jù)文件準(zhǔn)實(shí)時(shí)采集、 海量數(shù)據(jù)數(shù)據(jù)存儲(chǔ)和數(shù)據(jù)分析等幾個(gè)模塊,全部采用了東方國(guó)信BEH產(chǎn)品實(shí)現(xiàn), 并在此基礎(chǔ)上構(gòu)建了統(tǒng)一的監(jiān)控管理系統(tǒng)。海量交換數(shù)據(jù)平臺(tái)邏輯架構(gòu)圖如下圖所示:
構(gòu)建了全行業(yè)的大數(shù)據(jù)基礎(chǔ)平臺(tái),實(shí)現(xiàn)數(shù)據(jù)實(shí)時(shí)采集、 實(shí)時(shí)分析,基于統(tǒng)一數(shù)據(jù)提供數(shù)據(jù)核對(duì)、數(shù)據(jù)校驗(yàn)和數(shù)據(jù)分析功能, 大大提升了客戶的業(yè)務(wù)處理能力;
從數(shù)據(jù)采集處理,到基于全行業(yè)數(shù)據(jù)的分析, 大數(shù)據(jù)平臺(tái)提供了比傳統(tǒng)手段更高效的處理能力, 大大提升了業(yè)務(wù)人員的使用體驗(yàn),進(jìn)一步提升了客戶的整體業(yè)務(wù)水平。
客戶案例
中國(guó)證券登記結(jié)算有限責(zé)任公司