資料介紹
攜程實時用戶行為服務(wù)作為基礎(chǔ)服務(wù),目前普遍應(yīng)用在多個場景中,比如猜你喜歡(攜程的推薦系統(tǒng))、動態(tài)廣告、用戶畫像、瀏覽歷史等等。
以猜你喜歡為例,猜你喜歡為應(yīng)用內(nèi)用戶提供潛在選項,提高成交效率。旅行是一項綜合性的需求,用戶往往需要不止一個產(chǎn)品。作為一站式的旅游服務(wù)平臺,跨業(yè)務(wù)線的推薦,特別是實時推薦,能實際滿足用戶的需求,因此在上游提供打通各業(yè)務(wù)線之間的用戶行為數(shù)據(jù)有很大的必要性。
攜程原有的實時用戶行為系統(tǒng)存在一些問題,包括:1)數(shù)據(jù)覆蓋不全;2)數(shù)據(jù)輸出沒有統(tǒng)一格式,對眾多使用方提高了接入成本;3)日志處理模塊是Web Service,比較難支持多種數(shù)據(jù)處理策略和實現(xiàn)方便擴(kuò)容應(yīng)對流量洪峰的需求等。
而近幾年旅游市場高速增長,數(shù)據(jù)量越來越大,并且會持續(xù)快速增長。有越來越多的使用需求,對系統(tǒng)的實時性,穩(wěn)定性也提出了更高的要求。總的來說,當(dāng)前需求對系統(tǒng)的實時性/可用性/性能/擴(kuò)展性方面都有很高的要求。
一、架構(gòu)
這樣的背景下,我們按照如下結(jié)構(gòu)重新設(shè)計了系統(tǒng):
圖1 實時用戶行為系統(tǒng)邏輯視圖
新的架構(gòu)下,數(shù)據(jù)有兩種流向,分別是處理流和輸出流。
在處理流,行為日志會從客戶端(App/Online/H5)上傳到服務(wù)端的Collector Service。Collector Service將消息發(fā)送到分布式隊列。數(shù)據(jù)處理模塊由流計算框架完成,從分布式隊列讀出數(shù)據(jù),處理之后把數(shù)據(jù)寫入數(shù)據(jù)層,由分布式緩存和數(shù)據(jù)庫集群組成。
輸出流相對簡單,Web Service的后臺會從數(shù)據(jù)層拉取數(shù)據(jù),并輸出給調(diào)用方,有的是內(nèi)部服務(wù)調(diào)用,比如推薦系統(tǒng),也有的是輸出到前臺,比如瀏覽歷史。系統(tǒng)實現(xiàn)采用的是Java+Kafka+Storm+Redis+MySQL+Tomcat+Spring的技術(shù)棧。
Java:目前公司內(nèi)部Java化的氛圍比較濃厚,并且Java有比較成熟的大數(shù)據(jù)組件
Kafka/Storm:Kafka作為分布式消息隊列已經(jīng)在公司有比較成熟的應(yīng)用,流計算框架Storm也已經(jīng)落地,并且有比較好的運(yùn)維支持環(huán)境。
Redis: Redis的HA,SortedSet和過期等特性比較好地滿足了系統(tǒng)的需求。
MySQL: 作為基礎(chǔ)系統(tǒng),穩(wěn)定性和性能也是系統(tǒng)的兩大指標(biāo),對比NoSQL的主要選項,比如HBase和ElasticSearch,十億數(shù)據(jù)級別上MySQL在這兩方面有更好的表現(xiàn),并且經(jīng)過設(shè)計能夠有不錯的水平擴(kuò)展能力。
目前系統(tǒng)每天處理20億左右的數(shù)據(jù)量,數(shù)據(jù)從上線到可用的時間在300毫秒左右。查詢服務(wù)每天服務(wù)8000萬左右的請求,平均延遲在6毫秒左右。下面從實時性/可用性/性能/部署幾個維度來說明系統(tǒng)的設(shè)計。
- DSP硬實時操作系統(tǒng)用戶手冊下載 30次下載
- 基于分布式仿真系統(tǒng)的實時通訊架構(gòu) 11次下載
- 社交網(wǎng)絡(luò)水軍用戶的動態(tài)行為分析綜述 11次下載
- 基于用戶窗口行為的內(nèi)部威脅異常檢測 5次下載
- 微服務(wù)架構(gòu)下圖規(guī)劃算法的改進(jìn)方法 5次下載
- 用于網(wǎng)絡(luò)用戶行為聚類分析的簇標(biāo)簽自動生成方法 15次下載
- 考慮服務(wù)行為特征的服務(wù)動態(tài)行為生長演化模型 0次下載
- 基于VMware的云計算平臺下異常行為檢測技術(shù)架構(gòu) 0次下載
- 基于用戶行為偏好的服務(wù)選擇策略 0次下載
- 基于用戶行為模式的電力需求建模設(shè)計 3次下載
- 實時用戶行為服務(wù)系統(tǒng)架構(gòu)實踐 0次下載
- 嵌入式實時操作系統(tǒng)原理與最佳實踐 178次下載
- 基于用戶瀏覽行為的個性化網(wǎng)頁推薦
- 基于B S架構(gòu)GPS手機(jī)實時追蹤系統(tǒng)的研究
- 基于類Markov鏈的用戶瀏覽行為預(yù)測方法
- 如何搭建微服務(wù)架構(gòu)的全局圖景 384次閱讀
- 深入探討微服務(wù)和事件驅(qū)動架構(gòu)區(qū)別 436次閱讀
- SpringCloud微服務(wù)架構(gòu):實現(xiàn)分布式系統(tǒng)的無縫協(xié)作 614次閱讀
- OpenHarmony上使用服務(wù)卡片 457次閱讀
- 釋放微服務(wù)架構(gòu)全部潛力的關(guān)鍵 473次閱讀
- 微服務(wù)架構(gòu)中的數(shù)據(jù)一致性解決方案與實踐 401次閱讀
- SOA面向服務(wù)架構(gòu)介紹 1180次閱讀
- 微服務(wù)架構(gòu)的特點_微服務(wù)架構(gòu)適用場景 4920次閱讀
- 邏輯架構(gòu)模型開發(fā)概念原則詳解 4529次閱讀
- AI行為分析+智慧校園應(yīng)用方案 1.3w次閱讀
- 什么是無服務(wù)器?無服務(wù)器架構(gòu)的安全需要注意什么 3469次閱讀
- 什么是微服務(wù)架構(gòu)_微服務(wù)架構(gòu)的優(yōu)缺點及應(yīng)用 1.7w次閱讀
- 微服務(wù)架構(gòu)與實踐基礎(chǔ)篇 4161次閱讀
- ICC即時連接理念 如何構(gòu)建ITS實時服務(wù)模式 3076次閱讀
- 雙核實時系統(tǒng)的架構(gòu)是如何設(shè)計的? 2753次閱讀
下載排行
本周
- 1電子電路原理第七版PDF電子教材免費(fèi)下載
- 0.00 MB | 1491次下載 | 免費(fèi)
- 2單片機(jī)典型實例介紹
- 18.19 MB | 95次下載 | 1 積分
- 3S7-200PLC編程實例詳細(xì)資料
- 1.17 MB | 27次下載 | 1 積分
- 4筆記本電腦主板的元件識別和講解說明
- 4.28 MB | 18次下載 | 4 積分
- 5開關(guān)電源原理及各功能電路詳解
- 0.38 MB | 11次下載 | 免費(fèi)
- 6100W短波放大電路圖
- 0.05 MB | 4次下載 | 3 積分
- 7基于單片機(jī)和 SG3525的程控開關(guān)電源設(shè)計
- 0.23 MB | 4次下載 | 免費(fèi)
- 8基于AT89C2051/4051單片機(jī)編程器的實驗
- 0.11 MB | 4次下載 | 免費(fèi)
本月
- 1OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234313次下載 | 免費(fèi)
- 2PADS 9.0 2009最新版 -下載
- 0.00 MB | 66304次下載 | 免費(fèi)
- 3protel99下載protel99軟件下載(中文版)
- 0.00 MB | 51209次下載 | 免費(fèi)
- 4LabView 8.0 專業(yè)版下載 (3CD完整版)
- 0.00 MB | 51043次下載 | 免費(fèi)
- 5555集成電路應(yīng)用800例(新編版)
- 0.00 MB | 33562次下載 | 免費(fèi)
- 6接口電路圖大全
- 未知 | 30320次下載 | 免費(fèi)
- 7Multisim 10下載Multisim 10 中文版
- 0.00 MB | 28588次下載 | 免費(fèi)
- 8開關(guān)電源設(shè)計實例指南
- 未知 | 21539次下載 | 免費(fèi)
總榜
- 1matlab軟件下載入口
- 未知 | 935053次下載 | 免費(fèi)
- 2protel99se軟件下載(可英文版轉(zhuǎn)中文版)
- 78.1 MB | 537793次下載 | 免費(fèi)
- 3MATLAB 7.1 下載 (含軟件介紹)
- 未知 | 420026次下載 | 免費(fèi)
- 4OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234313次下載 | 免費(fèi)
- 5Altium DXP2002下載入口
- 未知 | 233046次下載 | 免費(fèi)
- 6電路仿真軟件multisim 10.0免費(fèi)下載
- 340992 | 191183次下載 | 免費(fèi)
- 7十天學(xué)會AVR單片機(jī)與C語言視頻教程 下載
- 158M | 183277次下載 | 免費(fèi)
- 8proe5.0野火版下載(中文版免費(fèi)下載)
- 未知 | 138039次下載 | 免費(fèi)
評論
查看更多