作為國內融資最為火爆的領域之一，企業級SaaS市場吸引了眾多風投和創業者的關注。6月中旬，雅座正式對外宣布已獲得數億元人民幣C輪融資，由支付寶母公司螞蟻金服領投，再次引爆了整個國內SaaS市場。目前，雅座累計為超過15000家餐飲門店提供精準營 銷服務，而基于用戶交易和消費行為的數據分析是精準營 銷的核心，如何快速處理海量數據，進行多維度、低延時的統計分析、數據挖掘，對系統性能和可伸縮性提出了更高的挑戰。本文來自雅座CTO對其CRM技術的解密分享。
以下為原文：
一. CRM云服務的系統瓶頸
雅座CRM歷經9年的成長，累計為超過15000家餐飲門店提供精準營 銷服務，管理超過5000萬會員數據，日交易流水超百萬筆，年交易額達200億以上。
雅座提供專業的企業級SaaS云服務，對系統的安全性、穩定性、可靠性要求極高，這是企業的基本訴求。同時，基于用戶交易和消費行為的數據分析，是精準營 銷的核心，如何快速處理海量數據，進行多維度、低延時的統計分析、數據挖掘，對系統性能和可伸縮性提出了更高的挑戰。CRM的目標是數據營 銷，需要提供各種緯度的靈活的查詢分析。舉例來說，餐廳一個簡單的需求，希望根據消費時間、性別、消費金額篩選出目標客戶，隨著數據量增大，僅靠關系數據庫分庫分表和索引優化已經難以滿足企業的效率要求。高彈性、易擴展的大數據處理能力，在CRM云服務中日趨重要。
二. 雅座CRM系統架構
1. 目標客戶金字塔模型 一個餐廳的輻射范圍通常覆蓋周圍3公里，這個范圍內的常客為餐廳貢獻了80%以上的銷售額。此外還有一些臨時聚會，或手握超低價團購券的客人，這些客人并不能為餐廳帶來持續性消費，不斷的打折、跳樓價甚至可能會損害餐廳的正常經營，餐廳表面看似人頭攢動，但桌均消費大幅降低，服務員前廳后廚百米折返跑，服務不斷下降，最終導致把老顧客拒之門外。當餐廳經歷表面的繁榮，發現營業額并無增長，試圖提高價格時，圖便宜的客人一呼而散，餐廳則難以為繼。
因此，價格戰永遠不是一個好主意，管理好目標客戶并帶來持續性收入，才是一個健康的商業模式。雅座CRM通過用戶消費行為分析，將目標客戶鎖定在常客和忠誠客戶，降低企業營 銷推 廣成本的同時，提高營 銷活動的響應率，為餐廳帶來更高的利潤空間。所有這些用戶群體的標簽分類，依賴離線分析 + 在線分析引擎完成，為餐廳提供更準確、更及時的營 銷決策支持。
2. 業務架構
業務上，用戶通過POS消費的數據，上傳到CRM云端，一系列的數據處理分析后，系統為不同的餐廳提供特定的營 銷活動，將微信、短信、APP做為營 銷出口，和消費者產生互動，增加消費粘性，為餐廳帶來更多價值。
3. 技術架構
1)數據遷移
隨著IaaS和PaaS技術成熟，國內涌現出一批質量較高的云主機提供商。雅座選擇了其中的兩家，將自有數據中心遷移到了云主機上。遷移前，雅座的數據中心機柜緊張，原有機房擴容面臨很大問題，一方面業務增長很快，數據中心擴容的需求日益急迫;另一方面，在線業務7x24小時不間斷，無法停機維護做系統遷移。運維部制定了在線增量數據遷移方案，把數據庫、搜索引擎的數據掛到pgq上，啟動pgq生產者，將變化的數據寫入隊列。同時將數據復制到云主機上，復制完成后，啟動pgq消費者，從隊列讀取變化的數據增量更新。
2)高可用性
一個數據中心內，消除數據庫和應用服務的單點故障比較容易，但跨數據中心的高可用性，要考慮到網絡拓撲、延時或中斷、數據一致、處理效率等問題，比較繁瑣。我們建立雙活數據中心，不同數據中心分擔不同的業務。按照業務響應的優先級別劃分為兩類：交易相關的實時業務，不允許超過分鐘級中斷;CRM數據分析相關的準實時業務，不允許超過小時級中斷。主數據中心處理POS、微 信、安卓終端等在線交易實時相關的業務，災備數據中心處理CRM數據分析、定時任務、日志分析、Storm等準實時業務，通過pgq 和流復制各數據中心保持兩份完整的交易數據。當數據中心或網絡出現異常時，每一個數據中心所需的業務數據基本完整，此時有兩個選擇：a) 由一個數據中心全面接管所有業務。 b) 數據不同步，但各數據中心均可正常使用，異常解決后，繼續同步數據。按業務響應分級容災，可以更合理的利用雙活數據中心，根據不同的異常情況，自動或人工做出響應。
3)數據同步秒級延時
雅座CRM的技術特點是數據處理手段多樣化，為了滿足靈活快速檢索、統計分析、日常業務、讀寫分離等多種目的，交易數據會被同步到只讀庫、ES、Storm、GreenPlum數據倉庫，目前正在啟動Hadoop離線處理。衡量交易系統性能的關鍵指標是TPS和吞吐量，當TPS不斷提升時，每秒處理的數據量也會大幅增加，數據同步的效率就尤為關鍵。通過壓力測試和容量測試，可以計算出數據同步的效率是否符合要求。假設我們為10000家餐飲門店提供服務，單店高峰時段每小時100單，那么系統高峰期的吞吐量指標設定在1000筆/秒。為了滿足效率要求，并考慮容錯機制和可擴展性，我們設計了基于pgq的異步隊列。Skytools是skype公司開發的一款基于Postgres的消息套件，在skype內部廣泛使用，開發于2006年，2007年開源Skytools Framework，至今一直在使用和維護，使用場景如下：
l 異步數據傳輸
l ？ 數千隊列和消費者
l ？ 監控中心
Skytools包含三個組件：pgq、londiste、walmgr
pgq提供Python API，由異步處理機制去靈活調用。用于解決實時事務的異步批處理問題。
pgq由Producer、Ticker、Consumer組成，支持高可用部署。Producer將Events推送到Queue中，Ticker負責對批量Queue制定相應處理規則，Consumer從Queue中獲取Events。
基于pgq，雅座CRM設計和實現了協同消費者模式，當系統超負荷時，一鍵式注冊新的消費者，就可以實現多消費者協同處理，提升數據同步的效率。同時，根據負載水平和批大小，數據延時可以由Ticker動態調整。通過壓力測試，我們可以驗證部署方案是否滿足需要，調整線上消費者節點數量。目前，雅座CRM可以做到多數據源同步秒級延時、水平擴展。
4)實時分析
目前雅座CRM核心數據量達到10億級別，做為CRM云服務，靈活、高效的數據檢索必不可少。一般來說，根據業務時間采用分庫分表、歷史數據遷移的方案降低活躍數據量，提升查詢效率。但CRM系統跨年、連鎖跨門店查詢的需求比較普遍，分庫分表會在實現方案上增加較高的復雜度，同時無法滿足多種緯度的靈活查詢，難以擴展。當分庫分表后的數據量仍在一個較高的水平時，無法利用索引的全表掃描查詢效率會大幅下降。
雅座CRM采用了Elasticsearch做為解決方案。Elasticsearch是一個基于Lucene的開源、分布式搜索框架，基本包含所有所需的特性：分布式搜索、分布式索引、零配置、自動分片、索引自動負載、自動發現、多索引查詢，restful風格接口。它支持插件機制，有豐富的插件。比如和mongoDB、couchDB同步的river插件，分詞插件，hadoop插件，腳本支持插件等。同時ES還是個準實時的搜索引擎，索引后的數據可以實時搜索到。在ES的應用場景中，更多的是將其做為非結構化數據的存儲，通過性能測試和實驗，ES同樣適用于結構化數據的存儲和查詢。結合ES的分布式、分片、多索引聯合查詢的特性，雅座CRM將大數據量的隨機查詢效率提升了數十倍，達到秒級響應。
CRM的另一個技術特點是統計分析業務多，通過引入Storm流計算框架，將系統日志和pgq做為Storm數據源，結合業務特點，實現分級匯總的topology，我們將原有的T+1數據分析業務提升為實時計算，為企業提供更準確、及時的數據決策支持。
5)離線處理
離線處理主要是基于GreenPlum + 定時任務完成。Greenplum是基于postgresql的分布式數據庫。其采用shared nothing架構(MPP)，主機，操作系統，內存，存儲都是自我控制的，不存在共享。主要由master host，segment host，interconnect三大部分組成。配合合理的分片策略和部署方案，GP的效率可以提升十倍以上。雅座CRM將復雜、難以拆分的SQL操作移植到GP上，大數據量的統計分析效率得到了明顯提升。
6)SOA服務化
系統越復雜，耦合越緊密，可維護性和水平擴展越困難。雅座CRM業務覆蓋短信、微信、交易、數據分析、智能終端等多個子系統，對吞吐量、并發、穩定性的要求很高。原有系統中，各業務系統緊密耦合是一個整體，已經很難滿足水平擴展的要求。根據業務拆分系統，SOA服務化演變成系統升級的階段性目標。在SOA的實現上，雅座CRM選擇了Dubbo，Dubbo是一個分布式服務框架，致力于提供高性能和透明化的RPC遠程服務調用方案，以及SOA服務治理方案。其核心部分包含:
遠程通訊： 提供對基于長連接的NIO框架抽象封裝，包括多種線程模型，序列化，以及“請求-響應”模式的信息交換方式，比常規HTTP等短連接協議更快。
集群容錯： 提供基于接口方法的透明遠程過程調用，包括多協議支持，以及軟負載均衡，失敗容錯，地址路由，動態配置等集群支持。
自動發現： 基于注冊中心目錄服務，使服務消費方能動態的查找服務提供方，使地址透明，使服務提供方可以平滑增加或減少機器。
基礎業務上，雅座CRM在Dubbo服務框架上做了分布式緩存同步機制，保證用戶和權限及時刷新，為所有應用提供統一的用戶服務;運維部署上，實現了跨機房就近調用、高可用、監控的目的，也為系統持續集成打下了更好的基礎。
7)監控和預警
SaaS云服務對運維提出了更高的要求，因為雅座CRM系統服務的不僅是一個客戶，而是成千上萬的餐飲企業，系統每一次故障中斷，都可能引起餐廳的直接經濟損失，進而損害雅座的品牌形象。在雅座，系統穩定性被定義為最高優先級，是公司業務的基石，要在問題潛伏期提早發現，盡早解決。在運維環節，雅座自主開發和整合開源監控工具，7x24小時監控系統的各項性能指標，當性能指標超出伐值時，系統自動報警，通過短信、郵件及時通知運維中心，并做相應處理。
三. SaaS云服務的感悟
SaaS的出現，改變的不僅是軟件體系架構，更多是企業服務的思維方式。傳統軟件的商業模式中，我們提供的僅僅是應用程序，用戶去做運維、使用和學習，成本高、運維難、升級難、無服務、和用戶無溝通是所有企業軟件很難改變的現狀。在傳統軟件模式下，軟件開發商系統不斷升級換代，但老用戶卻無法從中受益。當用戶出現系統問題或使用問題時，軟件企業無法快速定位問題、解決問題。軟件企業不敢面對客戶，因為客戶始終不滿意，對系統不滿意，對服務不滿意，用戶在不斷的抱怨中忍受軟件系統帶來的各種“災難”。SaaS-軟件即服務，為我們帶來了新的思路，企業級市場中軟件+服務缺一不可。軟件的改變在云端，隨著快速迭代的開發模式，用戶不斷享受無感知的系統升級帶來的紅利，通過產品運營和服務體系，雅座將快速幫助餐飲企業解決各種問題，讓企業用戶用的放心、滿意。
京公網安備 11010502049343號