當前位置:
首頁 > 知識 > 直擊DTCC2019現場:資料庫智能化運維探索與實踐

直擊DTCC2019現場:資料庫智能化運維探索與實踐

【IT168資訊】5月10日,第十屆中國資料庫技術大會(DTCC2019)正在火熱進行中。作為本屆大會討論的焦點之一,「資料庫智能運維」專場人氣爆棚,來自京東物流、騰訊、位元組跳動、京東商城、便利峰的行業專家出席現場,他們就資料庫自動化運維、異地容災系統等熱點話題作出經驗分享。

京東物流超大規模倉儲系統資料庫集群大促保障秘訣

京東物流極速的購物體驗中,倉儲和配送時效是最為關鍵的一環。在電商行業中,京東物流擁有超強倉儲管理系統(簡稱WMS系統),涵蓋了從在庫、入庫、出庫等環節,特別是在電商行業中獨有的超大規模倉儲系統集群,在其中起到了決定性的作用。

直擊DTCC2019現場:資料庫智能化運維探索與實踐

打開今日頭條,查看更多圖片

▲京東物流資深DBA高文佳

高文佳對WMS系統做了詳細介紹,並針對資料庫運維提出了六點建議:敬畏生產環境,心存敬畏,方能行有所止;規範流程操作,拒絕人情「事故」;定期故障演練,做好緊急預案;高危操作+雙人確認,減少誤操作;主動運維+自動運維,避免緊急救火;開展培訓+積極溝通,將風險截留在開發階段。

TDSQL智能運維平台—扁鵲架構與實踐

作為一款金融級資料庫,TDSQL具備六大核心特性,包括數據強一致性、金融級高可用、高性能低成本、企業級安全性、線性水平擴展、智能化運維。TDSQL通過提供「赤兔」自助運營和「扁鵲」智能DBA徹底規避人為誤操作帶來的安全隱患。

直擊DTCC2019現場:資料庫智能化運維探索與實踐

▲騰訊金融雲T4專家雷海林

「赤兔」自助運營服務,可以從管理員視角,在可用性、安全、效率、成本維度進行全方位管控,90%的日常運營操作均可以通過Web頁面完成,減少人為差錯同時幫助金融用戶節約管理及經濟成本、降低風險。

雷海林介紹道,「扁鵲」智能DBA則具備故障預警、故障自動診斷、歷史事件剖析、優化建議、操作通過管理台自助化、降低DBA工作強度等特性,幫助金融用戶防範系統異常。

Canal的自動化運維以及異地容災系統實踐

傳統資料庫的運維方式,很難滿足大數據場景下的穩定性和高效性。Canal作為中間件解決了MySQL Binlog的獲取,將Binlog保存到消息隊列中,後續接流式計算框架,或者離線計算框架。

對此,位元組跳動對 Canal的智能化運維,自動感知資料庫的變更和主動適配,並提出多機房部署及異地容災解決方案,實現了多機房 Canal 實例的統一智能管理。李暢表示,「我們採用Manager Mode架構,要求保證數據一致性、準確性,服務的穩定性,做離線數倉建設和在線實時同步。」

直擊DTCC2019現場:資料庫智能化運維探索與實踐

▲位元組跳動高級大數據平台工程師李暢

對於未來的發展規劃,李暢透露,「我們希望在穩定性方面,支持實例自動Rebalance,避免單機負載過高;在運維方面,支持實例配置運維中心,實例流量智能監控及預警。」

機器學習在資料庫運維上的應用

傳統資料庫運維方式具有許多局限性,被動優化(監控/報警/慢SQL/應用報錯等);耗時耗力且低效,較難形成閉環;受限於人的局限性,複雜場景缺乏擴展性;決策過程中數據價值缺失,決策標準主觀性較大;DBA專家緊缺與資料庫服務要求之間的矛盾更加突出等。

如何做到能夠讓資源精準分配,並做到提前防範?基於機器學習的京東智能運維平台SmartDBS系統在逐步化解這些難題。該系統包含分類、預測、診斷、決策和調度5大模塊。分類、預測、診斷的數據最終進入決策模塊參與容器資源分配的決策,並推送進入調度實現資源的重新合理分配。

直擊DTCC2019現場:資料庫智能化運維探索與實踐

▲京東商城開發工程師彭安

彭安表示,「SmartDBS的價值在於專家系統、智能診斷和預測分析三個方面。其中專家決策,降本提效,可免去人員維護的主觀性;多維數據建模分析全面診斷資料庫;單指標特徵預測多模型數據校驗分析。」

便利蜂資料庫運維自動化從0到1演進之路

便利峰資料庫管理平台包含備份系統、慢查詢系統、在線變更系統、在線查詢系統、MySQL高可用系統等。其中包含需求申請、SQL操作、集群管理、容量管理、日誌查詢、慢查詢管理、服務治理、資料庫管理、備份管理、Redis管理平台、集群監控、OPS管理平台、Beta管理、平台周報等功能。

直擊DTCC2019現場:資料庫智能化運維探索與實踐

▲便利蜂DBA陳海峰

關於便利峰SQL變更系統的發展歷程,陳海峰透露主要有「萌芽期、突破期和迭代期」三個階段,「首先,我們做的工作主要是流程規範、備份監控、慢查詢系統。然後,SQL變更、SQL查詢、資料庫高可用的研發;從18年10月份至今,我們開始部署擴容集群,進行服務治理和容量管理。」

資料庫運維自動化來源於工作中的痛點,而這種壓力推動了技術的不斷變革。通過上述五位行業專家的分享,我們可以從更多角度來思考資料庫的智能運維。未來,將是自動化和智能化資料庫運維的時代。

喜歡這篇文章嗎?立刻分享出去讓更多人知道吧!

本站內容充實豐富,博大精深,小編精選每日熱門資訊,隨時更新,點擊「搶先收到最新資訊」瀏覽吧!


請您繼續閱讀更多來自 IT168企業級 的精彩文章:

開創萬兆組網時代 新華三商用萬兆解決方案解讀
開發者為什麼不願意參與開源貢獻?不僅是錢的原因

TAG:IT168企業級 |