• <acronym id="eyrpt"></acronym>
    <track id="eyrpt"></track>
    <p id="eyrpt"></p>

      <table id="eyrpt"><ruby id="eyrpt"></ruby></table>
      <table id="eyrpt"></table>

    1. 當前位置:首頁 > 短網址資訊 > 正文內容

      談談互聯網后端基礎設施

      對于一個互聯網企業,后端服務是必不可少的一個組成部分。拋開業務應用來說,往下的基礎服務設施做到哪些才能夠保證業務的穩定可靠、易維護、高可用呢?縱觀整個互聯網技術體系再結合公司的目前狀況,個人認為必不可少或者非常關鍵的后端基礎技術/設施如下圖所示:



      這里的后端基礎設施主要指的是應用在線上穩定運行需要依賴的關鍵組件/服務等。開發或者搭建好以上的后端基礎設施,一般情況下是能夠支撐很長一段時間內的業務的。此外,對于一個完整的架構來說,還有很多應用感知不到的系統基礎服務,如負載均衡、自動化部署、系統安全等,并沒有包含在本文的描述范圍內。


      API網關


      在移動app的開發過程中,通常后端提供的接口需要以下功能的支持:


      • 負載均衡

      • API訪問權限控制

      • 用戶鑒權


      一般的做法,使用nginx做負載均衡,然后在每個業務應用里做API接口的訪問權限控制和用戶鑒權,更優化一點的方式則是把后兩者做成公共類庫供所有業務調用。但從總體上來看,這三種特性都屬于業務的公共需求,更可取的方式則是集成到一起作為一個服務,既可以動態地修改權限控制和鑒權機制,也可以減少每個業務集成這些機制的成本。這種服務就是API網關(http://blog.csdn.net/pzxwhc/article/details/49873623),可以選擇自己實現,也可以使用開源軟件實現,如Kong。如下圖所示:



      但是以上方案的一個問題是由于所有api請求都要經過網關,它很容易成為系統的性能瓶頸。因此,可以采取的方案是:去掉api網關,讓業務應用直接對接統一認證中心,在基礎框架層面保證每個api調用都需要先通過統一認證中心的認證,這里可以采取緩存認證結果的方式避免對統一認證中心產生過大的請求壓力。


      業務應用和后端基礎框架


      業務應用分為:在線業務應用和內部業務應用。


      • 在線業務應用:直接面向互聯網用戶的應用、接口等,典型的特點就是:請求量大、高并發、高可用、對故障的容忍度低。

      • 內部業務應用:這個是面向公司內部的應用。比如,內部數據管理平臺、廣告投放平臺等。相比起在線業務應用,其特點: 數據保密性高、壓力小、并發量小、允許故障的發生。


      業務應用基于后端的基礎框架開發,針對Java后端來說,應該有的幾個框架如下:


      • MVC框架:從十年前流行的Struts1、2到現在最為推崇的SpringMVC、Jersey以及國人開發的JFinal、阿里的WebX等等,這些框架尤其是后面流行的這些都是各有千秋的。選型的主要因素是看你的團隊是否有一個對某框架能夠做二次開發、定制的人在。很多時候,針對這些通用的框架,你是需要做一些特定的開發才能滿足特定的需求的。比如,很多團隊傳遞參數使用的都是UnderScore的命名法(下劃線連接單詞),但是Java中確是使用LowCamel命名的。對于SpringMVC,可以通過注解的alias來指定,但這樣需要對每一個參數都要指定alias有點效率太低,此外ModelAttribute也不支持別名,更好的方式是在框架層面統一對參數做Camel命名的轉換達到目的。

      • IOC框架:ioc帶來的好處無須多言。目前Java中最為流行的Spring自誕生就天然支持IOC。

      • ORM框架:MyBatis是目前最為流行的orm框架。此外,Spring ORM中提供的JdbcTemplate也很不錯。當然,對于分庫分表、主從分離這些需求,一般就需要實現自己的ORM框架來支持了,像阿里的tddl、當當的sharding-jdbc(從datasource層面解決了分庫分表、讀寫分離的問題,對應用透明、零侵入)。此外,為了在服務層面統一解決分庫分表、主從分離、主備切換、緩存、故障恢復等問題,很多公司都是有自己的數據庫中間件的,比如阿里的Cobar、360的Atlas、網易的DDB,還有官方提供的MySQL Proxy以及開源的MyCat、kingshard和收費的oneproxy。目前,線上有一定規模使用的應該是kingshard,當然如果不缺錢也可以上oneproxy。

      • 緩存框架:緩存框架主要指的是對redis、memcached這些緩存服務器的操作統一封裝,一般使用Spring的RedisTemplate即可,也可以使用jedis做自己的封裝,支持客戶端分布式方案、主從等。

      • JavaEE應用性能檢測框架:對于線上的JavaEE應用,需要有一個統一的框架集成到每一個業務中檢測每一個請求、方法調用、jdbc連接、redis連接等的耗時、狀態等。jwebap是一個可以使用的性能檢測工具,但由于其已經很多年沒有更新,有可能的話建議基于此項目做二次開發。


      一般來說,以上幾個框架即可以完成一個后端應用的雛形。


      對于這些框架來說,最為關鍵的是根據團隊技術構成選擇最合適的,有能力開發自己的框架則更好。此外,這里需要提供一個后端應用的模板或生成工具(如maven的archetype)給團隊成員使用,可以讓大家在開發新的應用的時候,迅速的生成雛形應用,而無需再做一些框架搭建的重復性勞動。


      緩存、數據庫、搜索引擎、消息隊列


      緩存、數據庫、搜索引擎、消息隊列這四者都是應用依賴的后端基礎服務,他們的性能直接影響到了應用的整體性能,有時候你代碼寫的再好也許就是因為這些服務導致應用性能無法提升上去。


      緩存


      如緩存五分鐘法則所講:如果一個數據頻繁被訪問,那么就應該放內存中。這里的緩存就是一種讀寫效率都非常高的存儲方案,能夠應對高并發的訪問請求,通常情況下也不需要持久化的保證。但相對其他存儲來說,緩存一般是基于內存的,成本比較昂貴,因此不能濫用。


      緩存可以分為:本地緩存和分布式緩存。


      • 本地緩存:主要指的是內存中的緩存機制。在Java中,Google Guava中就提供了本地緩存的實現機制。當然使用Java的ConncurrentHashMap你也可以實現自己的本地緩存方案。

      • 分布式緩存:指的單獨的緩存服務。幾年前比較流行的是memcached,但其只是一個KV的存儲,支持的數據結構太少?,F在最為流行的就是Redis,能夠支持豐富的數據結構,基于事件驅動的單線程非阻塞IO也能夠應對高并發的場景。集群方案除了官方的redis cluster, 目前比較流行的還有豌豆莢的codis、twitter的twemproxy。


      對于緩存的使用,需要注意以下幾點:


      • 緩存的失效機制:當給某一個key設置了有效期,那么緩存何時對此key進行刪除呢?一般來說會有以下幾種方式:

        • 守護進程定時去掃描key,找到已經失效的key,然后刪除

        • 讀取key的時候先去判斷key是否失效,如果失效則刪除并返回空。

      • 緩存的淘汰機制:是當緩存內存達到上限時如何刪除緩存中的key。Redis提供了以下數據淘汰策略:

        對于其具體的實現機制,可以參考《Redis設計與實現》一書

        • volatile-lru:從已設置過期時間的數據集中挑選最近最少使用的數據淘汰

        • volatile-ttl:從已設置過期時間的數據集中挑選將要過期的數據淘汰

        • volatile-random:從已設置過期時間的數據集中任意選擇數據淘汰

        • allkeys-lru:從數據集中挑選最近最少使用的數據淘汰

        • allkeys-random:從數據集中任意選擇數據淘汰

        • no-enviction(驅逐):禁止驅逐數據

      • 緩存的更新機制: 通常來說有四種方式:Cache aside, Read through, Write through, Write behind caching,具體的可見陳皓大神的這篇總結:緩存更新的套路。

      • 緩存的服務過載保護:緩存的服務過載指的是由于緩存失效,而引起后端服務的壓力驟增,進一步產生雪崩效應。這個現象和緩存更新是相關的,采取何種策略在緩存失效的時候去更新緩存直接決定了服務過載的保護機制。通常的分為客戶端和服務端的應對方案。前者的方案有:基于超時的簡單模式、基于超時的常規模式、基于刷新的簡單模式、基于刷新的常規模式、基于刷新的續費模式。后者的方案則是很常見的流量控制和服務降級。具體的可以看美團技術團隊總結的這篇文章:Cache應用中的服務過載案例研究。


      數據庫


      數據庫是后端開發中非常常見的一個服務組件。對于數據庫的選型,要根據業務的特點和數據結構的特點來決定。


      從存儲介質上,數據庫可以分為:


      • 內存數據庫: 數據主要存儲在內存中,同時也可以采取措施對數據進行持久化到硬盤中。如Redis、H2DB的內存模式。對于這種數據庫,由于內存成本昂貴,因此一定要做好存儲的量化分析、容量預估,防止內存不足造成服務不可用。

      • 硬盤數據庫:數據存儲在硬盤上的這種數據庫是最為常見的。MySQL、Oracle、Postgresql、HBASE、H2DB、SqlLite等等都是硬盤數據庫。此外,SSDB是基于SSD硬盤的KV數據庫,支持的數據接口很豐富,是Redis的另外一個選擇。


      從存儲數據類型、數據模式上,數據庫可以分為:


      • 關系型數據庫:MySQL、Oracle、Postgresql都是關系型數據庫的,是采用關系模型(關系模型指的就是二維表格模型,而一個關系型數據庫就是由二維表及其之間的聯系所組成的一個數據組織)來組織數據的數據庫。

      • 非關系型數據庫:非關系型數據庫是相對關系型數據庫來講的。以鍵值對存儲,且結構不固定,每一個元組可以有不一樣的字段,每個元組可以根據需要增加一些自己的鍵值對,這樣就不會局限于固定的結構,可以減少一些時間和空間的開銷。但是,其沒有關系型數據庫那種嚴格的數據模式,并不適合復雜的查詢以及需要強事務管理的業務。非關系型數據庫又可以分為:

        • KV數據庫:主要以(key,value)鍵值對存儲數據的數據庫。以Redis、RocksDB(levelDB)、SSDB為代表。

        • 文檔數據庫:總體形式上也是鍵值對的形式,但是值里面又可以有各種數據結構:數組、鍵值對、字符串等等。以mongodb、couchdb為代表。

        • 列數據庫:也叫作稀疏大數據庫,一般是用來存儲海量數據的。相對于行數據庫,這種數據庫是以列為單位存儲數據在介質上的。以Hbase、Cassendra為代表。


      和數據庫相關的一個很重要的就是數據庫的索引。有一種說法是:“掌握了索引就等于掌握了數據庫”。暫且不去評判此說法是否真的準確,但索引的確關系著數據庫的讀寫性能。需要對數據庫的索引原理做到足夠的了解才能更好的使用各種數據庫。通常來說,Mysql、Oracle、Mongodb這些都是使用的B樹作為索引,是考慮到傳統硬盤的特點后兼顧了讀寫性能以及范圍查找需求的選擇,而Hbase用得LSM則是為了提高寫性能對讀性能做了犧牲。


      搜索引擎


      搜索引擎也是后端應用中一個很關鍵的組件,尤其是對內容類、電商類的應用,通過關鍵詞、關鍵字搜索內容、商品是一個很常見的用戶場景。比較成熟的開源搜索引擎有Solr和Elasticsearch,很多中小型互聯網公司搜索引擎都是基于這兩個開源系統搭建的。它們都是基于Lucence來實現的,不同之處主要在于termIndex的存儲、分布式架構的支持等等。


      對于搜索引擎的使用,從系統熟悉、服務搭建、功能定制,需要花費較長時間。在這個過程中,需要注意以下問題:


      • 搜索引擎與公司現有數據系統的集成?,F有的持久化、供搜索的數據的載體是什么, 如何讓搜索引擎在全量和增量建索引過程中無縫集成原來的數據載體,才能發揮搜索引擎自身的實時性, 水平擴展性(性能與容量和機器數量成正比)等優勢。

      • 和數據庫一樣,對搜索引擎的索引機制也需要做到深入的了解。


      更為詳細的對于搜索引擎的工程化實踐可以參考有贊工程師的這篇文章:有贊搜索引擎實踐(工程篇)(http://www.cnblogs.com/hsydj/p/5303050.html)。


      另外,搜索引擎還可以用在數據的多維分析上,就是GrowingIO、MixPanel中的可以任意維度查詢數據報表的功能。當然,druid也許是一個更好的實現多維分析的方案,官方也有其與es的比較:http://druid.io/docs/latest/comparisons/druid-vs-elasticsearch.html。


      消息隊列


      軟件的組織結構,從開始的面向組件到SOA、SAAS是一個逐漸演變的過程。而到了今天微服務盛行的時代,你都不好意思說自己的系統只是單一的一個系統而沒有解耦成一個個service。當然,小的系統的確沒有拆分的必要性,但一個復雜的系統拆成一個個service做微服務架構確實是不得不做的事情。


      那么問題就來了,service之間的通信如何來做呢?使用什么協議?通過什么方式調用?都是需要考慮的問題。


      先拋開協議不談,service之間的調用方式可以分為同步調用以及異步調用。同步調用的方式無需多說,那么異步調用是怎么進行的呢?一種很常見的方式就是使用消息隊列,調用方把請求放到隊列中即可返回,然后等待服務提供方去隊列中去獲取請求進行處理,然后把結果返回給調用方即可(可以通過回調)。


      異步調用就是消息中間件一個非常常見的應用場景。此外,消息隊列的應用場景還有以下:


      • 解耦:一個事務,只關心核心的流程,需要依賴其他系統但不那么重要的事情,有通知即可,無須等待結果。

      • 最終一致性:指的是兩個系統的狀態保持一致,要么都成功,要么都失敗,可以有一定的延遲,只要最終達到一致性即可。

      • 廣播:這是消息隊列最基本的功能。生產者只需要發布消息,無須關心有哪些訂閱者來消費消息。

      • 錯峰與流控:當上下游系統處理能力不同的時候就需要類似消息隊列的方式做為緩沖區來隔開兩個系統。


      目前主流的消息隊列軟件,主要有以下幾種:


      • ActiveMQ:Java中最為簡單的消息隊列,是對JMS的實現,沒有規定消息的順序、安全、重發等特性。

      • RabbitMQ:是對AMQP協議的實現,對于消息的順序性、安全、重發等都做了很好的支持。比較適合不允許數據丟失、有事務需求的業務場景下的消息傳輸。

      • Kafka:是基于Log的消息隊列,底層依賴于文件的順序讀取,是append-only的。適合對數據丟失不敏感、強調性能的一些海量日志傳輸場景中。是最近幾年大數據領域很火的一個技術。

      • ZeroMQ:是一個網絡編程的Pattern庫,將常見的網絡請求形式(分組管理,鏈接管理,發布訂閱等)模式化、組件化,簡而言之socket之上、MQ之下。對于MQ來說,網絡傳輸只是它的一部分,更多需要處理的是消息存儲、路由、Broker服務發現和查找、事務、消費模式(ack、重投等)、集群服務等。


      文件存儲


      不管是業務應用、依賴的后端服務還是其他的各種服務,最終還是要依賴于底層文件存儲的。通常來說,文件存儲需要滿足的特性有:可靠性、容災性、穩定性,即要保證存儲的數據不會輕易丟失,即使發生故障也能夠有回滾方案,也要保證高可用率。在底層可以采用傳統的RAID作為解決方案,再上一層,目前hadoop的hdfs則是最為普遍的分布式文件存儲方案,當然還有NFS、Samba這種共享文件系統也提供了簡單的分布式存儲的特性。


      此外,如果文件存儲確實成為了應用的瓶頸或者必須提高文件存儲的性能從而提升整個系統的性能時,那么最為直接和簡單的做法就是拋棄傳統機械硬盤,用SSD硬盤替代。像現在很多公司在解決業務性能問題的時候,最終的關鍵點往往就是SSD。這也是用錢換取時間和人力成本最直接和最有效的方式。在數據庫部分描述的SSDB就是對LevelDB封裝之后,利用SSDB的特性的一種高性能KV數據庫。


      至于HDFS,如果要使用上面的數據,是需要通過hadoop的。類似xx on yarn的一些技術就是將非hadoop技術跑在hdfs上的解決方案(當然也是為了使用MR)。


      統一認證中心


      統一認證中心,主要是對app用戶、內部用戶、app等的認證服務,包括:


      • 用戶的注冊、登錄驗證、token鑒權

      • 內部信息系統用戶的管理和登錄鑒權

      • App的管理,包括app的secret生成,app信息的驗證(如驗證接口簽名)等。


      之所以需要統一認證中心,就是為了能夠集中對這些所有app都會用到的信息進行管理,也給所有應用提供統一的認證服務。尤其是在有很多業務需要共享用戶數據的時候,構建一個統一認證中心是非常必要的。此外,通過統一認證中心構建移動app的單點登錄也是水到渠成的事情(模仿web的機制,將認證后的信息加密存儲到本地磁盤中供多個app使用)。


      單點登錄系統


      目前很多大的在線web網站都是有單點登錄系統的,通俗的來說就是只需要一次用戶登錄,就能夠進入多個業務應用(權限可以不相同),非常方便用戶的操作。而在移動互聯網公司中,內部的各種管理、信息系統同樣也需要單點登錄系統。目前,比較成熟的、用的最多的單點登錄系統應該是耶魯大學開源的CAS, 可以基于https://github.com/apereo/cas/tree/master/cas-server-webapp來定制開發的。此外,國人開源的kisso的這個也不錯?;旧?,單點登錄的原理都類似下圖所示:



      統一配置中心


      在Java后端應用中,一種讀寫配置比較通用的方式就是將配置文件寫在propeties、yaml、HCON文件中,修改的時候只需要更新文件重新部署即可,可以做到不牽扯代碼層面改動的目的。統一配置中心,則是基于這種方式之上的統一對所有業務或者基礎后端服務的相關配置文件進行管理的統一服務, 具有以下特性:


      • 能夠在線動態修改配置文件并生效

      • 配置文件可以區分環境(開發、測試、生產等)

      • 使用方便: 在java中可以通過注解、xml配置的方式引入相關配置


      disconf是可以在生產環境使用的一個方案,也可能根據自己的需求開發自己的配置中心(可以選擇zookeeper作為配置存儲)。


      服務治理框架


      對于外部API調用或者客戶端對后端api的訪問,可以使用http協議或者說restful(當然也可以直接通過最原始的socket來調用)。但對于內部服務間的調用,一般都是通過RPC機制來調用的。目前主流的RPC協議有:


      • RMI

      • Hessian

      • Thrift

      • Dubbo


      這些RPC協議各有優劣點,需要針對業務需求做出相應的最好的選擇。


      這樣,當你的系統服務在逐漸增多,RPC調用鏈越來越復雜,很多情況下,需要不停的更新文檔來維護這些調用關系。一個對這些服務進行管理的框架可以大大節省因此帶來的繁瑣的人力工作。


      傳統的ESB(企業服務總線)本質就是一個服務治理方案,但esb作為一種proxy的角色存在于client和server之間,所有請求都需要經過esb,使得esb很容易成為性能瓶頸。因此,基于傳統的esb,更好的一種設計如下圖所示:



      如圖,以配置中心為樞紐,調用關系只存在于client和提供服務的server之間,就避免了傳統esb的性能瓶頸問題。對于這種設計,esb應該支持的特性如下:


      • 服務提供方的注冊、管理

      • 服務消費者的注冊、管理

      • 服務的版本管理、負載均衡、流量控制、服務降級等

      • 服務的容錯、熔斷等


      阿里開源的dubbo則對以上做了很好的實現,也是目前很多公司都在使用的方案。但由于某些原因,dubbo現已不再維護,推薦大家使用當當后來維護的dubbox。


      統一調度中心


      在很多業務中,定時調度是一個非常普遍的場景,比如定時去抓取數據、定時刷新訂單的狀態等。通常的做法就是針對各自的業務依賴Linux的cron機制或者java中的quartz。統一調度中心則是對所有的調度任務進行管理,這樣能夠統一對調度集群進行調優、擴展、任務管理等。azkaban和oozie是hadoop的流式工作管理引擎,也可以作為統一調度中心來使用。當然,你也可以使用cron或者quartz來實現自己的統一調度中心。


      • 根據cron表達式調度任務

      • 動態修改、停止、刪除任務

      • 支持任務工作流:比如一個任務完成之后再執行下一個任務

      • 任務支持腳本、代碼、url等多種形式

      • 任務執行的日志記錄、故障報警


      對于Java的quartz這里需要說明一下:這個quartz需要和spring quartz區分,后者是spring對quartz框架的簡單實現也是目前使用的最多的一種調度方式。但其并沒有做高可用集群的支持。而quartz雖然有集群的支持,但是配置起來非常復雜?,F在很多方案都是使用zookeeper來實現spring quartz集群的。這里有一個國人開源的uncode-shcedule對此實現的還不錯,可以根據自己的業務需求做二次開發。此外,當當開源的elastic-job則在此之上又加入了彈性資源利用等更為強大的功能。


      統一日志服務


      日志是開發過程必不可少的東西。有時候,打印日志的時機、技巧是很能體現出工程師編碼水平的。畢竟,日志是線上服務能夠定位、排查異常最為直接的信息。


      通常的,將日志分散在各個業務中非常不方便對問題的管理和排查。統一日志服務則使用單獨的日志服務器記錄日志,各個業務通過統一的日志框架將日志輸出到日志服務器上。


      可以通過實現log4j后者logback的appender來實現統一日志框架,然后通過RPC調用將日志打印到日志服務器上。


      數據基礎設施


      數據是最近幾年非?;鸬囊粋€領域。從《精益數據分析》到《增長黑客》,都是在強調數據的非凡作用。很多公司也都在通過數據推動產品設計、市場運營、研發等。詳細的可見之前的一篇《數據雜談》,對數據相關的東西做過一些總結。這里需要說明的一點是,只有當你的數據規模真的到了單機無法處理的規模才應該上大數據相關技術,千萬不要為了大數據而大數據。很多情況下使用單機程序+mysql就能解決的問題非得上hadoop即浪費時間又浪費人力。


      這里需要補充一點的是,對于很多公司,尤其是離線業務并沒有那么密集的公司,在很多情況下大數據集群的資源是被浪費的。因此誕生了xx on yarn一系列技術讓非hadoop系的技術可以利用大數據集群的資源,能夠大大提高資源的利用率,如Docker on yarn(Hulu的VoidBox)。


      數據高速公路


      接著上面講的統一日志服務,其輸出的日志最終是變成數據到數據高速公路上供后續的數據處理程序消費的。這中間的過程包括日志的收集、傳輸。


      • 收集:統一日志服務將日志打印在日志服務上之后,需要日志收集機制將其集中起來。目前,常見的日志收集方案有:scribe、Chukwa、Kakfa和Flume。對比如下圖所示:



      • 傳輸:通過消息隊列將數據傳輸到數據處理服務中。對于日志來說,通常選擇kafka這種消息隊列即可。


      此外,這里還有一個關鍵的技術就是數據庫和數據倉庫間的數據同步問題,即將需要分析的數據從數據庫中同步到諸如hive這種數據倉庫時使用的方案。比較簡單的、用的也比較多的可以使用sqoop進行基于時間戳的數據同步,此外,阿里開源的canal實現了基于binlog增量同步,更加適合通用的同步場景,但是基于canal你還是需要做不少的業務開發工作的。推薦另一款國人開源的MySQL-Binlog(http://git.oschina.net/qiangzigege/MySQL-Binlog?_t_t_t=0.026644081874147685),原理和canal類似,默認提供了任務的后臺管理功能,只需要實現接收到binlog后的處理邏輯即可。


      離線數據分析


      離線數據分析是可以有延遲的,一般針對是非實時需求的數據分析工作,產生的也是T-1的報表。目前最常用的離線數據分析技術除了Hadoop還有Spark。相比Hadoop、Spark性能上有很大優勢,當然對硬件資源要求也高。


      對于Hadoop,傳統的MR編寫很復雜,也不利于維護,可以選擇使用hive來用sql替代編寫mr,但是前提務必要對hive的原理做到了解??梢詤⒁娒缊F的這篇博文來學習:Hive SQL的編譯過程(https://tech.meituan.com/hive-sql-to-mapreduce.html)。而對于Spark,也有類似Hive的Spark SQL。


      此外,對于離線數據分析,還有一個很關鍵的就是數據傾斜問題。所謂數據傾斜指的是region數據分布不均,造成有的結點負載很低,而有些卻負載很高,從而影響整體的性能。因此,處理好數據傾斜問題對于數據處理是很關鍵的。對于Hive的數據傾斜,可見:Hive大數據傾斜總結(http://www.cnblogs.com/ggjucheng/archive/2013/01/03/2842860.html)。對于Spark的傾斜問題,可見:Spark性能優化指南——高級篇。


      實時數據分析


      相對于離線數據分析,實時數據分析也叫在線數據分析,針對的是對數據有實時要求的業務場景,如廣告結算、訂單結算等。目前,比較成熟的實時技術有Storm和Spark Streaming。相比起Storm、Spark Streaming其實本質上還是基于批量計算的。如果是對延遲很敏感的場景,還是應該使用Storm。


      對于實時數據分析,需要注意的就是實時數據處理結果寫入存儲的時候,要考慮并發的問題,雖然對于Storm的bolt程序來說不會有并發的問題,但是寫入的存儲介質是會面臨多任務同時讀寫的。通常采用的方案就是采用時間窗口的方式對數據做緩沖后批量寫入。


      此外,實時數據處理一般情況下都是基于增量處理的,相對于離線來說并非可靠的,一旦出現故障(如集群崩潰)或者數據處理失敗,是很難對數據恢復或者修復異常數據的。因此結合離線+實時是目前最普遍采用的數據處理方案。Lambda架構(http://www.csdn.net/article/2014-07-08/2820562-Lambda-Linkedln)就是一個結合離線和實時數據處理的架構方案。


      數據即席分析


      離線和實時數據分析產生的一些報表是給數據分析師、產品經理參考使用的,但是很多情況下,線上的程序并不能滿足這些需求方的需求。這時候就需要需求方自己對數據倉庫進行查詢統計。針對這些需求方,SQL上手容易、易描述等特點決定了其可能是一個最為合適的方式。因此提供一個SQL的即席查詢工具能夠大大提高數據分析師、產品經理的工作效率。Presto、Impala、Hive都是這種工具。如果想進一步提供給需求方更加直觀的ui操作界面,可以搭建內部的Hue。



      故障監控


      對于面向用戶的線上服務,發生故障是一件很嚴重的事情。因此,做好線上服務的故障檢測告警是一件非常重要的事情??梢詫⒐收媳O控分為以下兩個層面的監控:


      • 系統監控:主要指的對主機的帶寬、CPU、內存、硬盤、IO等硬件資源的監控。這可以使用開源的nagios、cacti等開源軟件進行監控。目前,市面上也有很多第三方服務能夠提供對于主機資源的監控,如監控寶等。對于分布式服務集群(如Hadoop、Storm、Kafka、flume等集群)的監控則可以使用ganglia。此外,小米開源的OpenFalcon也很不錯,涵蓋了系統監控、JVM監控等,也支持自定義的監控機制。

      • 業務監控:是在主機資源層面以上的監控,比如app的pv、uv數據異常、交易失敗等。需要業務中加入相關的監控代碼,比如在異常拋出的地方,加一段日志記錄。


      監控還有一個關鍵的步驟就是告警。告警的方式有很多種:郵件、im、短信等??紤]到故障的重要性不同、告警的合理性、便于定位問題等因素,有以下建議:


      • 告警日志要記錄發生故障的機器id,尤其是在集群服務中,如果沒有記錄機器id,那么對于后續的問題定位會很困難。

      • 要對告警做聚合,不要每一個故障都單獨進行告警,這樣會對工程師造成極大的困擾。

      • 要對告警做等級劃分,不能對所有告警都做同樣的優先級處理。

      • 使用微信做為告警軟件,能夠在節省短信成本的情況下,保證告警的到達率。


      故障告警之后,那么最最關鍵的就是應對了。對于創業公司來說,24小時待命是必備的素質,當遇到告警的時候,需要盡快對故障做出反應,找到問題所在,并能在可控時間內解決問題。對于故障問題的排查,基本上都是依賴于日志的。只要日志打的合理,一般情況下是能夠很快定位到問題所在的,但是如果是分布式服務,并且日志數據量特別大的情況下,如何定位日志就成為了難題。這里有幾個方案:


      • 建立ELK(Elastic+Logstash+Kibana)日志集中分析平臺,便于快速搜索、定位日志。對于ELK的介紹,可以見:使用Elasticsearch + Logstash + Kibana搭建日志集中分析平臺實踐(https://xiequan.info/使用elasticsearch-logstash-kibana搭建日志集中分析平臺實踐/

      • 建立分布式請求追蹤系統(也可以叫全鏈路監測系統),對于分布式系統尤其是微服務架構,能夠極大的方便在海量調用中快速定位并收集單個異常請求信息,也能快速定位一條請求鏈路的性能瓶頸。唯品會的Mercury、阿里的鷹眼、新浪的WatchMan、Twitter開源的Zipkin基本都是基于Google的Dapper論文而來。此外,騰訊的染色日志機制本質上也是在鏈路追蹤之上根據響應信息做了染色機制。Apache正在孵化中的HTrace則是針對大的分布式系統諸如hdfs文件系統、Hbase存儲引擎而設計的分布式追蹤方案。這里需要提到的一點是,如果你的微服務實現使用了Spring cloud,那么Spring Cloud Sleuth則是最佳的分布式跟蹤實現方案。


      擴展


      一. NetFlix


      近幾年Netflix開源了其內部很多的服務:https://github.com/Netflix,包括大數據、構建交付工具、通用運行時服務類庫、數據持久化、安全等。里面有一些對應了上面所說的基礎設施:


      • zuul


      這是Netflix所有后端服務最前端的一道門,也就是我們上面說的Api網關, 主要包含了以下功能:


      • 認證授權和安全:識別合法的外部請求,拒絕非法的。

      • 監控:跟蹤記錄所有有意義的數據以便于給我們一個精確的產品視圖。

      • 動態路由:根據需要動態把請求路由到合適的后端服務上。

      • 壓力測試:漸進式的增加對集群的壓力直到最大值。

      • 限流:對每一種類型的請求都限定流量,拒絕超出的請求。

      • 靜態響應控制:對于某些請求直接在邊緣返回而不轉發到后端集群。

      • 多區域彈性:在aws的多個region中進行請求路由。


      • Eureka


      是Netflix的服務注冊發現服務,類似于dubbo的功能。包括負載均衡和容錯。


      • Hystrix


      Hystrix是一個類庫?;诿钅J?,實現依賴服務的容錯、降級、隔離等。在依賴多個第三方服務的時候非常有用。此外,還可以通過自定義實現dubbo的filter來給dubbo添加Hystrix的特性支持。


      此外,Netflix的這些開源組件統稱做Netflix oss,提供了一整套分布式系統解決方案,涵蓋了做分布式微服務需要的服務發現、服務容錯、負載均衡、權限控制等。當然,如果你直接選用docker的話,那么K8s本身也提供了這些東西。


      二. Spring Cloud


      Spring cloud給我們構建分布式系統提供了一整套開發工具和框架,基本上也涵蓋了本文講述的各個組件,其子項目Spring Cloud Netflix則能夠集成Netflix的各個組件?,F在很多公司和團隊都是基于Spring cloud這一套東西在做微服務實現的。不過,spring cloud包含很多子項目,想要吃透這些得花不小的成本。


      • Spring Cloud Config

        統一配置中心,類似于前文說過的disconf,不過其配置文件時存儲在版本管理系統如git、svn上的。其配置的實時在線更新則需要依賴Spring Cloud Bus。

      • Spring Cloud Security

        提供了oauth2客戶端的負載均衡以及認證header等安全服務,可以做為Api網關的實現。

      • Spring Cloud Consul/Zookeepr

        服務統一發現、注冊、配置服務。類似于dubbo。

      • Spring Cloud Bus

        提供了服務之間通信的分布式消息事件總線,主要用來在集群中傳播狀態改變(如配置改動)。

      • Spring Cloud Sleuth

        分布式跟蹤系統, 能夠追蹤單次請求的鏈路軌跡以及耗時等信息。


      作者:颯然Hang,架構師/后端工程師,working@中華萬年歷

      出處:http://www.rowkey.me/blog/2016/08/27/server-basic-tech-stack/


      版權申明:內容來源網絡,版權歸原創者所有。除非無法確認,我們都會標明作者及出處,如有侵權煩請告知,我們會立即刪除并表示歉意。謝謝。

      掃描二維碼推送至手機訪問。

      版權聲明:本文由短鏈接發布,如需轉載請注明出處。

      本文鏈接:http://www.virginiabusinesslawupdate.com/article_478.html

      分享給朋友:

      相關文章

      人工智能+廣告服務,Deepleaper獲A輪1800萬元融資

      人工智能+廣告服務,Deepleaper獲A輪1800萬元融資

      [ ft12短網址導讀 ] 2017年5月19日消息。旨在通過人工智能技術手段,提升廣告效率的初創公司Deepleaper(躍盟科技)日前正式宣布完成由洪泰基金領投的A輪融資,融資金額1800萬元。2017年5月19日消息。日前,...

      Go語言寫的一個短網址服務

      Go語言寫的一個短網址服務

      題圖來自http://www.virginiabusinesslawupdate.com/“縮址,又稱短址、短網址、網址縮短、縮短網址、URL縮短等,指的是一種互聯網上的技術與服務。此服務可以提供一個非常短小的URL以代替原來的可能較長的URL,將長的URL地址縮短。用戶訪問縮短...

      網站防御cc攻擊的方法和突破技巧!

      最近FT12短網址經常遭到CC攻擊,早在前兩個月的時間,我的短鏈接遭到CC攻擊,大概流量在7G左右,7G的CC流量攻擊算是非常大的了,那么我們如何防御CC攻擊呢,另外CC攻擊又是怎么一回事呢?CC攻擊是什么CC攻擊是通過大量的IP同時訪問一...

      各大短網址站的對比測評

       目前國內主流的短網址服務提供商主要有新浪的t.cn,百度的dwz.cn,騰訊的url.cn,以及后起之秀985.so, rrd.me, u6.gg, c7.gg, kks.me等等。對于經常使用短網址做營銷的人們來說,短網址服務...

      快遞利潤即將觸底,行業何去何從?

      快遞利潤即將觸底,行業何去何從?

      [ FT12短網址] 隨著電子商務的快速發展,快遞行業每年的規模也成指數一樣爆發,可是社會現狀的改變,很顯然快遞企業正在遇到更大的壓力,比較重要的是整個行業利潤的下滑以及新一代農民工的崛起?!度毡窘洕侣劇?月24日文章,隨著電子商務在華迅...

      窮游文青的艷遇大戲,都在青旅的墻上......

      窮游文青的艷遇大戲,都在青旅的墻上......

      前幾年出了一部尺度炸裂的旅行公路片《一路向西》,不知道是不是所有西行的路,都是那么艷遇連天。反正娃哥前段時間沿著藏青線各種看天看海住小旅店,發現旅館的墻,有時候比真正住在里面的人戲還要多。嗯,十七不禁想起了好胖友借給我的那本大冰的書《乖,摸...

      發表評論

      訪客

      ◎歡迎參與討論,請在這里發表您的看法和觀點。
      一本色综合网久久
    2. <acronym id="eyrpt"></acronym>
      <track id="eyrpt"></track>
      <p id="eyrpt"></p>

        <table id="eyrpt"><ruby id="eyrpt"></ruby></table>
        <table id="eyrpt"></table>