服務(wù)器租用高并發(fā)邏輯處理瓶頸怎么解決
發(fā)布時(shí)間：2019-11-07 點(diǎn)擊數(shù)：1431
高并發(fā)服務(wù)器的邏輯處理瓶頸一直都是一個(gè)令服務(wù)器租用用戶(hù)頭痛的一個(gè)問(wèn)題，所以小編特意去查找了相關(guān)資料，接下來(lái)我們就來(lái)看看服務(wù)器租用高并發(fā)邏輯處理瓶頸怎么解決？
高并發(fā)衡量指標(biāo)
響應(yīng)時(shí)間：系統(tǒng)對(duì)請(qǐng)求做出響應(yīng)的時(shí)間，即一個(gè)http請(qǐng)求返回所用的時(shí)間；
吞吐量：?jiǎn)挝粫r(shí)間內(nèi)處理的請(qǐng)求數(shù)量；
QPS（TPS）：每秒可以處理的請(qǐng)求數(shù)或事務(wù)數(shù)；
并發(fā)用戶(hù)數(shù)：同時(shí)承載正常使用系統(tǒng)功能的用戶(hù)數(shù)量，即多少人同時(shí)使用，系統(tǒng)還能正常運(yùn)行的用戶(hù)數(shù)量；
根據(jù)上面衡量指標(biāo)可以看到，提高并發(fā)能力必須解決如下幾個(gè)問(wèn)題：
如何提高并發(fā)連接數(shù)？
那么多的連接數(shù)怎么進(jìn)行業(yè)務(wù)處理？
應(yīng)用服務(wù)器的處理水平又該怎么提高？
如何使用微服務(wù)架構(gòu)提升高并發(fā)邏輯？
別著急，這么多問(wèn)題我們一個(gè)一個(gè)來(lái)分析解決！
1）、如何提高并發(fā)連接數(shù)？
常規(guī)的單一網(wǎng)絡(luò)連接模型只能1個(gè)連接對(duì)應(yīng)1個(gè)線(xiàn)程，壓力都集中在內(nèi)存，導(dǎo)致內(nèi)存開(kāi)銷(xiāo)非常大，肯定支撐的連接數(shù)有限！（直接掛掉）高并發(fā)服務(wù)器邏輯處理瓶頸，如何解決？
有道是業(yè)務(wù)寫(xiě)的再好不如一臺(tái)高性能服務(wù)器，這個(gè)鍋不一定要開(kāi)發(fā)人員背的哦！?。》?wù)器的連接入口就那么大（比如tomcat只有幾千的連接數(shù)），那么處理的能力也只局限于幾千。
怎么解決呢？選用合適的網(wǎng)絡(luò)IO模型或者selector，通過(guò)使用一個(gè)線(xiàn)程輪詢(xún)或者事件觸發(fā)的方式，能支持幾萬(wàn)甚至更多的連接數(shù)，再配合上nginx做負(fù)載就更完美了。
2）那么多的連接數(shù)怎么進(jìn)行業(yè)務(wù)處理？
大家都知道nginx只是具有反向代理和負(fù)載均衡的功能，并不能處理具體的業(yè)務(wù)邏輯，不能擔(dān)當(dāng)應(yīng)用服務(wù)器來(lái)使用。例如webSphere 、tomcat和jetty等，但是我們可以利用nginx將接受到的大量連接通過(guò)均衡的方式（輪詢(xún)，權(quán)重，hash）分配到不同的應(yīng)用服務(wù)器中進(jìn)行業(yè)務(wù)處理！高并發(fā)服務(wù)器邏輯處理瓶頸，如何解決？
nginx負(fù)載
3）應(yīng)用服務(wù)器的處理水平又該怎么提高？
要提高應(yīng)用服務(wù)器的處理水平就要了解自己的應(yīng)用服務(wù)器的瓶頸在哪里，一般有兩個(gè)：數(shù)據(jù)庫(kù)壓力：數(shù)據(jù)庫(kù)是支撐產(chǎn)品業(yè)務(wù)的核心模塊，系統(tǒng)的高并發(fā)的主要壓力也是來(lái)源于數(shù)據(jù)庫(kù)。處理方式有如下這些：
數(shù)據(jù)庫(kù)本身：建立有效索引、讀寫(xiě)分離、雙主互備、分庫(kù)分表（sharding-jdbc等實(shí)現(xiàn)）等策略，提高數(shù)據(jù)庫(kù)處理能力，減少壓力！
結(jié)合內(nèi)存數(shù)據(jù)庫(kù)：例如redid、memcached等，根據(jù)業(yè)務(wù)需要緩存一些數(shù)據(jù)字典、枚舉變量和頻繁使用數(shù)據(jù)等減少數(shù)據(jù)庫(kù)訪問(wèn)次數(shù)，提升數(shù)據(jù)庫(kù)處理能力。
高并發(fā)服務(wù)器邏輯處理瓶頸，如何解決？
用nginx負(fù)載多臺(tái)應(yīng)用服務(wù)器；
使用redid/memcached做業(yè)務(wù)緩存；
再加上數(shù)據(jù)庫(kù)集群；
組成了經(jīng)典的web高并發(fā)集群架構(gòu)。
代碼中的業(yè)務(wù)邏輯：
總的來(lái)說(shuō)少創(chuàng)建線(xiàn)程、少創(chuàng)建對(duì)象、少加鎖、防止死鎖、少創(chuàng)建線(xiàn)程、注意內(nèi)存回收等策略，來(lái)提升代碼性能。
開(kāi)發(fā)中可以采用前后端分離的架構(gòu)模式，動(dòng)靜分離、松耦合等提升前后端處理能力。
4）如何使用微服務(wù)架構(gòu)提升高并發(fā)邏輯？
主要包含11大核心組件，分別是：核心支撐組件
服務(wù)網(wǎng)關(guān)Zuul
服務(wù)注冊(cè)發(fā)現(xiàn)Eureka+Ribbon
服務(wù)配置中心Apollo
認(rèn)證授權(quán)中心Spring Security OAuth
服務(wù)框架Spring MVC/Boot
監(jiān)控反饋組件
數(shù)據(jù)總線(xiàn)Kafka
日志監(jiān)控ELK
調(diào)用鏈監(jiān)控CAT
Metrics監(jiān)控KairosDB
健康檢查和告警ZMon
限流熔斷和流聚合Hystrix/Turbine
通過(guò)這些方法我們可以很好的解決服務(wù)器租用高并發(fā)的邏輯處理瓶頸，以上信息由全網(wǎng)數(shù)據(jù)小編整理提供，全網(wǎng)數(shù)據(jù)是深圳的已經(jīng)老牌服務(wù)商，有著多年的豐富管理經(jīng)驗(yàn)，機(jī)房都在T3以上標(biāo)準(zhǔn)，有歡迎的技術(shù)團(tuán)隊(duì)提供7x24小時(shí)服務(wù)，給我們發(fā)服務(wù)器提供了良好的運(yùn)行環(huán)境。全網(wǎng)數(shù)據(jù)主要業(yè)務(wù)有深圳服務(wù)器租用，深圳服務(wù)器托管，深圳主機(jī)租用，機(jī)柜租用等服務(wù)，更多詳情歡迎咨詢(xún)客服了解。
