国精产品一区一区三区有限公司杨,国产激情久久久久影院老熟女,国产裸体裸拍在线观看,国产人妻熟女在线观看,国产美女视频国产视视频

全球看點:通俗解讀DPDK:云時代數(shù)據(jù)傳輸優(yōu)化利器如何煉成?

2022-09-14 21:30:29    來源:閆躍龍 微信號

我國正在加速進入數(shù)字經(jīng)濟時代。

中國工信出版?zhèn)髅郊瘓F副總經(jīng)理劉華魯表示,截至2021年底,我國企業(yè)上云、使用云的比例達到80%,上云已經(jīng)成為數(shù)字化的必經(jīng)之路。


(資料圖片)

以上云為主要特征的數(shù)字時代,最典型的一個特征是數(shù)據(jù)的高速增長。據(jù)中國信通院數(shù)據(jù),截止2021年底,我國在用數(shù)據(jù)中心機架規(guī)模高達520萬架,近5年年均復合增速超過30%,其中大型以上數(shù)據(jù)中心機架規(guī)模420萬架,占比達到80%。IDC更是預測,到2025年,數(shù)據(jù)中心流量預計將增長超過180ZB,數(shù)據(jù)中心業(yè)務高吞吐的發(fā)展趨勢非常明顯。

在數(shù)據(jù)大爆發(fā)的大背景下,數(shù)據(jù)中心網(wǎng)絡內(nèi)部交換系統(tǒng)也在大提速,從10GE、40GE向100GE、400GE提速,相應的,一場圍繞網(wǎng)絡數(shù)據(jù)傳輸優(yōu)化的攻堅戰(zhàn)也在上演。

云時代的數(shù)據(jù)傳輸痛點

云時代,網(wǎng)絡傳輸(I/O)的變革是深刻的。

在傳統(tǒng)網(wǎng)絡時代,路由器、交換機等設備都是采用硬件的解決方案,基于專用化、定制化的處理器。這種方式的缺點很明顯,存在調(diào)試維護難、升級迭代難等問題。而且,傳統(tǒng)通信專有化設備需要維護多個平臺硬件,控制平面、數(shù)據(jù)平面的軟硬件各不相同,維護成本高昂。

尤其是當云時代到來時,通過網(wǎng)絡功能虛擬化共享硬件成為行業(yè)標配,即通過標準的服務器、標準的以太網(wǎng)交換機來實現(xiàn)各種功能。如英特爾公司早在10多年前就提出4合1戰(zhàn)略,即應用、控制、數(shù)據(jù)、信號處理都統(tǒng)一在IA(Intel Architecture)處理器平臺上。

然而,云時代數(shù)據(jù)的大爆發(fā),為網(wǎng)絡數(shù)據(jù)傳輸帶來極大挑戰(zhàn)。在業(yè)界,曾經(jīng)相繼出現(xiàn)過C10K、C100K、C10M等難題就是這樣。所謂C10K,是單機1萬個并發(fā)連接問題,同樣,C100K是實現(xiàn)單機并發(fā)連接100萬,C10M是實現(xiàn)千萬并發(fā)連接。

在硬件上這些問題解決起來不難,堆硬件就可以實現(xiàn),但是這樣做的弊端也顯而易見,既成本高昂,又不通用。2013年,Errata Security公司CEO Robert Graham用軟件的方式解決了這一難題,他認為,Linux系統(tǒng)的設計初衷是傳統(tǒng)電話網(wǎng)絡的控制系統(tǒng),而非服務器OS,不適合處理大規(guī)模的網(wǎng)絡數(shù)據(jù)包。

更重要的是,他得出一個結(jié)論:OS的內(nèi)核不是解決C10M問題的路徑,相反,OS內(nèi)核正是導致C10M問題的瓶頸。

數(shù)據(jù)可以很直觀地解釋這個結(jié)論。以40G接口為例,如果要達到40G線速,一個2.0主頻的CPU需要平均16.8ns / 33個cycles處理一個64字節(jié)包長的報文。而在IA平臺,基于Linux OS內(nèi)核態(tài)的網(wǎng)卡驅(qū)動,單核的轉(zhuǎn)發(fā)能力只有2Mpps@64B,遠低于網(wǎng)卡的最大吞吐能力。

為什么會這樣?在老調(diào)“芯”說最新一期視頻“DPDK:讓數(shù)據(jù)包極速狂奔”中,很形象地解釋了其中的重要原因。網(wǎng)絡數(shù)據(jù)傳輸就像是收發(fā)文件、蓋章抄送,要完成這個工作,有兩種路徑,一種路徑是專用處理器,另一種路徑是通用處理器,而通用處理器之所以效率低,并不是自己本身原因,而是Linux系統(tǒng)的工作模式:因為傳統(tǒng)的網(wǎng)卡驅(qū)動運行在操作系統(tǒng)內(nèi)核態(tài),而絕大多數(shù)軟件代碼運行在用戶態(tài),內(nèi)核態(tài)的網(wǎng)卡驅(qū)動采用中斷模式通知CPU處理數(shù)據(jù)包,而隨著網(wǎng)絡流量激增,僅僅響應中斷就讓CPU疲于應付,而在內(nèi)核態(tài)和用戶態(tài)之間的切換和數(shù)據(jù)拷貝等額外開銷也會浪費CPU的處理能力。

所以,這個時候,急需一套基于常用系統(tǒng)和標準服務器的高性能網(wǎng)絡傳輸開發(fā)框架,來規(guī)避傳統(tǒng)內(nèi)核態(tài)網(wǎng)卡驅(qū)動的額外開銷,充分利用IA處理器的能力來實現(xiàn)高效的報文轉(zhuǎn)發(fā)和處理,更好地應對云時代對數(shù)據(jù)IO需求的激增。

DPDK技術(shù)大揭秘

DPDK技術(shù)正是在這種大背景下應運而生。

2008年,DPDK由英特爾公司的網(wǎng)絡通信部門提出,主要是針對基于Intel的處理器和網(wǎng)卡開發(fā)。正如其全稱(Data Plane Development Kit,數(shù)據(jù)平面開發(fā)套件),DPDK提供豐富、完整的框架,讓CPU快速實現(xiàn)數(shù)據(jù)平面應用的數(shù)據(jù)包處理,高效完成網(wǎng)絡轉(zhuǎn)發(fā)等工作。

說到這里,有必要解釋一下數(shù)據(jù)平面的概念。在通信框架中,數(shù)據(jù)傳輸和連接管理通常被拆分為多個獨立的操作,這些操作被稱為“平面”,平面包括管理平面、數(shù)據(jù)平面、控制平面。在傳統(tǒng)網(wǎng)絡,這些平面都在路由器和交換機的固件中實現(xiàn),管理平面負責為網(wǎng)絡堆棧各個層級和網(wǎng)絡系統(tǒng)的其他部分提供管理、監(jiān)控和配置服務;控制平面決定流量的傳輸路徑;數(shù)據(jù)平面又稱為用戶平面,承載用戶流量,并負責接口間的數(shù)據(jù)包轉(zhuǎn)發(fā)。

DPDK的主要目的就是通過提供簡單、完整的框架,快速實現(xiàn)數(shù)據(jù)平面應用的數(shù)據(jù)包處理,其核心特征就是繞過了Linux內(nèi)核態(tài)對數(shù)據(jù)包的處理過程,直接在用戶態(tài)收發(fā)包來解決內(nèi)核的瓶頸。用收發(fā)文件來類比,傳統(tǒng)的方式是從網(wǎng)卡到用戶態(tài),需要先通過內(nèi)核,就像文件不是直接送給你,而是中間要經(jīng)過傳達室一樣,這樣的效率可想而知。而DPDK繞過內(nèi)核,避免了從內(nèi)核態(tài)向用戶態(tài)拷貝數(shù)據(jù)的開銷,以及內(nèi)核態(tài)與用戶態(tài)切換的開銷,就像文件直接送給你一樣,能夠?qū)崿F(xiàn)更高的效率。

除了用戶態(tài)驅(qū)動,DPDK用輪詢模式解決了中斷響應造成的上下文切換開銷。借用老調(diào)“芯”談視頻的類比,中斷模式,就像是每送來一個文件,就拍你一下,讓你看有文件來了,而輪詢模式則是直接將文件放到你的桌子上,你有空抬頭看一眼就拿過來處理。顯然,輪詢的模式效率更高。

綁定處理核的做法,則讓DPDK解決了OS對報文處理核調(diào)度的開銷問題。傳統(tǒng)上,多核處理器在工作時,數(shù)據(jù)包可能會跨越多個CPU核心,這容易造成CPU緩存失效,DPDK具有CPU親和性,將線程和CPU核進行一對一綁定,減少了彼此之間的調(diào)度切換的開銷。同樣用收發(fā)文件來類比,原來是一份文件在運輸過程中由幾個人完成,每換一個人都需要交接,而DPDK的綁定處理核的做法則是每一份文件都由專人負責到底,中間省去了交接的開銷。

此外,DPDK還用大頁內(nèi)存代替普通內(nèi)存,減少了緩存失效問題;用無鎖技術(shù)解決了資源競爭問題等等。可以這樣說,DPDK的每一個技術(shù),或者采用的每一種方法都是為了節(jié)省數(shù)據(jù)包的處理時間,讓數(shù)據(jù)加速奔跑。

目前,DPDK已經(jīng)開源,越來越多的廠商參與進來貢獻代碼,這使得DPDK可以支持更多的CPU和網(wǎng)卡,如CPU不僅支持IA,還支持AMD、ARM等廠商的處理器,網(wǎng)卡支持的范圍也包括Intel網(wǎng)卡、Mellanox網(wǎng)卡、ARM集成網(wǎng)卡等。

據(jù)了解,目前DPDK廣泛應用在通信、互聯(lián)網(wǎng)領(lǐng)域,很多的開源項目也利用DPDK作為傳輸?shù)募铀偻ǖ?,比如OVS。作為優(yōu)秀的用戶空間高性能數(shù)據(jù)包加速套件,DPDK現(xiàn)在已經(jīng)作為“膠水”模塊被用于多個網(wǎng)絡數(shù)據(jù)處理方案中,用來提升性能。

在招聘網(wǎng)站上,筆者也注意到DPDK相關(guān)職位也變得越來越熱門,很多云計算廠商都在高薪招聘“DPDK網(wǎng)絡開發(fā)工程師”等職位。

總而言之,DPDK在云時代影響深遠,它解決了通用處理器如何快速處理數(shù)據(jù)包的問題,也一舉粉碎了“IA處理器不適用于數(shù)據(jù)平面IO高速轉(zhuǎn)發(fā)業(yè)務場景”的傳統(tǒng)觀點,讓通用處理器代替專用處理器,高效地支撐起數(shù)字時代的數(shù)據(jù)洪流。


本文首發(fā)于微信公眾號:閆躍龍。文章內(nèi)容屬作者個人觀點,不代表和訊網(wǎng)立場。投資者據(jù)此操作,風險請自擔。

關(guān)鍵詞: DPDK

上一篇:
下一篇:

熱點話題

熱點推薦

頭條

?