應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點(diǎn)新聞
企業(yè)注冊(cè)個(gè)人注冊(cè)登錄

Meta 分享了它如何檢測(cè)其數(shù)據(jù)中心的靜默數(shù)據(jù)損壞

2022-03-18 14:31 ZDNet

導(dǎo)讀:SDC 是不會(huì)在系統(tǒng)日志中留下任何記錄或跟蹤的數(shù)據(jù)錯(cuò)誤。SDC的來源包括數(shù)據(jù)路徑依賴性,溫度變化和年齡以及其他硅因素。由于這些數(shù)據(jù)錯(cuò)誤是靜默的,因此它們可以在工作負(fù)載中保持未被檢測(cè)到,并在多個(gè)服務(wù)之間傳播。

  Facebook位于俄勒岡州普林維爾的數(shù)據(jù)中心之一。

  圖片來源:Meta

  經(jīng)過多年測(cè)試各種檢測(cè)靜默數(shù)據(jù)損壞(SDC)的方法,Meta概述了解決硬件問題的方法。

  SDC 是不會(huì)在系統(tǒng)日志中留下任何記錄或跟蹤的數(shù)據(jù)錯(cuò)誤。SDC的來源包括數(shù)據(jù)路徑依賴性,溫度變化和年齡以及其他硅因素。由于這些數(shù)據(jù)錯(cuò)誤是靜默的,因此它們可以在工作負(fù)載中保持未被檢測(cè)到,并在多個(gè)服務(wù)之間傳播。

  數(shù)據(jù)錯(cuò)誤可能會(huì)影響內(nèi)存、存儲(chǔ)、網(wǎng)絡(luò)以及計(jì)算機(jī) CPU,并導(dǎo)致數(shù)據(jù)丟失和損壞。

  Meta工程師三年前開始測(cè)試,因?yàn)橐坏┙M件已經(jīng)進(jìn)入其生產(chǎn)數(shù)據(jù)中心車隊(duì)之一,他們就很難檢測(cè)到SDC。

  "我們[需要]新的檢測(cè)方法,通過檢測(cè)SDC并大規(guī)模緩解它們來保持應(yīng)用程序運(yùn)行狀況和車隊(duì)彈性,"Meta工程師Harish Dattatraya Dixit在一篇博客文章中說。

  根據(jù)測(cè)試,Meta發(fā)現(xiàn)其檢測(cè)SDC的首選方法是使用停產(chǎn)和紋波測(cè)試。

  生產(chǎn)外測(cè)試是一種 SDC 檢測(cè)方法,當(dāng)計(jì)算機(jī)經(jīng)歷維護(hù)事件(如系統(tǒng)重新啟動(dòng)、內(nèi)核升級(jí)和主機(jī)置備等)時(shí),會(huì)發(fā)生這種情況。這種類型的測(cè)試搭載到這些事件上,以允許測(cè)試具有更長(zhǎng)的運(yùn)行時(shí)間,從而實(shí)現(xiàn)"更具侵入性的檢測(cè)性質(zhì)"。

  同時(shí),紋波測(cè)試通過在工作負(fù)載處于活動(dòng)狀態(tài)時(shí)運(yùn)行靜默錯(cuò)誤檢測(cè)來實(shí)現(xiàn)。這是通過對(duì)工作負(fù)載進(jìn)行影子測(cè)試以及在隊(duì)列和工作負(fù)載中間歇性地注入具有預(yù)期結(jié)果的位模式來完成的,Meta 發(fā)現(xiàn)這比生產(chǎn)外測(cè)試能夠更快地進(jìn)行 SDC 檢測(cè)。

  這種更快的測(cè)試類型在Meta的基礎(chǔ)架構(gòu)中"漣漪",允許測(cè)試時(shí)間比生產(chǎn)外測(cè)試運(yùn)行時(shí)低1,000倍。

  然而,元工程師觀察到,紋波測(cè)試只能檢測(cè)到70%的車隊(duì)數(shù)據(jù)損壞,盡管它能夠在15天內(nèi)檢測(cè)到它們。相比之下,停產(chǎn)測(cè)試需要六個(gè)月的時(shí)間才能檢測(cè)到相同的損壞以及其他損壞。

  在解釋這些好處和權(quán)衡時(shí),Dattatraya Dixit建議擁有大規(guī)?;A(chǔ)設(shè)施的組織應(yīng)使用這兩種方法來檢測(cè)SDC。

  "我們建議在大型機(jī)隊(duì)中使用和部署兩者,"Dattatraya Dixit說。

  "雖然檢測(cè)SDC對(duì)于大型基礎(chǔ)設(shè)施來說是一個(gè)具有挑戰(zhàn)性的問題,但多年的測(cè)試向我們表明,[停產(chǎn)]和紋波測(cè)試可以為盡快大規(guī)模檢測(cè)SDC提供一種新穎的解決方案。

  當(dāng)Meta工程師使用這兩種測(cè)試來檢測(cè)SDC時(shí),他們發(fā)現(xiàn)所有SDC最終都可以被檢測(cè)到。Meta表示,70%的SDC來自15天后的漣漪測(cè)試,停產(chǎn)測(cè)試在六個(gè)月內(nèi)趕上了剩余SDC的23%,而其余7%是通過其數(shù)據(jù)中心隊(duì)列中的重復(fù)漣漪實(shí)例發(fā)現(xiàn)的。

  為了進(jìn)一步推動(dòng)檢測(cè)SDC的創(chuàng)新,Meta還宣布將向?qū)W術(shù)界提供五筆贈(zèng)款,每筆價(jià)值約5萬(wàn)美元,用于在該研究領(lǐng)域創(chuàng)建研究提案。