黄视频网站在线免费观看-黄视频网站在线看-黄视频网站在线观看-黄视频网站免费看-黄视频网站免费观看-黄视频网站免费

千鋒教育-做有情懷、有良心、有品質(zhì)的職業(yè)教育機(jī)構(gòu)

手機(jī)站
千鋒教育

千鋒學(xué)習(xí)站 | 隨時隨地免費(fèi)學(xué)

千鋒教育

掃一掃進(jìn)入千鋒手機(jī)站

領(lǐng)取全套視頻
千鋒教育

關(guān)注千鋒學(xué)習(xí)站小程序
隨時隨地免費(fèi)學(xué)習(xí)課程

當(dāng)前位置:首頁  >  技術(shù)干貨  > ES底層數(shù)據(jù)持久化的過程?

ES底層數(shù)據(jù)持久化的過程?

來源:千鋒教育
發(fā)布人:wjy
時間: 2022-09-19 16:30:11 1663576211

  通過分步驟看數(shù)據(jù)持久化過程:write -> refresh -> flush -> merge

  write 過程

ES底層數(shù)據(jù)持久化的過程1

 

  一個新文檔過來,會存儲在 in-memory buffer 內(nèi)存緩存區(qū)中,順便會記錄 Translog(Elasticsearch 增加了一個 translog ,或者叫事務(wù)日志,在每一次對 Elasticsearch 進(jìn)行操作時均進(jìn)行了日志記錄)。

  這時候數(shù)據(jù)還沒到 segment ,是搜不到這個新文檔的。數(shù)據(jù)只有被 refresh 后,才可以被搜索到。

  refresh 過程

ES底層數(shù)據(jù)持久化的過程2

 

  refresh 默認(rèn) 1 秒鐘,執(zhí)行一次上圖流程。ES 是支持修改這個值的,通過 index.refresh_interval 設(shè)置 refresh (沖刷)間隔時間。refresh 流程大致如下:

  1.in-memory buffer 中的文檔寫入到新的 segment 中,但 segment 是存儲在文件系統(tǒng)的緩存中。此時文檔可以被搜索到

  2.最后清空 in-memory buffer。注意: Translog 沒有被清空,為了將 segment 數(shù)據(jù)寫到磁盤

  3.文檔經(jīng)過 refresh 后, segment 暫時寫到文件系統(tǒng)緩存,這樣避免了性能 IO 操作,又可以使文檔搜索到。refresh 默認(rèn) 1 秒執(zhí)行一次,性能損耗太大。一般建議稍微延長這個 refresh 時間間隔,比如 5 s。因此,ES 其實就是準(zhǔn)實時,達(dá)不到真正的實時。

  flush 過程

  每隔一段時間—例如 translog 變得越來越大—索引被刷新(flush);一個新的 translog 被創(chuàng)建,并且一個全量提交被執(zhí)行

ES底層數(shù)據(jù)持久化的過程3

 

  上個過程中 segment 在文件系統(tǒng)緩存中,會有意外故障文檔丟失。那么,為了保證文檔不會丟失,需要將文檔寫入磁盤。那么文檔從文件緩存寫入磁盤的過程就是 flush。寫入磁盤后,清空 translog。具體過程如下:

  所有在內(nèi)存緩沖區(qū)的文檔都被寫入一個新的段。緩沖區(qū)被清空。一個Commit Point被寫入硬盤。文件系統(tǒng)緩存通過 fsync 被刷新(flush)。老的 translog 被刪除。

  merge 過程

  由于自動刷新流程每秒會創(chuàng)建一個新的段 ,這樣會導(dǎo)致短時間內(nèi)的段數(shù)量暴增。而段數(shù)目太多會帶來較大的麻煩。 每一個段都會消耗文件句柄、內(nèi)存和cpu運(yùn)行周期。更重要的是,每個搜索請求都必須輪流檢查每個段;所以段越多,搜索也就越慢。

  Elasticsearch通過在后臺進(jìn)行Merge Segment來解決這個問題。小的段被合并到大的段,然后這些大的段再被合并到更大的段。

  當(dāng)索引的時候,刷新(refresh)操作會創(chuàng)建新的段并將段打開以供搜索使用。合并進(jìn)程選擇一小部分大小相似的段,并且在后臺將它們合并到更大的段中。這并不會中斷索引和搜索。

ES底層數(shù)據(jù)持久化的過程4

 

  一旦合并結(jié)束,老的段被刪除:

  新的段被刷新(flush)到了磁盤。 ** 寫入一個包含新段且排除舊的和較小的段的新提交點。新的段被打開用來搜索。老的段被刪除。

ES底層數(shù)據(jù)持久化的過程5

  合并大的段需要消耗大量的I/O和CPU資源,如果任其發(fā)展會影響搜索性能。Elasticsearch在默認(rèn)情況下會對合并流程進(jìn)行資源限制,所以搜索仍然 有足夠的資源很好地執(zhí)行。

tags:
聲明:本站稿件版權(quán)均屬千鋒教育所有,未經(jīng)許可不得擅自轉(zhuǎn)載。
10年以上業(yè)內(nèi)強(qiáng)師集結(jié),手把手帶你蛻變精英
請您保持通訊暢通,專屬學(xué)習(xí)老師24小時內(nèi)將與您1V1溝通
免費(fèi)領(lǐng)取
今日已有369人領(lǐng)取成功
劉同學(xué) 138****2860 剛剛成功領(lǐng)取
王同學(xué) 131****2015 剛剛成功領(lǐng)取
張同學(xué) 133****4652 剛剛成功領(lǐng)取
李同學(xué) 135****8607 剛剛成功領(lǐng)取
楊同學(xué) 132****5667 剛剛成功領(lǐng)取
岳同學(xué) 134****6652 剛剛成功領(lǐng)取
梁同學(xué) 157****2950 剛剛成功領(lǐng)取
劉同學(xué) 189****1015 剛剛成功領(lǐng)取
張同學(xué) 155****4678 剛剛成功領(lǐng)取
鄒同學(xué) 139****2907 剛剛成功領(lǐng)取
董同學(xué) 138****2867 剛剛成功領(lǐng)取
周同學(xué) 136****3602 剛剛成功領(lǐng)取
相關(guān)推薦HOT
Visual Studio Online和GitHub有什么區(qū)別?

1.定位不同Visual Studio Online,現(xiàn)更名為Visual Studio Codespaces,是微軟提供的一款在線開發(fā)環(huán)境,允許開發(fā)者在云端進(jìn)行編程和調(diào)試工作。而...詳情>>

2023-10-15 00:21:42
什么是域控制器?

一、域控制器的定義域控制器是指在Windows Server操作系統(tǒng)中部署Active Directory服務(wù)的服務(wù)器。Active Directory是微軟公司開發(fā)的目錄服務(wù),用...詳情>>

2023-10-15 00:10:28
深度學(xué)習(xí)模型權(quán)重h5、weights、ckpt、pth有什么區(qū)別?

1.來源框架不同h5格式通常用于Keras和TensorFlow框架,weights用于Darknet框架,ckpt是TensorFlow框架的一種格式,而pth則主要用于PyTorch框架...詳情>>

2023-10-15 00:05:17
大數(shù)據(jù)測試工程師需要具備哪些技能?

一、理解大數(shù)據(jù)概念大數(shù)據(jù)測試工程師需要理解大數(shù)據(jù)的基本概念和原理,如分布式存儲、MapReduce、實時計算等。他們還需要了解如何處理大規(guī)模的...詳情>>

2023-10-14 23:43:03
為什么SpringBoot的 jar 可以直接運(yùn)行?

一、JAR文件的結(jié)構(gòu)與執(zhí)行方式Spring Boot的JAR包是Java Archive的縮寫,它是一種壓縮文件格式,可以將Java項目的類文件、資源文件以及依賴庫等...詳情>>

2023-10-14 23:01:49
快速通道
色综合久久天天综线观看| 亚欧乱色一区二区三区| 久久精品成人一区二区三区| 尤物视频网站在线观看| 九九久久国产精品大片| 四虎影视库| 好男人天堂网 久久精品国产这里是免费 国产精品成人一区二区 男人天堂网2021 男人的天堂在线观看 丁香六月综合激情 | 国产麻豆精品| 国产麻豆精品免费视频| 韩国三级视频网站| 日韩免费在线| 欧美大片一区| 九九精品久久| 成人高清视频免费观看| 美女免费毛片| 久久精品人人做人人爽97| 精品国产一级毛片| 99热视热频这里只有精品| 成人a大片高清在线观看| 国产亚洲精品成人a在线| 精品视频在线观看一区二区三区| 欧美日本免费| 日本伦理网站| 精品国产一区二区三区国产馆 | 国产a毛片| 一级毛片看真人在线视频| 国产美女在线一区二区三区| 91麻豆tv| 美女被草网站| 精品国产香蕉在线播出| 中文字幕一区二区三区 精品| 国产一区二区精品在线观看| 999久久久免费精品国产牛牛| 久草免费在线观看| 青青青草视频在线观看| 国产91精品露脸国语对白| 亚欧乱色一区二区三区| 日日夜夜婷婷| 美女被草网站| 日本久久久久久久 97久久精品一区二区三区 狠狠色噜噜狠狠狠狠97 日日干综合 五月天婷婷在线观看高清 九色福利视频 | 午夜欧美成人香蕉剧场| 韩国毛片| 91麻豆精品国产片在线观看 | 黄视频网站在线观看| 毛片高清| 一级女性大黄生活片免费| 久草免费在线观看| 亚洲天堂在线播放| 欧美a级片免费看| 日本在线播放一区| 国产成人女人在线视频观看| 国产精品免费精品自在线观看| 国产91素人搭讪系列天堂| 精品久久久久久影院免费| 免费国产在线观看| 久久国产影院| 国产91丝袜在线播放0| 欧美爱色| 999久久狠狠免费精品| 好男人天堂网 久久精品国产这里是免费 国产精品成人一区二区 男人天堂网2021 男人的天堂在线观看 丁香六月综合激情 | 天天做人人爱夜夜爽2020毛片| 日本伦理网站| 国产一区精品| 天天做日日爱夜夜爽| 日韩av片免费播放| 日韩综合| 日本久久久久久久 97久久精品一区二区三区 狠狠色噜噜狠狠狠狠97 日日干综合 五月天婷婷在线观看高清 九色福利视频 | 国产91精品一区二区| 你懂的日韩| 青青久久精品| 九九热国产视频| 深夜做爰性大片中文| 亚洲 欧美 成人日韩| 青草国产在线观看| 日本免费区| 国产91精品露脸国语对白| 精品视频免费在线| 一级女性全黄久久生活片| 国产综合91天堂亚洲国产| 四虎久久影院| 久久久成人网| 人人干人人插| 99久久视频| 一级女人毛片人一女人| 亚洲www美色| 一级片片| 国产欧美精品午夜在线播放| 日韩字幕在线| 免费一级片在线| 久久久久久久久综合影视网| 台湾毛片| 999久久久免费精品国产牛牛| 九九免费精品视频| 成人高清视频免费观看| 精品视频在线看 | 美女免费黄网站| 青青久久国产成人免费网站| 美女免费毛片| 亚欧成人乱码一区二区| 超级乱淫伦动漫| 毛片成人永久免费视频| 九九九国产| 精品国产香蕉在线播出| 青青久热| 精品国产一区二区三区免费 | 日本伦理黄色大片在线观看网站| 国产麻豆精品视频| 亚洲天堂免费| 日本免费区| 99色视频在线| 好男人天堂网 久久精品国产这里是免费 国产精品成人一区二区 男人天堂网2021 男人的天堂在线观看 丁香六月综合激情 | 久久国产一久久高清| 你懂的日韩| 毛片高清| 国产国语在线播放视频| 日韩在线观看网站| 国产一区精品| 国产麻豆精品视频| 亚洲女初尝黑人巨高清在线观看| 国产精品1024永久免费视频| 麻豆污视频| 香蕉视频亚洲一级| 欧美国产日韩久久久| 亚洲精品中文字幕久久久久久| 黄色短视频网站| 免费国产在线观看不卡| 午夜久久网| 精品在线观看国产| 欧美夜夜骑 青草视频在线观看完整版 久久精品99无色码中文字幕 欧美日韩一区二区在线观看视频 欧美中文字幕在线视频 www.99精品 香蕉视频久久 | 国产91素人搭讪系列天堂| 可以在线看黄的网站| 99久久精品国产免费| 美国一区二区三区| 久久久久久久免费视频| 成人免费高清视频| 精品视频一区二区三区免费| 亚洲wwwwww| 欧美一级视| 国产极品白嫩美女在线观看看| 97视频免费在线观看| 色综合久久天天综合绕观看 | 精品视频在线观看免费| 久久99中文字幕久久| 亚洲精品中文一区不卡| 国产不卡在线观看视频| 久久精品免视看国产成人2021| 日韩在线观看免费完整版视频| 麻豆网站在线看| 成人高清免费| 国产a视频| 日本久久久久久久 97久久精品一区二区三区 狠狠色噜噜狠狠狠狠97 日日干综合 五月天婷婷在线观看高清 九色福利视频 | 国产精品123| 久久精品大片| 日韩男人天堂| 91麻豆精品国产自产在线观看一区| 成人a大片在线观看| 国产麻豆精品hdvideoss| 一本高清在线| 黄视频网站免费观看| 黄视频网站免费| 日韩一级黄色| 国产成人精品影视| 精品国产一级毛片| 精品国产一区二区三区久久久狼| 日韩一级黄色大片| 日日日夜夜操| 沈樵在线观看福利| a级毛片免费全部播放| 精品视频在线观看免费| 亚洲第一色在线| 国产高清在线精品一区二区| 精品国产一区二区三区精东影业| 午夜精品国产自在现线拍| 韩国毛片| 国产一区二区精品久久91| 韩国三级视频网站| 久久久成人网| 精品在线观看国产| 精品视频免费观看| 欧美日本二区| 精品视频免费观看| 久草免费资源| 国产一区二区精品久久91| 亚洲第一页乱| 青青久久国产成人免费网站| 精品在线观看国产| 久久久成人影院| 九九精品久久| 国产原创视频在线| 欧美国产日韩一区二区三区| 日本在线播放一区| 国产成人女人在线视频观看| 日韩av成人| 亚洲 激情| 国产一区二区精品久久91| 亚洲精品中文字幕久久久久久| 国产视频一区二区在线播放| 欧美a免费| 天天做日日爱夜夜爽| 欧美激情一区二区三区在线 |