分散式鍵值存儲系統 ETCD 簡介

資訊安全新知分享

NEITHNET 資安實驗室

  ETCD 是一個開源的分散式鍵值存儲系統,用於在分散式系統中保存配置數據、元數據和狀態信息。它是一個高可用、一致性、可擴展的系統,常用於容器管理工具(如 Kubernetes)、分散式系統、雲端架構中,以及需要高度一致性配置管理的場景。

ETCD 有以下這幾個主要的特點和功能:

   1、分散式存儲: ETCD 提供分散式的鍵值存儲,允許用戶在集群中的不同節點上存儲數據。

   2、一致性保證: ETCD 使用 Raft 一致性算法,確保在集群中的所有節點之間的數據是一致的,並且在節點失效或者網絡分區的情況下,仍然能夠保持數據的一致性。

   3、高可用性: ETCD 的設計支持高可用性,集群中的每個節點都可以容忍單個或多個節點的故障,保證系統的可用性。

   4、擴展性: ETCD 提供了擴展性的 API,支持用戶自定義的數據模型,並且可以方便地擴展到大規模的集群。

   5、Watch 機制: ETCD 支持 Watch 機制,用戶可以監聽鍵值的變化,當某個鍵的值發生變化時,可以及時地收到通知。

  在雲端架構中,ETCD 主要用於保存系統配置、應用程序的元數據(如服務發現信息、配置參數等)以及分散式系統的狀態信息。它為系統提供了一個高可用、一致性的配置管理解決方案,確保系統的穩定運行。

  ETCD 是一個分散式的鍵值存儲系統,用於保存配置數據、元數據和狀態信息。它使用了一個高效的 Raft 一致性算法來保證數據的一致性和可用性。ETCD 的架構主要由以下幾個關鍵部分組成:

1. gRPC / HTTP Server:

  ETCD 包含一個 HTTP 伺服器,用戶端可以通過 HTTP 協議向 ETCD 發送請求。這個 HTTP 伺服器接收客戶端的請求,並且根據請求的類型(GET、PUT、DELETE 等)來操作存儲在 ETCD 中的數據。

2. Store(存儲引擎):

  ETCD 使用 BoltDB 作為其存儲引擎。BoltDB 是一個高性能的嵌入式鍵值存儲庫,它提供了快速的讀寫操作和事務支持。ETCD 的所有數據都被存儲在 BoltDB 中,包括用戶配置的數據和系統的元數據(如集群成員信息、Raft 協議的元數據等)。

3. Raft(一致性算法):

  ETCD 使用了 Raft 一致性算法來確保分散式系統中的數據一致性。Raft 算法通過在節點之間進行選舉,確定一個節點作為領導人(Leader),領導人負責接受客戶端的請求,並且將這些請求應用到集群中的所有節點。Raft 確保了在節點失效或網絡分區的情況下,系統仍然能夠保持一致性。

4. WAL(Write-Ahead Log,先寫日誌):

  WAL 是 ETCD 中的一個重要組件,它用於持久化存儲數據的修改操作。在 ETCD 中,當有數據的修改操作(如 PUT、DELETE)時,首先這些操作會被寫入 WAL 中,然後再同步到存儲引擎(BoltDB)中。WAL 確保了即使在系統發生異常情況(如節點崩潰)時,數據的修改操作也不會丟失。

  總的來說,ETCD 的架構設計保證了數據的持久化、一致性和可用性。通過 HTTP 伺服器,它提供了方便的 API 接口供用戶端訪問,並且通過 Raft 算法和 WAL 保證了系統的穩定性和可靠性。

  在 ETCD 的架構中,MVCC(多版本並行控制)和 BoltDB 是兩個非常重要的概念。

  MVCC(多版本並行控制):

  在 ETCD 中,MVCC 是用來確保數據一致性的機制。當一個客戶端想要對 ETCD 中的數據進行修改時,ETCD 不會直接修改原始數據,而是將修改操作作為一個新的版本(Revision)存儲在數據庫中。這樣,原始數據就保持不變,而修改操作的版本信息被存儲起來。當客戶端想要讀取數據時,ETCD 會將當前時間點之前的所有版本的數據都返回給客戶端,這樣客戶端就可以根據需要選擇合適的版本。MVCC 保證了數據的一致性,並且支持多版本的並發讀取。

  BoltDB 是一個嵌入式的、高性能的、純 Go 語言編寫的鍵值存儲庫。在 ETCD 中,BoltDB 用作 MVCC 的存儲引擎。當 ETCD 接收到修改操作時,它會將這些修改操作以新的版本信息(Revision)寫入 BoltDB 中。BoltDB 提供了快速的鍵值查找和持久化功能,並且支持 ACID 事務,這使得 ETCD 能夠高效地實現 MVCC 機制。

  總結來說,在 ETCD 架構中,MVCC 通過多版本的方式確保了數據的一致性和並發讀取的能力。而 BoltDB 則作為 ETCD 的存儲引擎,提供了快速的鍵值存儲和事務支持,使得 ETCD 能夠高效地實現 MVCC 機制。這樣的設計保證了 ETCD 在分散式環境中能夠可靠地存儲和管理配置信息。

  由於ETCD上述的這些特性,以下是一些 ETCD 常見的應用場景:

1. 配置管理(Configuration Management):

  ETCD 可以用來存儲和管理系統的配置信息,例如服務的地址、端口、環境變數等。當配置信息變化時,應用程序可以通過監聽 ETCD 的事件來動態地更新配置,這樣就實現了動態配置管理。

2. 服務發現(Service Discovery):

  在微服務架構中,服務需要能夠自動發現和訪問其他服務。ETCD 可以用來存儲服務的地址和狀態信息,並且提供高效的服務查詢接口,這樣服務就可以通過 ETCD 來發現其他服務。

3. 分布式協調(Distributed Coordination):

ETCD 可以用來實現分布式系統中的協調和同步。它可以確保不同節點之間的操作是有序的,這對於分布式系統中的一致性和同步非常重要。例如,在 Kubernetes 集群中,ETCD 負責存儲集群的狀態信息。

4. 配置共享(Configuration Sharing):

多個應用程序或服務需要共享配置信息時,ETCD 可以作為一個中心化的配置存儲庫,各個應用程序可以從 ETCD 中讀取配置,這樣就實現了配置的共享和統一管理。

5. 分布式鎖(Distributed Locking):

ETCD 的特性使得它可以用來實現分布式系統中的鎖機制。應用程序可以使用 ETCD 的鍵來實現分布式鎖,確保在分布式環境中的同一時刻只有一個應用程序可以訪問某個資源。

6. 健康檢查(Health Checks):

ETCD 可以用來存儲服務的健康狀態信息。應用程序可以定期向 ETCD 上報自身的健康狀態,其他應用程序或監控系統可以通過 ETCD 查詢服務的健康狀態。

7. 分布式系統的元數據存儲(Metadata Store for Distributed Systems):

ETCD 可以用來存儲分布式系統的元數據,例如集群成員信息、配置版本、系統狀態等。這些元數據對於管理和監控分布式系統非常重要。

因為篇幅太長,下次我們再來研究這些ETCD的應用場景。

  更多資安訊息及防護策略,歡迎與NEITHNET資安專家聯繫:info@neithnet.com

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *