什么是 AWS Spot 實例？

AWS Spot 實例是一種可以顯著降低計算成本的云服務實例類型。由于其價格波動較大，長期以來我們主要在開發（DEV）環境中使用它，或者用于將中間結果保存到 S3 或數據庫的計算任務，而非生產（PROD）環境。雖然市場上有第三方解決方案可以在生產環境中使用 Spot 實例，但由于我們業務場景的特殊性，存在諸多限制，因此未采用這些方案。

本文介紹的方法完全基于 AWS 的標準功能，無需額外的腳本或定時任務。以下是一些 Spot 實例的定價歷史截圖，展示了其成本節省的潛力。

m5.large實例（愛爾蘭區域，eu-west-1）
價格在三個月內基本穩定，節省成本約為 2.9 倍。

m5.large實例（美國東部區域，us-east-1）
價格波動較大，節省成本在 2.3 倍至 2.8 倍之間，具體取決于可用區。

t3.small實例（美國東部區域，us-east-1）
價格穩定，節省成本約為 3.4 倍。

服務架構

以下是本文討論的服務架構示意圖：

應用程序負載均衡器（ALB）→ EC2 目標組（TG）→ 彈性容器服務（ECS）

• 應用程序負載均衡器（ALB）：作為流量分發器，將請求發送到 EC2 目標組。
• EC2 目標組（TG）：負責在 ALB 實例上打開端口，并將其連接到 ECS 容器端口。
• 彈性容器服務（ECS）：AWS 提供的容器編排服務，類似于 Kubernetes，用于管理 Docker 容器。

在 ECS 中，一個實例可以運行多個功能容器，這些容器可能使用相同的端口。因此，ECS 會動態分配端口，并通過 TG 監控健康狀況。如果發現問題，TG 會停止將請求發送到有故障的實例。

EC2 自動擴展組（ASG）+ ECS 容量提供商（CP）

ASG 負責根據負載自動調整 EC2 實例的數量。然而，直到最近，AWS 并未提供內置功能來管理 ECS 所需的實例數量。ECS 容量提供商（CP）的引入解決了這一問題：

• ECS 服務可以與 ASG 關聯。
• 當任務需要更多實例時，ASG 會啟動新實例。
• 當實例處于空閑狀態時，ASG 會關閉多余的實例。
• ECS CP 允許設置目標容量百分比，以確保始終有一定數量的實例可供快速擴展使用。

EC2 啟動模板

EC2 啟動模板簡化了實例的創建過程，避免了重復配置。以下是關鍵配置參數：

• ECS_ENABLE_SPOT_INSTANCE_DRAINING=true：當 Spot 實例即將被回收時，ECS 會將其任務切換到“排空”狀態，不再分配新任務。
• ECS_CONTAINER_STOP_TIMEOUT：設置任務停止的超時時間，默認 30 秒，可根據需求調整。
• ECS_CLUSTER：指定實例所屬的 ECS 集群。

創建服務

以下是創建服務的具體步驟：

1. 創建 EC2 啟動模板

• 亞馬遜機器映像（AMI）：推薦使用 ECS 優化的 AMI。
• 實例類型：根據任務需求選擇合適的實例類型。
• 網絡設置：配置虛擬私有云（VPC）和安全組。
• 用戶數據：配置 ECS 代理參數，例如 ECS_ENABLE_SPOT_INSTANCE_DRAINING。

2. 配置 EC2 自動擴展組（ASG）

• 啟動模板：選擇之前創建的模板。
• 購買選項：設置按需實例與 Spot 實例的比例，例如 20% 按需，80% Spot。
• 組大小：定義實例的最小和最大數量。
• 擴展策略：基于 ECS 任務數量自動擴展實例。

3. 配置應用程序負載均衡器（ALB）和目標組（TG）

• 偵聽器：配置 HTTP（80）和 HTTPS（443）端口。
• 目標組：設置健康檢查參數，確保實例的可用性。

4. 創建 ECS 任務定義

• 容器定義：配置內存限制、端口映射、環境變量等。
• 日志記錄：將日志輸出到 AWS CloudWatch。

5. 創建 ECS 集群和容量提供商

• 集群：創建空集群，并與啟動模板中的 ECS_CLUSTER 名稱保持一致。
• 容量提供商：關聯 ASG，并設置目標容量百分比。

6. 配置 ECS 服務

• 任務定義：選擇之前創建的任務定義。
• 擴展配置：設置任務的最小健康百分比和最大百分比，確保部署過程中服務的可用性。

總結

通過本文的方法，您可以利用 AWS Spot 實例顯著降低服務器成本，同時通過自動擴展功能確保服務的高可用性。無論是配置 EC2 啟動模板、自動擴展組，還是設置 ECS 服務和容量提供商，所有步驟均基于 AWS 的標準功能，無需額外工具支持。希望本文能為您的系統優化提供實用參考。

原文鏈接: https://adapty.io/blog/designing-scalable-api-on-aws-spot-instance/