WikiEdge:ArXiv-2408.17171v1/methods
跳至導覽
跳至搜尋
這篇論文的工作部分詳細介紹了如何開發和評估提出的SafeTail框架,旨在優化邊緣計算中的尾部延遲。以下是這部分的主要內容:
- 尾部延遲優化(Tail Latency Optimization):
- 定義了尾部延遲的概念,即超過90百分位閾值的延遲。該研究旨在通過在多個邊緣服務器上選擇性地複製服務來滿足目標延遲。
- SafeTail框架:
- 提出了SafeTail,這是一個基於獎勵的深度學習框架,通過學習優化的服務放置策略,在實現目標延遲和最小化額外資源使用之間取得平衡。
- 深度學習模型(Deep Learning Model):
- 實驗設置和模擬(Experimental Setup and Simulation):
- 通過追蹤驅動的模擬,SafeTail在三種不同的服務上展示了接近最優的性能,並在大多數基線策略上表現更好。實驗依賴於收集的WiFi網絡和計算追蹤。
- 問題公式化(Problem Formulation):
- 數學上定義了框架的輸入,包括一組同質的邊緣服務器、每個服務器的動態狀態、用戶的位置和設備要求、服務的特徵等。
- 冗餘調度(Redundant Scheduling):
- 冗餘調度的目標是在多個邊緣服務器上複製服務的執行,以最小化延遲變異並實現最快的響應。
- 獎勵函數(Reward Function):
- 基於行動優化尾部延遲和資源利用的有效性來給予獎勵。定義了目標延遲,並根據實現的延遲與目標延遲的相對關係來計算獎勵。
- 性能評估(Performance Evaluation):
- 使用不同的性能指標來衡量SafeTail與基線方法的比較,包括訪問率、延遲偏差、獎勵的絕對值以及與基線方法在中值和尾部延遲方面的比較。