A-Tune-Online: Efficient and QoS-aware Online Configuration Tuning  for Dynamic Workloads

作者：Yu Shen, Beicheng Xu, Yupeng Lu, Donghui Chen, Huaijun Jiang, Zhipeng Xie, Senbo Fu, Nan Zhang, Yuxin Ren, Ning Jia, Xinwei Hu, Bin Cui

Github鏈接：https://github.com/PKU-DAIR/A-Tune-Online

1. 問題背景與動機

現(xiàn)代在線服務（如數(shù)據庫、編譯器、分布式系統(tǒng)等）需要處理動態(tài)變化的負載，例如白天以交互式查詢?yōu)橹?，夜間轉為批量處理任務，或突發(fā)流量導致的負載波動。傳統(tǒng)靜態(tài)調優(yōu)方法假設負載固定，無法適應這種動態(tài)性，導致歷史最優(yōu)配置在新負載下性能下降甚至失效。因此，在線配置調優(yōu)系統(tǒng)需要滿足三個核心目標：動態(tài)性（快速適應負載變化）、效率（低調優(yōu)開銷）和QoS保障（避免性能劣化）。然而，現(xiàn)有在線調優(yōu)方法因未能有效解決歷史數(shù)據干擾和負載變化檢測問題，在實際場景中表現(xiàn)不佳。

現(xiàn)有在線調優(yōu)方法主要分為兩類：一類（如Rover[1]、Online-Tune[2]）假設負載變化微小，持續(xù)復用全部歷史觀測數(shù)據優(yōu)化，但不同負載的性能特征可能差異極大甚至負相關，導致當前調優(yōu)被誤導，收斂效率低下；另一類（如OnlineTune[3]）嘗試通過無監(jiān)督聚類分割歷史數(shù)據，但聚類準確性有限，誤分類的觀測數(shù)據仍會污染模型。此外，這些方法缺乏顯式且魯棒的負載變化檢測機制。

在線負載通常具有周期性或階段性穩(wěn)定的特點（如一種負載持續(xù)運行一段時間后切換），A-Tune-Online的核心思路是：通過多階段負載檢測精準觸發(fā)優(yōu)化重啟，隔離不相關歷史數(shù)據；結合相似任務知識遷移加速重啟后的收斂；并利用置信區(qū)間構建安全區(qū)域保障QoS。實驗表明，其負載切換檢測準確率和最終性能均顯著優(yōu)于現(xiàn)有方法。

2. 在線調優(yōu)流程

圖1. A-Tune-Online系統(tǒng)流程圖

（1）流程概述

如圖1所示，A-Tune-Online的在線調優(yōu)流程是一個基于環(huán)境感知的動態(tài)優(yōu)化系統(tǒng)。系統(tǒng)通過客戶端持續(xù)采集兩類關鍵環(huán)境變量：一類是通用系統(tǒng)指標，包括CPU利用率、內存使用率等基礎資源指標；另一類是應用特定指標，如Spark執(zhí)行器的任務執(zhí)行時間、數(shù)據庫查詢類型分布等。這些環(huán)境變量通過日志文件采集，既保證了數(shù)據的可獲取性，又避免了涉及隱私的高層信息泄露。

在服務器端，系統(tǒng)以環(huán)境變量為核心構建了完整的調優(yōu)閉環(huán)。每次迭代時，服務器接收客戶端上傳的環(huán)境變量和性能數(shù)據，并將其存入歷史數(shù)據庫。① 系統(tǒng)首先采用多指標多階段負載檢測器來分析環(huán)境變量的變化：先通過基于規(guī)則的方法快速檢測潛在變化，再通過回放驗證確保檢測準確性。當環(huán)境變量顯示負載發(fā)生顯著變化時，系統(tǒng)會觸發(fā)重啟優(yōu)化流程。② 此時基于機器學習相似性的雙預熱啟動機制會從歷史數(shù)據中篩選最相似的任務環(huán)境特征，為新一輪優(yōu)化提供熱啟動。之后 ③ 若環(huán)境變量未顯示顯著變化，則使用置信下界增強的QoS感知貝葉斯優(yōu)化，基于當前環(huán)境特征構建概率隨機森林模型，該模型能同時考慮配置參數(shù)和環(huán)境變量的交互影響，從而生成既安全又高效的配置推薦。

（2）多指標多階段負載檢測器

這一設計直接針對現(xiàn)有方法負載檢測精度不足的問題。通過結合規(guī)則基檢測和回放基檢測，系統(tǒng)既能快速響應潛在變化，又能通過回放驗證確保檢測準確性。這種高精度的檢測機制為后續(xù)優(yōu)化提供了可靠的基礎，避免了不必要的重啟或遺漏關鍵變化。當檢測到負載變化后，系統(tǒng)會觸發(fā)優(yōu)化重啟。

A-Tune-Online采用了一種創(chuàng)新的多階段負載變化檢測機制，以應對動態(tài)工作負載帶來的調優(yōu)挑戰(zhàn)。該系統(tǒng)首先通過一個基于多指標規(guī)則的高精度檢測器進行初步判斷，只有當所有預設指標（如CPU利用率、內存使用率等系統(tǒng)指標和特定應用指標）都一致表明負載變化時，才會觸發(fā)變化信號。這種"全票通過"的設計理念顯著降低了誤報率，確保只有在負載確實發(fā)生變化時才重啟優(yōu)化過程。

當?shù)谝浑A段的保守檢測未能達成一致判斷但部分指標顯示異常時，系統(tǒng)會啟動更精確但計算成本較高的回放式檢測作為第二道防線。這種分階段的設計既保證了檢測的實時性，又通過逐步深入的驗證確保了結果的可靠性。檢測過程中，系統(tǒng)運用了嚴密的數(shù)學理論來保證多指標聯(lián)合判斷的精度下限，并通過精心選擇的指標組合來進一步提升檢測性能。一旦任一階段確認負載變化，系統(tǒng)就會立即終止當前優(yōu)化過程，并針對新負載啟動全新的調優(yōu)流程。

這種多階段檢測策略的創(chuàng)新之處在于：它通過規(guī)則基檢測的快速篩選和回放檢測的精確驗證相結合，在保證高精度的同時兼顧了召回率，有效解決了傳統(tǒng)方法在動態(tài)負載場景下要么過于敏感（導致頻繁無效重啟）、要么過于遲鈍（錯過重要變化）的兩難問題。實驗證明，該檢測機制能準確識別各種類型的負載變化，為后續(xù)的優(yōu)化重啟決策提供了可靠依據。

（3）基于相似性的雙預熱啟動機制。

A-Tune-Online采用了一種基于任務相似性的熱啟動策略來優(yōu)化重啟過程，當檢測到負載變化時，系統(tǒng)會立即啟動新調優(yōu)任務，并針對不同相似度采取差異化的預熱策略，既充分利用了相似任務的知識加速收斂，又有效隔離了不相似任務帶來的負面影響。這一設計使得系統(tǒng)在重啟后平均僅需15.6次迭代即可收斂，大大提升了調優(yōu)效率。

系統(tǒng)首先構建了一個基于環(huán)境向量的任務相似性預測模型，該模型采用LightGBM回歸器，通過分析隨機配置在歷史任務中的表現(xiàn)排序一致性（Kendall-tau相關系數(shù)）來量化任務相似度。

在具體實施時，系統(tǒng)采用兩級漸進式預熱機制：第一級配置預熱會選取相似度最高的5個歷史任務，將其最優(yōu)配置作為新任務的初始候選；第二級模型預熱則僅在最高相似度超過0.65閾值時，直接復用相似任務的代理模型進行前10次迭代的配置推薦。這種雙重機制既充分利用了高相似任務的知識，又通過嚴格的相似度閾值避免了低質量遷移。實驗數(shù)據顯示，相似度高于0.65的代理模型在前10次迭代中預測準確性顯著優(yōu)于新建模型，而10次迭代后新建模型逐漸成熟，此時系統(tǒng)自動切換為基于當前任務觀測的純BO優(yōu)化。

為確保魯棒性，當訓練數(shù)據不足時，系統(tǒng)會降級使用歐氏距離進行任務匹配，并禁用模型級預熱，這種設計使得A-Tune-Online能夠在最差情況下退化為標準BO性能。整個預熱過程結束后，系統(tǒng)將完全依賴當前任務的觀測數(shù)據，確保不相似任務的負面影響不會持續(xù)存在。

（4）置信下界增強的QoS感知貝葉斯優(yōu)化。

為確保調優(yōu)過程的安全性，系統(tǒng)引入了QoS感知機制，傳統(tǒng)貝葉斯優(yōu)化在探索新配置時可能造成性能下降，而該系統(tǒng)通過構建基于置信下界的安全區(qū)域，將采樣限制在性能有保障的范圍內，完全避免了QoS違規(guī)。

系統(tǒng)通過構建預測置信下界來量化每個配置的安全程度?；诖耍到y(tǒng)動態(tài)維護一個安全區(qū)域，僅包含那些預測下界超過預設閾值δ的配置（δ通常設為默認配置性能水平）。在每輪迭代中，優(yōu)化器會從安全區(qū)域內選擇預期改進最大的配置進行測試，而非全局最優(yōu)配置。

這種機制具有雙重優(yōu)勢：隨著觀測數(shù)據積累，安全區(qū)域會自適應擴展，既避免了早期盲目探索高風險區(qū)域，又不會永久限制搜索空間。實驗表明，該方法能在保證零QoS違規(guī)的前提下，實現(xiàn)與無約束優(yōu)化相當?shù)淖罱K性能，解決了在線調優(yōu)中安全與探索的根本矛盾。

3. 實驗結果

A-Tune-Online在5個典型場景（MySQL、Redis、Kafka、UnixBench和Spark）進行評測，通過周期切換12-36種不同負載模擬真實動態(tài)環(huán)境。系統(tǒng)從應用日志提取10維（Kafka）至67維（MySQL）環(huán)境向量，每10分鐘采集性能數(shù)據并推薦新配置，最多評估40個配置。對比基線包括GP-BO、TPE、OnlineTune等5種調優(yōu)方法，測試平臺為96核CPU/100G內存服務器。實驗指標涵蓋吞吐量（rps/lps）和運行時等關鍵性能參數(shù)。

圖2. 無歷史數(shù)據實驗結果

圖3. 有歷史數(shù)據實驗結果

實驗首先在無歷史知識的情況下評估各調優(yōu)算法的表現(xiàn)，如圖2所示。當所有方法都從零開始時，基于貝葉斯優(yōu)化的方法（如GP-BO、TPE）在初始階段表現(xiàn)優(yōu)于強化學習方法（DDPG+和QTune），這與前人研究中關于強化學習需要更多初始配置的結論一致。隨著時間推移，A-Tune-Online和OnlineTune憑借對動態(tài)負載的處理能力逐漸拉開差距。關鍵數(shù)據顯示，A-Tune-Online在MySQL和Redis場景中分別實現(xiàn)了0.88和0.81的負載分類準確率，顯著高于OnlineTune的0.59和0.57，這使其能有效利用97%的相關歷史觀測數(shù)據，避免不相似負載的干擾。相比之下，OnlineTune由于依賴不穩(wěn)定的無監(jiān)督聚類，性能受到明顯限制。

如圖3，在有歷史知識的情況下，實驗進一步驗證了各方法利用先驗信息的能力。預先使用標準BO為每個場景構建歷史數(shù)據庫后，A-Tune-Online展現(xiàn)出更快的收斂速度。在涵蓋MySQL、Redis等五大場景的測試中，該系統(tǒng)相比OnlineTune和DDPG+分別實現(xiàn)了2.86%-13.20%和4.68%-13.18%的性能提升。特別值得注意的是，在Spark任務中僅用5次迭代就找到近優(yōu)配置，證明其相似任務匹配機制的有效性。效率指標顯示，達到相同性能水平時，A-Tune-Online平均比OnlineTune快2.9倍，比DDPG+快1.72倍。這些結果充分說明，系統(tǒng)設計的雙重熱啟動策略能智能區(qū)分負載相似度，在保證安全性的前提下最大化歷史知識的價值。

表1.切換檢測召回率

此外，A-Tune-Online的負載變化檢測機制在實驗中展現(xiàn)出卓越的性能表現(xiàn)。如表1所示，該系統(tǒng)的多階段檢測策略在五大測試場景中實現(xiàn)了76%-91%的召回率，其中回放式檢測器平均提升了8%的召回性能。特別值得注意的是，得益于保守設計原則，所有場景下的檢測精度都達到了完美的100%，完全避免了誤報情況。在檢測效率方面，系統(tǒng)平均僅需觸發(fā)0.6次回放檢測（耗時約6分鐘），且大多數(shù)負載變化能在5次配置評估內被準確識別。這些數(shù)據充分驗證了系統(tǒng)設計的規(guī)則基檢測與回放基檢測相結合的策略，既保證了檢測的及時性，又確保了判斷的準確性。

4. 總結

A-Tune-Online 是一種面向動態(tài)工作負載的在線配置調優(yōu)系統(tǒng)，能夠同時實現(xiàn)高性能、高效率和 QoS 保障。該系統(tǒng)通過多階段負載突變檢測（結合規(guī)則和重放檢測器）精準識別工作負載變化，并觸發(fā)優(yōu)化重啟以避免歷史不相關數(shù)據的干擾。為提高重啟后的優(yōu)化效率，它采用熱啟動技術，利用回歸模型匹配歷史相似負載并復用其配置或代理模型知識。此外，系統(tǒng)通過維護安全區(qū)域并優(yōu)先推薦預期改進最優(yōu)的配置來確保 QoS。實驗表明，A-Tune-Online 在多種場景下均能準確檢測負載變化、快速適應新負載，并提供比現(xiàn)有系統(tǒng)更優(yōu)的配置推薦和 QoS 保障。

參考文獻

1. Y. Shen, X. Ren, Y. Lu, H. Jiang, H. Xu, D. Peng, Y. Li, W. Zhang, and B. Cui, “Rover: An online spark sql tuning service via generalized transfer learning,” in Proceedings of the 29th ACM SIGKDD Conference on Knowledge Discovery and Data Mining, 2023, pp. 4800-4812.
2. Y. Li, H. Jiang, Y. Shen, Y. Fang, X. Yang, D. Huang, X. Zhang, W. Zhang, C. Zhang, P. Chen et al., “Towards general and efficient online tuning for spark,” Proceedings of the VLDB Endowment, vol. 16, no. 12, pp. 3570-3583, 2023.
3. X. Zhang, H. Wu, Y. Li, J. Tan, F. Li, and B. Cui, “Towards dynamic and safe configuration tuning for cloud databases,” in Proceedings of the 2022 International Conference on Management of Data, 2022, pp. 631-645.

實驗室簡介

北京大學數(shù)據與智能實驗室（Data And Intelligence Research Lab at Peking Univeristy，PKU-DAIR實驗室）由北京大學計算機學院崔斌教授領導，長期從事數(shù)據庫系統(tǒng)、大數(shù)據管理與分析、人工智能等領域的前沿研究，在理論和技術創(chuàng)新以及系統(tǒng)研發(fā)上取得多項成果，已在國際頂級學術會議和期刊發(fā)表學術論文200余篇，發(fā)布多個開源項目。課題組同學曾數(shù)十次獲得包括CCF優(yōu)博、ACM中國優(yōu)博、北大優(yōu)博、微軟學者、蘋果獎學金、谷歌獎學金等榮譽。PKU-DAIR實驗室持續(xù)與工業(yè)界展開卓有成效的合作，與騰訊、阿里巴巴、蘋果、微軟、百度、快手、中興通訊等多家知名企業(yè)開展項目合作和前沿探索，解決實際問題，進行科研成果的轉化落地。