Facebook的研究人員就是這樣做的,他們周一發表了有關用機器學習調整運行在社交網絡服務器基礎設施上的服務器設置的文章。
Benjamin Letham、Brian Karrer、Guilherme Ottoni和Eytan Bakshy的文章(https://projecteuclid.org/euclid.ba/1533866666)發表在_Bayesian Analysis_期刊上,作者還在Facebook的人工智能研究博客上發了博文(https://research.fb.com/efficient-tuning-of-online-systems-using- bayesian-optimization/)。
Facebook與所有互聯網服務一樣也運行所謂的A/ B測試,目的是評估服務器在各個變量發生變化時的運行情況。有些人調整過不同版本的網頁,例如改變按鈕的外觀或文本的布局,他們就知道,調整(例如在一個商業網站上的調整)可以優化諸如點擊率或購物車使用之類的東西。
Facebook的科學家在這項研究中研究了實時生產系統(JIT:Just- in-time)編譯器選項的改變對性能的影響,編譯器將Python轉換為Facebook用于提供HTTP請求的開源Web服務器內的本機x86服務器代碼,即“HipHop虛擬機”。
例如,可以將JIT設置為執行給定代碼塊的內嵌之類的操作。這樣的調整會令代碼更大些,因此需要進行A / B測試,原因是更大的代碼會消耗更多的服務器內存,因而有必要確定是否值得這樣做。
文章的作者用了名為“貝葉斯分析”的方法,貝葉斯分析是一種機器學習算法,基本思想是強調使用過去或先前的信息來確定最佳解決方案。貝葉斯分析在過去十年里被廣泛用來(https://papers.nips.cc/paper/4522-practical-bayesian-optimization-of- machine-learning-algorithms.pdf)優化“超參數”機器學習,例如用來確定批量的大小或學習速度參數的大小。由于貝葉斯優化可以代替人手做超參數設計的苦差事,有人將用了貝葉斯優化的機器學習稱為“自動化”機器學習(http://www0.cs.ucl.ac.uk/staff /c.archambeau/publ/dali_archambeau18.pdf)。
文章的作者在使用JIT編譯器的設置運行A / B測試時在各種不同的地方用了貝葉斯。這樣做最大的好處是速度。由于必須在生產環境中進行測試以觀察不同設置的影響,因此希望能夠快速完成測試,以便將更改進一步用于網絡服務器。
作者在文章里表示,典型的A / B測試是在每一次只測試一個配置的改變,而貝葉斯優化則“允許我們用更少的測試共同調整更多的參數并找到更好的值。”
這里的關鍵是“共同”這個詞:貝葉斯機制可以從給定的A / B測試推斷出其他參數,以縮小“可行的“配置,因而無需進行相應的實際A / B測試就能排除某些配置選擇。作者用了廣泛搜索能力的字眼,稱“連續空間里參數值的測試不僅為我們提供了關于這些參數結果的信息,而且還提供了關于附近點的信息。” 貝葉斯模型可以從前期測試結果中獲得了新的經驗數據,這些經驗數據又可以用于進一步縮小搜索潛在最優配置的范圍,因此整個A / B測試逐步地就越來越高效了。
Facebook這項貝葉斯優化研究的新貢獻是處理噪聲。作者指出,在A / B實驗中測試服務器設置與優化機器學習網絡不同,這時的測試結果和測量均存在很多噪音,在現實世界中,設置的變化對服務器性能的影響可以是各種各樣的,而且還存在“噪聲”約束,例如服務器內存的使用需要在合理的范圍之內。文章的作者提出了在貝葉斯算法中解決這種噪聲的方法,他們得出的結論是,用新方法比用其他類型的貝葉斯方法更容易得到最優解。
用了此方法的A / B測試方法存在一個有趣的小問題,有些配置從不會被用到:因為貝葉斯優化分析的預測完全排除了那些配置,相應的變量已在測試中被移除。文章的作者則認為這是個好處,可以減少用戶進行大量不同實驗的煩惱。