谷歌于2月17日發(fā)布了TensorFlow Serving，這是個旨在幫助開發(fā)者將機器學習模型加入產(chǎn)品中的開源項目。很明顯，TensorFlow Serving必然是為谷歌自家的TensorFlow機器學習庫優(yōu)化，不過谷歌也表示它可擴展到支持其它模型和數(shù)據(jù)。

如 TensorFlow這樣的項目更易于構建機器學習算法，并為某些特定類型的數(shù)據(jù)輸入做適應學習，而TensorFlow Serving則專注于讓這些模型能夠加入到產(chǎn)品環(huán)境中。開發(fā)者使用TensorFlow構建模型，然后使用TensorFlow Serving的API從客戶端對輸入做回應。谷歌同時還表示，TensorFlow Serving能夠利用GPU資源加速處理過程。

如谷歌所說，有了這樣的系統(tǒng)并不僅僅意味著開發(fā)者能夠?qū)⑵錁嫿ǖ哪Ｐ透斓膽玫疆a(chǎn)品中，而且還能夠?qū)嶒灢煌乃惴ê湍Ｐ?，并且仍保持穩(wěn)定的結構。開發(fā)者還能夠基于新的數(shù)據(jù)改善模型或者其輸出，而架構的其它部分仍保持穩(wěn)定。

谷歌表示，TensorFlow Serving采用C++編寫，為性能做有優(yōu)化，在16核至強設備上，每核每秒能夠處理超過10萬個請求。當前TensorFlow Serving的code以及教程已經(jīng)能夠在GitHub獲取到(點擊這里)。