2010年7月18日 星期日

Twitter如何在數千台伺服器上快速部署程式碼?

答案是:用BT,也就是你我應該都很熟悉的BiTorrent。
對於網站經營者、創業者來說,延展性的問題是在網站流量成長過程中勢必會面對的問題,如何建立一個具有延展性的架構(scalable architecture)便是在規劃網站事業過程中不可或缺的專業知識。

如果服務本身的功能性合乎使用者需求,卻因為架構、程式效能、資料庫效能的問題導致服務成長出現瓶頸,如何評估、分析網站效能瓶頸?釐清問題後如何找出對應的解決方案,可以思考的相關議題可能包括:
  • 如何有效率地釐清問題?從使用者端的數據(讀取時間)或是從伺服器端的log檔案、硬體的負載率?
  • 網站效能瓶頸是出現在Client或Server端?是資料庫撐不住還是程式效能不好?是Request太多還是檔案太大?
  • Web Server、DB server如何擠出更多的資源?擠不出資源後如何擴展?擴展後會遇到什麼問題?
參考國外知名網站在架構上的作法是很好的一種方式,儘管服務的規模可能無法相比,但根據「正確的作法與經驗」踏出對的第一步,肯定是有助於突破網站營運的效能瓶頸。

Twitter身為全球最大的微網誌服務,運用數千台的伺服器提供服務給來自全球各地的使用者,然而每當網站內容、應用程式有更新時,如何盡可能地在越短的時間內將程式碼部署(deploy)到所有的伺服器便是相當重要的課題。

Twitter的開發部落格上的一篇文章:「Murder: Fast datacenter code deploys using BitTorrent」分享了Twitter如何持續改善應用程式的部署流程,在過去Twitter使用Capistrano部 署應用程式,Capistrano是許多Ruby/Rails使用者(當然也有其他語言的開發人員會使用)用來部署程式碼的一個開源專案,開發人員在部署 程式碼的過程都可以透過自動化的部署流程來簡化經常重複的動作,尤其在專案必須同時部署到多台應用程式伺服器時會特別方便。

Twitter在早期便依賴Capistrano來進行應用程式的部署,每當有新版本的程式碼需要釋出時,Capistrano會根據預設好的各種 設定、流程到Twitter所有的伺服器上進行更新的動作,在過去伺服器還不多的情況下一切都很美好,但隨著Twitter伺服器數量的成長,到了幾百台 伺服器時,事情已經不再像過去一樣美好,甚至到後來擁有數千台伺服器時,更新的作業會耗費40分鐘。

Twitter針對這個問題,認為問題的關鍵在於:使用集中式的系統,也就是所有的伺服器要輪流排隊到同一台版本控制系統上進行程式碼更新。 Twitter最初的想法是將版本控制系統也做出分散式的架構,伺服器的程式碼更新就可以分散到不同的機器來壓縮部署時間,但事實上版本控制系統即使分散 在多台伺服器上,也同樣會有這些伺服器要更新檔案的時間。因此Twitter發現或許是需要一個完全去中心化、最好像是BitTorrent,利用P2P 的特色讓所有的節點都可以協助進行程式碼的更新。

以結果來看,在採用了BitTorrent的方式來更新程式碼後,部署的時間從40分鐘大幅減少到只要12秒鐘!實在是非常驚人的改善,數千台伺服器的程式碼居然只要短短12秒鐘就能完成。

Twitter也將此次部署流程改善的成果分享出來,專案名稱叫做Murder,如果對於技術細節有興趣的讀者,可以再進行深入的研究;筆者簡單摘錄幾個重點如下:
  • Murder是以BitTornado為基礎開發出來的(BitTornado是某一種BitTorrent client)
  • Murder的定位是「協助我們快速的將檔案部署到大批伺服器上」
  • 利用BitTorrent的部署方式可避免防火牆的問題、擁有非常快的傳輸速度
  • 實際的部署程式碼是搭配Capistrano進行,網頁上有很清楚的說明
http://www.inside.com.tw/07/17/how-twitter-deploys-application-to-thousands-of-servers?utm_source=feedburner&utm_medium=feed&utm_campaign=Feed%3A+inside-blog-taiwan+%28%E7%B6%B2%E8%B7%AF%E8%B6%A8%E5%8B%A2%E8%A1%8C%E9%8A%B7%E8%88%87%E9%96%8B%E7%99%BC%29&utm_content=Google+Reader

2010年7月2日 星期五

谷歌CEO未否认Google Me社交项目

7月2日消息,据国外媒体报道,谷歌CEO埃里克·施密特(Eric Schmidt)今日出席由英国《卫报》举办的年度科技峰会,施密特在大会上并未公开否认外界关于谷歌社交网站的传言。这进一步证实了谷歌即将于今年年底推出Google Me社交服务的消息。

在大会上当施密特被问及谷歌是否会推出相关服务时,施密特回答,“届时谷歌将会宣布推出新的产品,而我现在将不予透露。”

分析称目前已有超过100万家网站加入Facebook社交网络平台,这使Facebook广告收入激增,也对谷歌带来了威胁。谷歌一直以来试图推出类似的社交服务,但几次尝试结果都不尽如人意。
在近两年,谷歌加快了社交网络业务发展。今年初谷歌推出基于Gmail的社交功能谷歌Buzz。但该产品未能对Twitter及Facebook等竞争对手形成挑战。

Quora联合创始人以及前Facebook CTO亚当·安格鲁(Adam D’Angelo)在本周末发表评论,称谷歌目前已意识到Buzz产品不足以对抗其他竞争对手。公司将会全力发展社交功能业务,并将吸引大量技术工程师研发该项目。

施密特在大会中表示,Facebook与谷歌并不具备可比性。搜索引擎与社交网络是不同的信息消费方式。用户在使用搜索引擎时同样可以选择分享或上传个人信息。(文韵)
Related Posts Plugin for WordPress, Blogger...