AWS黑科技,RedShift Spectrum,全表掃描 1000 PB 級別資料庫只需要 155 秒鐘,在 S3 上直接查詢
在今天於舊金山召開的AWS峰會上,公共雲基礎設施提供商亞馬遜網路服務公司(AWS)宣布推出Redshift Spectrum,這是AWS的Redshift託管數據倉庫服務的延伸版,能夠查詢駐留在傳統的AWS S3存儲服務裡面的數據。
UnitedStack有雲程輝朋友圈感嘆
Redshift Spectrum的推出將讓某些類型的數據查詢更加經濟實惠,原因是包括計算功能和存儲功能的Redshift是一種比較複雜、比較費錢的服務,它是專門為針對大量數據進行數字處理而設計的。
為了讓大家有一個直觀的了解,亞馬遜首席技術官沃納·沃格爾斯(Werner Vogels)舉了一個例子:使用Apache Hive開源數據查詢軟體對艾位元組(EB)數據執行查詢。這項任務需要五年的時間和1000個節點――也就是說,成本相當高昂。沃格爾斯表示,但是藉助Spectrum,只要花155秒和區區幾百美元。
AWS首席宣傳官傑夫·巴爾(Jeff Barr)在一篇博文中寫道:「如果你開始執行查詢,Redshift先對查詢進行拆分,生成一個查詢方案,盡量減少需要讀取的S3數據的數量,並充分利用面向列的格式以及按日期或另一個鍵劃分的數據。然後,Redshift向龐大的共享池請求Spectrum worker,並引導這些worker預測、過濾和整合S3數據。最後的處理在Redshift集群裡面加以執行,結果返回給你們用戶。」
他表示,Docomo、Time、Edmunds、Redfin和Yelp已經在使用AWS Redshift Spectrum。
競爭對手包括初創公司Snowflake的雲數據倉庫。微軟Azure和IBM的公共雲也提供數據倉庫服務。
AWS在2012年推出了Amazon Redshift。而S3本身的歷史可以追溯到2006年。
※阿里雲發布飛天敏捷版 支持Docker企業版
※FPGA洗牌關係資料庫市場
※隱私權倡導者用有圖案的衣服「戲耍」臉部識別技術
※未來簡史:人類最終將被計算機演算法淘汰 或難逃滅絕命運
TAG:雲頭條 |
※潮流戶外生活,你只需要一套A Bathing Ape ? x Helinox 2017聯名系列
※Windows 3.1系統25歲了!安裝需要6張軟盤
※新手從0到5公里需要多久?| Keep Talking
※這個夏天你需要一件不足199元的Supreme和Stussy撐逼格!
※B社新《掠食》XboxOne版本容量曝光需要36.51GB!
※Facebook的F8 2017大會 你需要知道這四件事
※解放雙肩 - 你需要一款小巧精緻的Mini Bag|發現雜誌室Vol.255
※好物|這個夏天你需要一件不足199元的Supreme和Stussy撐逼格!
※在 PyTorch 上跑 GAN 只需要 50 行代碼,不試試?
※蘋果iPhone 8需要哪些創新才能擊敗三星Galaxy S8?
※Phil Spencer 認為某些 Xbox 遊戲需要 Netflix 風格的訂閱模式
※Phil Spencer認為某些Xbox遊戲需要Netflix風格的訂閱模式
※亞馬遜機器學習總監Alex Smola:TensorFlow、Caffe等已經存在,為何還需要MXNet?
※armadillo認為G-Shock需要一個套才能滿足!
※遊戲《需要戀愛》辦showcase B1A4攻燦等出席
※Mimi系列No10:自拍需要理由嗎?Mimi跟你分享自拍的5大好處
※不同配色不同設計!Reebok CLASSIC ZOKU RUNNER Ultra Knit滿足你的所有需要
※三星發布新旗艦 Galaxy S8/S8+;谷歌翻譯對中國開放,不再需要 VPN
※為什麼冬天需要一雙stuart weitzman