調研機構IDG公司最近發(fā)布的一份調查報告表明，雖然組織的數(shù)據(jù)向云平臺的大規(guī)模遷移并不是從2020年開始的，但在這一年中得以快速發(fā)展。絕大多數(shù)組織計劃在2021年擴大對云計算數(shù)據(jù)倉庫和數(shù)據(jù)湖的投資。然而，圍繞數(shù)據(jù)管理和ETL的許多問題仍然存在。

調查發(fā)現(xiàn)，77%的IT決策者計劃在未來6到12個月內遷移到云計算數(shù)據(jù)倉庫或擴展現(xiàn)有的云計算數(shù)據(jù)倉庫。另有21%的IT決策者計劃在未來24個月擴展其云數(shù)據(jù)倉庫。只有1%的IT決策者表示，他們沒有遷移或擴展云數(shù)據(jù)倉庫的計劃。

這些調查數(shù)據(jù)非常突出，特別是考慮到IDG公司的調查參與者中只有38%(他們是商業(yè)智能、分析或數(shù)據(jù)科學領域的主管和更高級別的決策者)擁有云計算數(shù)據(jù)倉庫。調查發(fā)現(xiàn)，30%的組織正在運行內部部署的數(shù)據(jù)倉庫，而23%的組織使用非云數(shù)據(jù)倉庫。

顯然，在2021年的數(shù)據(jù)分析計劃中，云計算對各種規(guī)模的組織都有重要影響。例如Snowflake、AWS、Microsoft Azure、Google Cloud和Databrickss提供的云計算數(shù)據(jù)倉庫正在搶占市場份額。除了這些頂級的云計算數(shù)據(jù)倉庫供應商之外，大多數(shù)為內部部署開發(fā)數(shù)據(jù)倉庫的供應商在這一方面也提供了類似的產(chǎn)品。

根據(jù)ETL供應商Matillion公司委托IDG公司進行的調查，盡管云計算數(shù)據(jù)倉庫顯然正在快速增長，但不到一半的用戶計劃使用云計算數(shù)據(jù)倉庫。

IDG調查表明云數(shù)據(jù)倉庫部署正在增長

調查表明，57%的組織將采用內部部署和云計算數(shù)據(jù)倉庫相結合的數(shù)據(jù)管理策略，22%的組織采用多云數(shù)據(jù)倉庫的策略。在采用云數(shù)據(jù)倉庫策略的公司中，只有21%的組織使用單一的云平臺。

這項調查在數(shù)據(jù)湖方面也有類似的故事，數(shù)據(jù)湖是一個無限可擴展且價格低廉的數(shù)據(jù)存儲，在過去十年中已經(jīng)接替了Hadoop的職責。IDG公司的調查發(fā)現(xiàn)，雖然目前只有16%的組織正在使用數(shù)據(jù)湖，但高達56%的組織表示在將來使用數(shù)據(jù)湖，而另外26%的組織正在考慮使用數(shù)據(jù)湖。只有2%的組織表示并未考慮使用數(shù)據(jù)湖。

盡管很多組織正在將大量數(shù)據(jù)遷移到各種云存儲庫，但不應將云計算技術視為應對所有數(shù)據(jù)管理挑戰(zhàn)的靈丹妙藥。IDG公司的調查報告顯示，數(shù)據(jù)分析從業(yè)者需要一周的時間才能得到一個給定的數(shù)據(jù)集來進行分析?？偟膩碚f，準備和匯總數(shù)據(jù)進行分析需要花費將近一半的時間(45%)，另外30%的時間用于探索和訓練大型模型。只有25%的時間用于處理部署到生產(chǎn)中的模型。

Matillion公司產(chǎn)品總監(jiān)David Langton對原有分析陷阱正在增長并不感到驚訝。他說：“有很多原因使這種問題難以解決。首先也是最重要的一點是，組織所能生成的最有趣的分析和報告并不是來自單一的數(shù)據(jù)源，必須結合起來?！?/p>

他表示，云計算數(shù)據(jù)倉庫是將有趣的數(shù)據(jù)組合在一起，從而為用戶帶來有利可圖的見解。他說，一些客戶具有在內部部署設施進行這一操作的經(jīng)驗，并且只是在利用云計算數(shù)據(jù)倉庫提供的規(guī)模，而其他一些客戶現(xiàn)在才開始參與其中。

Langton說，“我們過去經(jīng)常在內部部署設施做所有這類事情。我們現(xiàn)在正在重新構想、重新配置工具，并將大量數(shù)據(jù)移動到云平臺中。有一些客戶對需要達到什么目標，進行現(xiàn)代化改造并以新的方式來做到這一點很了解。但也有很多新客戶從未做過?！?/p>

他表示，客戶選擇在ETL/ELT工具上進行大量選擇，以選擇在云存儲庫中移動和轉換其數(shù)據(jù)。他注意到最近出現(xiàn)的一個趨勢，即供應商將主要專注于提取和加載，而將轉換留給數(shù)據(jù)倉庫供應商。一些ETL/ELT供應商也支持轉換，但僅提供通用轉換。

在Matillion公司的案例中，該公司旨在提供功能齊全的ETL工具，該工具不僅可以提取和加載數(shù)據(jù)，而且還支持針對各種不同的內部部署和云計算數(shù)據(jù)倉庫系統(tǒng)的數(shù)據(jù)庫內轉換。他表示，即保持靈活性使其能夠跨多個數(shù)據(jù)目的使用許多不同的數(shù)據(jù)類型，是Matillion公司提供的產(chǎn)品的重要價值。

Langton說，“對我們來說，這是一個與眾不同的地方。許多ETL工具提供商都表示，具有一個讀取數(shù)據(jù)和寫入數(shù)據(jù)的標準適配器，并且中間是我們的轉換邏輯，因此獲得的好處是只需要編寫一次轉換邏輯。我們?yōu)橹С值拿總€目標系統(tǒng)編寫轉換邏輯，以對其進行優(yōu)化。因此，我們將在Snowflake上以首選方式進行操作，或者在Redshift上以首選方式進行操作，而不是將它們全部視為黑盒，并且它們的工作原理都是相同的?！?/p>

由于采取許多不同的方法，因此靈活性很重要。一些數(shù)據(jù)倉庫使用一種讀模式方法(Hadoop就是這樣設計的)，而另一些則在數(shù)據(jù)寫入數(shù)據(jù)庫時強制使用一種模式。事實上，許多云計算數(shù)據(jù)倉庫都配備了查詢處理功能，允許它們查詢駐留在云計算數(shù)據(jù)湖中的數(shù)據(jù)，這也加劇了混淆。支持JSON數(shù)據(jù)類型的各種方法也是如此，在使用SQL語言查詢JSON數(shù)據(jù)類型之前，通常必須將其扁平化。

總體而言，云計算分析中的工具和技術已經(jīng)得到了極大的改進，隨著客戶發(fā)現(xiàn)適合他們的方法，這推動了實驗的發(fā)展。Langton表示，在中間使用ETL/ELT工具定義數(shù)據(jù)的客戶具有一個優(yōu)勢，即可以輕松地更換數(shù)據(jù)倉庫。

他說：“我們越來越多地看到人們在成為客戶后遷移和嘗試不同的數(shù)據(jù)倉庫，并希望嘗試采用另一個數(shù)據(jù)倉庫。顯然，我們有辦法幫助遷移。但這確實表明組織已經(jīng)全力以赴，在這些決策上進行了很大的投入，希望在幾年之內可以更新并嘗試新的解決方案?！?/p>