如何成為一名大數(shù)據(jù)工程師？

未來，對熟練的大數(shù)據(jù)工程師的需求將急速增長?，F(xiàn)實的情況是這樣的，無論公司屬于哪個行業(yè)，要想在當(dāng)今競爭激烈的市場環(huán)境中取得成功，需要一個強大的軟件架構(gòu)用來存儲和訪問公司數(shù)據(jù)，最好從公司創(chuàng)立一開始就要搭建它。

在如今有時候有數(shù)據(jù)的地方就叫大數(shù)據(jù)，這未免有些夸張，在本文中統(tǒng)稱為數(shù)據(jù)工程師和數(shù)據(jù)科學(xué)家。

先了解一下，數(shù)據(jù)工程師究竟做什么事？一個人怎么樣成為數(shù)據(jù)工程師？我們將討論這個有趣的領(lǐng)域以及如何成為數(shù)據(jù)工程師。

數(shù)據(jù)工程師都做什么？

數(shù)據(jù)工程師負(fù)責(zé)創(chuàng)建和維護分析基礎(chǔ)架構(gòu)，該基礎(chǔ)架構(gòu)幾乎可以支持?jǐn)?shù)據(jù)世界中的所有其他功能。他們負(fù)責(zé)大數(shù)據(jù)架構(gòu)的開發(fā)、構(gòu)建、維護和測試，例如數(shù)據(jù)庫和大數(shù)據(jù)處理系統(tǒng)。大數(shù)據(jù)工程師還負(fù)責(zé)創(chuàng)建用于建模，挖掘，獲取和驗證數(shù)據(jù)集合等流程。

因此，數(shù)據(jù)工程師需要掌握通用腳本語言和工具，利用和改進數(shù)據(jù)分析系統(tǒng)，不斷提高數(shù)據(jù)數(shù)量和質(zhì)量。

數(shù)據(jù)工程師與數(shù)據(jù)科學(xué)家有何區(qū)別

雖然在技能和角色方面存在一定程度的重疊，但這兩個職位正日益分化為不同的角色。

數(shù)據(jù)科學(xué)家更關(guān)注與數(shù)據(jù)基礎(chǔ)設(shè)施的互動，而不是去創(chuàng)建和維護數(shù)據(jù)基礎(chǔ)設(shè)施。通常負(fù)責(zé)進行市場和業(yè)務(wù)運營研究，以確定趨勢和關(guān)系，數(shù)據(jù)科學(xué)家用各種復(fù)雜的機器和方法與數(shù)據(jù)進行交互并對其采取行動。

數(shù)據(jù)科學(xué)家通常精通機器學(xué)習(xí)和高級數(shù)據(jù)建模，因為他們希望借助高級數(shù)學(xué)模型和算法將原始數(shù)據(jù)轉(zhuǎn)化為可操作的，可理解的內(nèi)容。這些信息通常用作分析來源，以告訴決策者“更大的圖景”。

那么是什么讓數(shù)據(jù)科學(xué)家與數(shù)據(jù)工程師不同呢？兩者主要區(qū)別在目標(biāo)焦點。數(shù)據(jù)工程師更專注于構(gòu)建用于數(shù)據(jù)生成和數(shù)據(jù)基礎(chǔ)架構(gòu); 數(shù)據(jù)科學(xué)家專注于對生成的數(shù)據(jù)進行數(shù)學(xué)和統(tǒng)計分析。

數(shù)據(jù)工程師的關(guān)鍵技能

下面介紹數(shù)據(jù)工程師所需的幾項關(guān)鍵技能。

1.大數(shù)據(jù)架構(gòu)的工具與組件

數(shù)據(jù)工程師更關(guān)注分析基礎(chǔ)架構(gòu)，因此所需的大部分技能都是以架構(gòu)為中心的。

2.深入了解SQL和其它數(shù)據(jù)庫解決方案

數(shù)據(jù)工程師需要熟悉數(shù)據(jù)庫管理系統(tǒng)，深入了解SQL至關(guān)重要。同樣其它數(shù)據(jù)庫解決方案，例如Cassandra或BigTable也須熟悉，因為不是每個數(shù)據(jù)庫都是由可識別的標(biāo)準(zhǔn)來構(gòu)建。

3.數(shù)據(jù)倉庫和ETL工具

數(shù)據(jù)倉庫和ETL經(jīng)驗對于數(shù)據(jù)工程師至關(guān)重要。像Redshift或Panoply這樣的數(shù)據(jù)倉庫解決方案，以及ETL工具，比如StitchData或Segment都非常有用。此外，數(shù)據(jù)存儲和數(shù)據(jù)檢索經(jīng)驗同樣重要，因為處理的數(shù)據(jù)量是個天文數(shù)字。

4.基于Hadoop的分析（HBase，Hive，MapReduce等）

對基于Apache Hadoop的分析有深刻理解是這個領(lǐng)域的一個非常必要的需求，一般情況下HBase，Hive和MapReduce的知識存儲是必需的。

5.編碼

說到解決方案，編碼與開發(fā)能力是一個重要的優(yōu)點（這也是許多職位的要求），你要熟悉Python，C/C++，Java，Perl，Golang或其它語言，這會非常有價值。

6.機器學(xué)習(xí)

雖然數(shù)據(jù)工程師主要關(guān)注的是數(shù)據(jù)科學(xué)，但對數(shù)據(jù)處理技術(shù)的理解會加分，比如一些統(tǒng)計分析知識和基礎(chǔ)數(shù)據(jù)建模。

機器學(xué)習(xí)已經(jīng)成為標(biāo)準(zhǔn)數(shù)據(jù)科學(xué)，該領(lǐng)域的知識可以幫我們構(gòu)建同類產(chǎn)品的解決方案。這種知識還有一個好處，就是讓你在這個領(lǐng)域極具市場價值，因為在這種情況下能夠“戴上兩頂帽子”會讓你成為一個更強大的工具。

7.多種操作系統(tǒng)

最后，需要我們對Unix，Linux和Solaris系統(tǒng)有深入了解，許多數(shù)學(xué)工具基于這些操作系統(tǒng)，因為它們有Windows和Mac系統(tǒng)功能沒有的訪問權(quán)限和特殊硬件需求。

如何成為數(shù)據(jù)工程師？

與其他職業(yè)相比，數(shù)據(jù)工程師需要用更復(fù)雜的學(xué)習(xí)方法。數(shù)據(jù)工程師通常有計算機科學(xué)技術(shù)相關(guān)學(xué)位會更好，然后再進一步學(xué)習(xí)供應(yīng)商特定的認(rèn)證計劃和培訓(xùn)課程。

計算機相關(guān)學(xué)位雖然重要，但只是故事的一部分，獲得適合的認(rèn)證可能非常有價值，市場上也有一些大數(shù)據(jù)工程師專門認(rèn)證，如下：

Google認(rèn)證專家 – 數(shù)據(jù)工程。該認(rèn)證表明學(xué)生熟悉數(shù)據(jù)工程原理，可以作為該領(lǐng)域的助理或?qū)I(yè)人員。

IBM認(rèn)證數(shù)據(jù)工程師? – 大數(shù)據(jù)。此認(rèn)證更側(cè)重于數(shù)據(jù)工程技能集的大數(shù)據(jù)特定應(yīng)用，而不是一般技能，這被許多人視為黃金標(biāo)準(zhǔn)。

Cloudera的CCP數(shù)據(jù)工程師：該認(rèn)證針對Cloudera解決方案，體現(xiàn)學(xué)生在ETL工具和分析方面的經(jīng)驗。

二級技能認(rèn)證，例如MCSE（微軟認(rèn)證解決方案專家），涵蓋更廣泛的主題，但具有特定的子認(rèn)證，如MCSE：數(shù)據(jù)管理與分析。

當(dāng)然，在線教育平臺提供該領(lǐng)域的重要培訓(xùn)，Udemy提供了數(shù)據(jù)工程眾多的課程和數(shù)據(jù)科學(xué)，其他如EDX和Memrise也提供了類似課程，DataCamp專注于數(shù)據(jù)科學(xué)和工程，Galvanize的品類則更為廣泛。

小結(jié)

雖然這些數(shù)據(jù)解決方案可以幫助您踏進大數(shù)據(jù)工程領(lǐng)域，雖然它們有分發(fā)或授予認(rèn)證，但只是提供證書或文憑。雖然一般學(xué)習(xí)夠了，但它們不能被認(rèn)視為實際認(rèn)證或?qū)嵺`的替代品。

希望本文能夠給大家闡明數(shù)據(jù)工程師所需的特定知識，技能和要求。這個領(lǐng)域正在迅速發(fā)展，但它也充滿了挑戰(zhàn)與險阻。在工作中通過適當(dāng)?shù)恼J(rèn)證填補技能組合的空白，實現(xiàn)最好學(xué)習(xí)的關(guān)鍵一步。

編譯：勇哥

來源：https://dzone.com/articles/how-to-become-a-data-engineer

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。