
如何區分理解數據科學家與機器學習工程師
導讀:
真正讓“數據科學”發揮出了強大威力的,是在人們意識到,數據不僅止于精算統計、商業智能和數據倉庫的時候。將數據人和其他部門(軟件開發、營銷、管理、人力資源)隔離開來的筒倉被打破后,數據科學才真正彰顯出了自己的獨特之處。這門學科的中心思想,便是數據適用于萬事萬物。
在任何應用中,嚴格屬于“機器學習”的部分其實都不算大:總需要有人去維護服務器設施,監控數據收集管道,確保計算資源充足什么的。
據我們所知,尚未出現過專門針對機器學習系統的嚴重攻擊。但機器學習系統將成日漸成為誘人的攻擊目標。機器學習會帶來怎樣的新型漏洞?有沒有可能在訓練系統用的數據中“下毒”,或者強迫系統在錯誤的時候接受重新訓練?由于機器學習系統會自我訓練,我們需要想到,全新漏洞類型的出現必不可免。
原文翻譯:
十年來,我們一直在談論數據科學和數據科學家。雖然在怎么才叫“數據科學家”的問題上始終存在著爭議,但如今已有很多大學、網校和訓練營都在提供數據科學課程:碩士學位、資格證書等等,凡是你能想到的都有。當我們只有統計學的時候,這個世界顯得更加簡單,但簡單并不總是科學的。而除了世界對數據科學家的需求程度以外,數據科學課程如此多種多樣,其實也說明不了什么。
隨著數據科學領域的發展,出現了很多難以區分的專業。公司用“數據科學家”和“數據科學團隊”來描述各種各樣的角色,包括:
負責統計分析和建模(很多情況下會涉及到正式的實驗和測試)的人
越來越多地使用筆記本電腦來開發原型的機器學習建模師
這當中并沒有提及DJ·帕提爾(DJ Patil)和杰夫·哈默巴赫(Jeff Hammerbacher)在發明“數據科學家”這個稱謂時所想到的人——依據數據打造產品的人。
他們所想的這種數據科學家倒是跟機器學習建模師最為接近,只不過他們的工作是打造產品——一切以產品為中心,而不是秉持著研究人員的身份。他們的工作通常涉及到數據產品的很大一部分。無論具體的職務為何,數據科學家的角色絕非單純的統計學家。他們往往擁有理科博士學位,在處理大量數據方面擁有豐富的實踐經驗。他們基本上都是優秀的程序員,絕非只是精通R或其他某種統計軟件包。他們懂得數據獲取、數據清洗、原型開發、原型投產、產品設計、搭建和管理數據設施等等。在實踐中,他們是典型的硅谷“獨角獸”:稀有,非常難招到。
重點并不是我們設立了邊界明確的專業。在一個欣欣向榮的領域里,總會存在著十分廣袤的灰色地帶。真正讓“數據科學”發揮出了強大威力的,是在人們意識到,數據不僅止于精算統計、商業智能和數據倉庫的時候。將數據人和其他部門(軟件開發、營銷、管理、人力資源)隔離開來的筒倉被打破后,數據科學才真正彰顯出了自己的獨特之處。這門學科的中心思想,便是數據適用于萬事萬物。數據科學家的使命就是收集和利用所有的數據。所有部門都會牽涉其中。
當我們找不著獨角獸的時候,就把他們的能力分解成不同的專業,而數據科學在開始盛行起來后,也遭遇了這一出。突然之間,我們就有了數據工程師。數據工程師并非以數學家或統計學家為主要身份,但他們都懂數學和統計學;他們的主要身份也不是軟件開發人員,但他們也懂軟件。數據工程師負責數據堆棧的操作和維護。他們能讓筆記本電腦上運行的原型在生產中可靠運行。他們負責弄清楚如何搭建和維護Hadoop或Spark集群,還有整個生態系統中的很多其他工具:數據庫(比如Hbase、Cassandra),流數據平臺(Kafka、SparkStreaming、Apache Flink),還有更多的活動部件[princeray1] 。他們知道如何在云端操作,充分利用Amazon Web Services、MicrosoftAzure和Google Compute Engine的性能。
如今,我們已經進入了“數據科學”的第二個十年,機器學習已大行其道,于是“數據工程師”的定義也變得更加明確。2015年,谷歌發表了一篇后來得到廣泛引用的論文,里面凸顯了一項事實:除了分析模型以外,現實世界中的機器學習系統還有很多其他構成要素。企業開始注重打造數據產品,并將他們一直以來所采用的技術運用到生產中。在任何應用中,嚴格屬于“機器學習”的部分其實都不算大:總需要有人去維護服務器設施,監控數據收集管道,確保計算資源充足什么的。于是,開始有越來越多的企業建立機器學習工程師隊伍。這其實算不上一個新的專業領域,隨著機器學習(尤其是深度學習)在數據科學圈子里變得炙手可熱,數據工程師必然會有進一步的發展空間。但是機器學習工程師和數據工程師之間的區別到底是什么呢?
從某種程度上來說,機器學習工程師所做的正是一直以來軟件工程師(和優秀數據工程師)的工作。以下是機器學習工程師的幾個重要特征:
·他們擁有比常見的數據科學家更厲害的軟件工程技能。機器學習工程師能夠和維護產品系統的工程師協同工作(有時就在同一個團隊)。他們懂得軟件開發方法、敏捷實踐和現代軟件開發人員使用的全套工具,從Eclipse和IntelliJ這樣的集成開發環境,到持續部署流水線的各個環節,他們樣樣精通。
由于他們的焦點放在能讓數據產品順利投產上,他們會進行全面思考,甚至將日志記錄、AB測試設施等環節也一并考慮進來。
他們對在生產活動中監控數據產品所特有的問題有著最新的認識。監控應用程序的辦法有很多,但機器學習讓這個任務的要求上升到了一個新的層面。數據管道和模型都有可能過時,需要重新訓練,也可能遭到對手采用并不適用于傳統網絡應用的方式大肆攻擊。機器學習系統會不會因為提供輸入的數據管道被黑而失真?會,所以機器學習工程師必須知道可如何探測到這些攻擊。
深度學習的興起催生出一種與其相關但更加專門化的崗位——深度學習工程師。我們還看到了“數據運維團隊”的出現,但在如何定義這類團隊的問題上,(截至目前)人們似乎仍未達成共識。
機器學習工程師的工作涉及到軟件架構和設計。他們懂得AB測試這樣的實務操作,但更重要的是,他們不只是“懂得”AB測試——他們還知道如何進行生產系統的AB測試。他們也懂得日志、安全這一類的問題,而且知道如何讓日志數據在數據工程師那里派上用場。所有這一切沒有什么新鮮東西:這只是崗位的深化,而不是改變。
機器學習和“數據科學”又有什么不同?顯然,數據科學的涵蓋面更廣,但深度學習的工作方式卻存在著一些格外不同的地方。人們總是容易把數據科學家想象成挖掘數據的人——研究不同的方法和模型,從中找出一個切實可行的。圖基(Tukey)的探索性數據分析等經典方法為很多數據科學家迄今為止的工作定下了基調:挖掘分析大量數據,找到其中隱藏的價值。
深度學習顯著改變了這種模式。你不再親自處理數據。你知道你想要什么樣的結果,但你讓軟件去發現它。你想要打造一臺能夠打敗圍棋冠軍、正確標記照片或者實現語言翻譯的機器。在機器學習的范疇中,這些目標不會通過細致的挖掘來達成。在很多情況下,要挖掘的數據量實在太大,維度也太多。(圍棋的維度有多少?語言的維度呢?)機器學習能做到的,就是自己建立模型——自己進行數據挖掘和調整。
于是,數據科學家并沒有做多少挖掘的工作。他們的目標并非找到數據的意義。他們認為價值本來就在那里。他們真正的目標是打造能夠分析數據和生成結果的機器——創建出一張可以被調教到能使用輸入數據生成可靠結果的神經網絡。統計學不再那么重要。事實上,機器學習的大神器是“大眾化”,讓機器學習系統可由主題專家而不是人工智能博士打造。我們想讓圍棋選手打造出下一代的AlphaGo,而不是研究人員。我們想讓說西班牙語的人打造出能把其他語言自動翻譯成西班牙語的引擎。
這種變化也對機器學習工程師產生了相應的影響。在機器學習的范疇里,模型不是靜態的。隨著時間的推移,模型可能會逐漸失效。必須有人來監控系統,在必要時對其重新訓練。這項工作對于當初打造該系統的開發人員來說,可能很是無趣,但當中的技術性卻很強。而且,這也需要對監控工具有充分了解,因為這些監控工具在設計時并不會考慮到數據應用的問題。
所有的軟件開發人員和IT從業人員都應該對安全性這個問題有所了解。據我們所知,尚未出現過專門針對機器學習系統的嚴重攻擊。但機器學習系統將成日漸成為誘人的攻擊目標。機器學習會帶來怎樣的新型漏洞?有沒有可能在訓練系統用的數據中“下毒”,或者強迫系統在錯誤的時候接受重新訓練?由于機器學習系統會自我訓練,我們需要想到,全新漏洞類型的出現必不可免。
隨著工具的改進,我們將看到更多的數據科學家有能力轉型到生產系統領域。云環境和軟件即服務(SaaS)讓數據科學家能夠更簡單地部署數據科學原型,將其投入生產,而諸如Clipper、Ground(美國加州大學伯克利分校RISE實驗室的新項目)這樣的開源工具也正開始涌現。但我們仍將需要數據工程師和機器學習工程師——那些通曉數據科學和機器學習知識,知道如何在生產中部署和運行系統,能夠為機器學習產品提供支持的工程師。他們才是最終極的“人性因素”。
數據分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
CDA數據分析師證書考試體系(更新于2025年05月22日)
2025-05-26解碼數據基因:從數字敏感度到邏輯思維 每當看到超市貨架上商品的排列變化,你是否會聯想到背后的銷售數據波動?三年前在零售行 ...
2025-05-23在本文中,我們將探討 AI 為何能夠加速數據分析、如何在每個步驟中實現數據分析自動化以及使用哪些工具。 數據分析中的AI是什么 ...
2025-05-20當數據遇見人生:我的第一個分析項目 記得三年前接手第一個數據分析項目時,我面對Excel里密密麻麻的銷售數據手足無措。那些跳動 ...
2025-05-20在數字化運營的時代,企業每天都在產生海量數據:用戶點擊行為、商品銷售記錄、廣告投放反饋…… 這些數據就像散落的拼圖,而相 ...
2025-05-19在當今數字化營銷時代,小紅書作為國內領先的社交電商平臺,其銷售數據蘊含著巨大的商業價值。通過對小紅書銷售數據的深入分析, ...
2025-05-16Excel作為最常用的數據分析工具,有沒有什么工具可以幫助我們快速地使用excel表格,只要輕松幾步甚至輸入幾項指令就能搞定呢? ...
2025-05-15數據,如同無形的燃料,驅動著現代社會的運轉。從全球互聯網用戶每天產生的2.5億TB數據,到制造業的傳感器、金融交易 ...
2025-05-15大數據是什么_數據分析師培訓 其實,現在的大數據指的并不僅僅是海量數據,更準確而言是對大數據分析的方法。傳統的數 ...
2025-05-14CDA持證人簡介: 萬木,CDA L1持證人,某電商中廠BI工程師 ,5年數據經驗1年BI內訓師,高級數據分析師,擁有豐富的行業經驗。 ...
2025-05-13CDA持證人簡介: 王明月 ,CDA 數據分析師二級持證人,2年數據產品工作經驗,管理學博士在讀。 學習入口:https://edu.cda.cn/g ...
2025-05-12CDA持證人簡介: 楊貞璽 ,CDA一級持證人,鄭州大學情報學碩士研究生,某上市公司數據分析師。 學習入口:https://edu.cda.cn/g ...
2025-05-09CDA持證人簡介 程靖 CDA會員大咖,暢銷書《小白學產品》作者,13年頂級互聯網公司產品經理相關經驗,曾在百度、美團、阿里等 ...
2025-05-07相信很多做數據分析的小伙伴,都接到過一些高階的數據分析需求,實現的過程需要用到一些數據獲取,數據清洗轉換,建模方法等,這 ...
2025-05-06以下的文章內容來源于劉靜老師的專欄,如果您想閱讀專欄《10大業務分析模型突破業務瓶頸》,點擊下方鏈接 https://edu.cda.cn/g ...
2025-04-30CDA持證人簡介: 邱立峰 CDA 數據分析師二級持證人,數字化轉型專家,數據治理專家,高級數據分析師,擁有豐富的行業經驗。 ...
2025-04-29CDA持證人簡介: 程靖 CDA會員大咖,暢銷書《小白學產品》作者,13年頂級互聯網公司產品經理相關經驗,曾在百度,美團,阿里等 ...
2025-04-28CDA持證人簡介: 居瑜 ,CDA一級持證人國企財務經理,13年財務管理運營經驗,在數據分析就業和實踐經驗方面有著豐富的積累和經 ...
2025-04-27數據分析在當今信息時代發揮著重要作用。單因素方差分析(One-Way ANOVA)是一種關鍵的統計方法,用于比較三個或更多獨立樣本組 ...
2025-04-25CDA持證人簡介: 居瑜 ,CDA一級持證人國企財務經理,13年財務管理運營經驗,在數據分析就業和實踐經驗方面有著豐富的積累和經 ...
2025-04-25