
哪些情況會讓數據科學家抓狂
哪些情況會讓數據科學家抓狂
如今,人們對數據科學的熱情高漲。只要在產品介紹中加入"由人工智能驅動",就能極大地促進產品的銷量。
但是,問題也接踵而至。
數據科學在營銷時常常會夸大其詞。從而,客戶也大大提高了期望值。但最終,數據科學需要盡力去實現客戶的高期望。
在本文中,我們將討論機器學習項目中八個讓數據科學家抓狂的常見問題,以及為什么這些問題讓數據科學家苦惱不已。
如果你也處于數據科學領域,或者考慮進入該領域,那么明確這些問題能幫助你更好做出判斷并進行處理。
1. 我們想要一個AI 模型來解決問題
行業中80%的問題都可以通過簡單的探索性數據分析解決。如果在解決某些問題時用機器學習都有些大材小用,那么根本不用再考慮用AI了。
是的,高級分析很高大上。企業都喜歡通過對這方面的投資在行業中處于領先地位。哪家公司不想宣傳一下 AI 項目呢?但需要對客戶進行基本的說明,采用適當的行業用例。
“到目前為止,人工智能的最大危險在于人們過早的認為他們已經充分理解它了?!?nbsp;
—— Eliezer Yudkowsky
2. 通過一些數據得出變革性的分析見解
通??蛻粽J為,他們只需要提交數據就可以了。有些客戶甚至不會提供相關問題的定義,具體可以看到第四點。他們要求數據分析師獲取數據,并得出變革性的商業見解,從而能夠在一夜之間改變企業的發展方向。
不幸的是,數據科學家無法單獨得出可操作的商業建議。這需要與客戶進行持續有效的交流,從而全面了解企業的情況。在整個項目期間,定期與業務人員進行規劃是很重要的。
“如果你不知道如何提出正確的問題,那么你將一無所獲?!?nbsp;
—— W. Edward Deming
3. 構建模型,并跳過不必要的分析來節省時間
許多數據分析師忽略了數據整理和探索性分析的重要性。
數據分析是機器學習和其他更高層次分析的必要步驟。如果不了解數據,不去發現異常值或潛在模式,那么模型將一無是處。因此必須為分析預留時間,并與客戶分享有價值的發現。
“煉金術士在尋找黃金時會發現其他許多更有價值的東西?!?
—— Arthur Schopenhauer
4. 根據上周的數據,你能預測未來6個月的數據嗎?
這是數據科學家們最討厭的情況??蛻粼陔娮颖砀裰刑峁┝藥仔袛祿?,并希望 AI 能夠預測未來。有時更夸張,在沒有任何數據時,客戶想知道機器學習是否能填補這些數據的空白。
數據質量和數量至關重要,“垃圾進,垃圾出”適用于數據分析。有用的統計技術有助于處理數據問題,并能在你提供的少量數據中得出更多的結論。例如,估算缺失點,生成數據或使用較小的簡單模型。但這需要降低客戶對結果的預期。
分析技術與數據量的關系,來源:吳恩達
5. 你能在兩周內完成建模項目嗎?
許多項目的規定時間十分緊迫。這種高強度的項目安排常常會給模型工程階段帶來影響。隨著模型API和GPU計算的出現,客戶想知道到底時什么減慢了緩數據科學家的速度。
盡管自動化機器學習取得了進步,但在建模過程中手動操作也是必不可少的。數據科學家必須在痛苦的迭代中檢查統計結果,比較模型和檢查解釋。這些是不能自動化的,起碼現在還不能。這方面最好通過案例跟客戶說明。
6. 你能替換輸出變量并刷新嗎?
在數據科學家解決了商業行為的建模問題之后,新的請求即將出現,也就是最后的小變化。通常是替換輸出變量,然后重新運行模型??蛻粢庾R不到這些變化不僅會改變目標,而且會改變整個模型。
雖然機器學習是高度迭代的,但關鍵挑戰是為給定的輸出變量選擇正確的影響因素,并映射它們間的關系??蛻舯仨毩私膺@背后的基本工作原理,以及明確他們可以調控的范圍。
7. 模型的準確度可以達到100%嗎?
人們經常會對錯誤率產生誤解,而且容易盲目追求測試等級。有些客戶甚至希望準確度達到100%。當準確度超過其他因素成為唯一的關注點時,這就很令人擔憂了。建立一個過于復雜卻無法實現的高準確度模型有什么意義呢?
以高準確度贏得Netflix獎的模型從未正式上線,因為高度的復雜性會帶來巨大的工程成本,反而準確度較低的模型則會被采用。因此在考慮準確度時,要權衡簡單性、穩定性和業務可解釋性。
模型工程:權衡各方面的因素
8. 訓練好的模型能一直不出問題嗎?
在艱辛地完成建模和測試之后,客戶想知道機器是否已經掌握了所有內容。常見的問題是模型是否能一直不出問題,并且適應未來業務的變化?
不幸的是,機器不能終身學習。需要進行不斷地訓練,通常需要每隔幾周或幾個月進行復習和訓練,就像寒窗苦讀的學子一樣。如今的分析行業在迅速發展,瞬息萬變,因此模型也需要不斷進行維護和更新。
結語
在機器學習項目中,以上八大誤區會讓數據科學家頭疼不已,在機器學習建模生命周期的六個階段也會出現類似問題,如下圖所示。
機器學習項目生命周期
導致上述誤區的原因在于缺乏對項目的了解,以及沒有正確把握主次。了解背后這些原因的數據科學家需要對客戶進行更好的說明,從而雙方能夠更好得解決難題,而不是一味的妥協。
數據分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
CDA數據分析師證書考試體系(更新于2025年05月22日)
2025-05-26解碼數據基因:從數字敏感度到邏輯思維 每當看到超市貨架上商品的排列變化,你是否會聯想到背后的銷售數據波動?三年前在零售行 ...
2025-05-23在本文中,我們將探討 AI 為何能夠加速數據分析、如何在每個步驟中實現數據分析自動化以及使用哪些工具。 數據分析中的AI是什么 ...
2025-05-20當數據遇見人生:我的第一個分析項目 記得三年前接手第一個數據分析項目時,我面對Excel里密密麻麻的銷售數據手足無措。那些跳動 ...
2025-05-20在數字化運營的時代,企業每天都在產生海量數據:用戶點擊行為、商品銷售記錄、廣告投放反饋…… 這些數據就像散落的拼圖,而相 ...
2025-05-19在當今數字化營銷時代,小紅書作為國內領先的社交電商平臺,其銷售數據蘊含著巨大的商業價值。通過對小紅書銷售數據的深入分析, ...
2025-05-16Excel作為最常用的數據分析工具,有沒有什么工具可以幫助我們快速地使用excel表格,只要輕松幾步甚至輸入幾項指令就能搞定呢? ...
2025-05-15數據,如同無形的燃料,驅動著現代社會的運轉。從全球互聯網用戶每天產生的2.5億TB數據,到制造業的傳感器、金融交易 ...
2025-05-15大數據是什么_數據分析師培訓 其實,現在的大數據指的并不僅僅是海量數據,更準確而言是對大數據分析的方法。傳統的數 ...
2025-05-14CDA持證人簡介: 萬木,CDA L1持證人,某電商中廠BI工程師 ,5年數據經驗1年BI內訓師,高級數據分析師,擁有豐富的行業經驗。 ...
2025-05-13CDA持證人簡介: 王明月 ,CDA 數據分析師二級持證人,2年數據產品工作經驗,管理學博士在讀。 學習入口:https://edu.cda.cn/g ...
2025-05-12CDA持證人簡介: 楊貞璽 ,CDA一級持證人,鄭州大學情報學碩士研究生,某上市公司數據分析師。 學習入口:https://edu.cda.cn/g ...
2025-05-09CDA持證人簡介 程靖 CDA會員大咖,暢銷書《小白學產品》作者,13年頂級互聯網公司產品經理相關經驗,曾在百度、美團、阿里等 ...
2025-05-07相信很多做數據分析的小伙伴,都接到過一些高階的數據分析需求,實現的過程需要用到一些數據獲取,數據清洗轉換,建模方法等,這 ...
2025-05-06以下的文章內容來源于劉靜老師的專欄,如果您想閱讀專欄《10大業務分析模型突破業務瓶頸》,點擊下方鏈接 https://edu.cda.cn/g ...
2025-04-30CDA持證人簡介: 邱立峰 CDA 數據分析師二級持證人,數字化轉型專家,數據治理專家,高級數據分析師,擁有豐富的行業經驗。 ...
2025-04-29CDA持證人簡介: 程靖 CDA會員大咖,暢銷書《小白學產品》作者,13年頂級互聯網公司產品經理相關經驗,曾在百度,美團,阿里等 ...
2025-04-28CDA持證人簡介: 居瑜 ,CDA一級持證人國企財務經理,13年財務管理運營經驗,在數據分析就業和實踐經驗方面有著豐富的積累和經 ...
2025-04-27數據分析在當今信息時代發揮著重要作用。單因素方差分析(One-Way ANOVA)是一種關鍵的統計方法,用于比較三個或更多獨立樣本組 ...
2025-04-25CDA持證人簡介: 居瑜 ,CDA一級持證人國企財務經理,13年財務管理運營經驗,在數據分析就業和實踐經驗方面有著豐富的積累和經 ...
2025-04-25