隨機森林 vs XGBoost vs 決策樹：算法選擇中的

2025-03-03

當你在凌晨三點盯著電腦屏幕，面對滿屏的模型評估指標時，是否也曾被這三個名字折磨得頭暈目眩？在機器學習的世界里，決策樹、隨機森林和XGBoost就像武俠小說里的三大門派，各自擁有獨特的武學秘籍。今天我們就來揭 ...

XGBoost做分類問題時每一輪迭代擬合的是什么？

2023-04-18

XGBoost（eXtreme Gradient Boosting）是一種強大的集成學習算法，常用于解決分類和回歸問題。它是一種基于決策樹的機器學習算法，在解決分類問題時，每一輪迭代擬合的是殘差。本文將對XGBoost分類問題中每一輪迭代 ...

如何對XGBoost模型進行參數調優？

2023-04-10

XGBoost是一個高效、靈活和可擴展的機器學習算法，因其在許多數據科學競賽中的成功表現而備受矚目。然而，為了使XGBoost模型達到最佳性能，需要進行參數調優。本文將介紹一些常見的XGBoost參數以及如何對它們進行調 ...

XGBoost算法的這3類參數，你知道嗎？

2020-07-09

XGBoost是誕生于2014年2月的一種專攻梯度提升算法的機器學習函數庫，它有很好的學習效果，速度也非?？?，與梯度提升算法在另一個常用機器學習庫scikit-learn中的實現相比，XGBoost的性能可以提升10倍以上。還有，X ...

具有貝葉斯優化的XGBoost和隨機森林

2019-09-28

作者 | Edwin Lisowski 編譯 | CDA數據分析師 XGBoost and Random Forest with Bayesian Optimisation 在這篇文章中，我們將介紹帶有貝葉斯優化算法的兩種流行的算法即XGBoost和隨機 ...

【干貨】“數據又崩了”？其實是你還不會做歸因分析

2025-04-23

以下的文章內容來源于劉靜老師的專欄，如果您想閱讀專欄《劉靜：10大業務分析模型突破業務瓶頸》，點擊下方鏈接 https://edu.cda.cn/goods/show/3845?targetId=6754&preview=0 “老板，昨天轉化率掉了 20%，但我也不 ...

【干貨】大廠數據分析師面試，最常犯的2個技術錯誤

2025-01-29

01專家簡介 徐楊老師，CDA數據科學研究院教研副總監，主要負責CDA認證項目以及機器學習/人工智能類課程的研發與授課，負責過中國人民銀行結算中心數據分析內訓、華夏銀行數據分析內訓、蘇州銀行總行數據挖掘內訓項 ...

隨機森林在機器學習中的應用優缺點

2024-12-06

隨機森林（Random Forest）作為一種集成學習算法，在機器學習領域廣受歡迎。它通過構建多個決策樹，并結合它們的預測結果，旨在提高模型的準確性和魯棒性。讓我們深入探討隨機森林在機器學習中的應用優勢和局限性。 ...

圖像識別模型的優化最佳實踐

2024-12-06

在機器學習中，特征重要性可視化是一項關鍵技術，用于評估和展示特征對模型預測結果的影響程度。通過合理利用這些技巧和方法，研究人員和工程師能夠更好地優化圖像識別模型，提高其性能和準確性。 條形圖與水平條形 ...

2024年數據分析師面試高頻問題TOP10及答案

2024-09-09

在2024年，數據分析領域的發展如火如荼，伴隨著行業的迅速進步，數據分析師成為了企業爭相招攬的香餑餑。作為一名有經驗的數據分析師，我深知面試中會遇到的挑戰。今天，我想通過這篇文章，分享一些常見的面試問題 ...

一線大廠數據分析員的日常工作內容揭秘

2024-09-04

在一線大廠中，數據分析員的角色往往被賦予了極高的責任感與重要性。他們不僅是數據的操作者，更是業務決策的重要推動者。數據分析員的日常工作極為豐富，從數據的收集、清洗，到深入的分析和報告生成，每一個環節都 ...

數據分析怎么做：全面指南

2024-08-16

首先，你需要明確數據分析的目標。這通常取決于業務需求，例如了解用戶行為、預測銷售趨勢、或發現潛在問題。明確的目標有助于定義分析范圍并指導后續的每一步工作。 數據是分析的基礎。你需要從多個渠道 ...

數據不平衡問題在機器學習中如何處理？

2024-04-23

在機器學習中，數據不平衡是指分類問題中不同類別的樣本數量差距較大。這種情況可能會影響模型的訓練和性能，導致對少數類別樣本的預測能力較弱。因此，為了解決數據不平衡問題，我們需要采取一系列有效的方法來平 ...

CDA LEVEL III

2023-10-11

一、總則 CDA（Certified Data Analyst），即“CDA數據分析師”，是在數字經濟大背景和人工智能時代趨勢下，面向全行業的資格認證，旨在提升用戶數字技能，助力企業數字化轉型，推動行業數字化發展?！窩DA人才 ...

如何處理缺失值或異常值？

2023-06-15

缺失值與異常值是數據分析中常見的問題，它們可以影響模型的準確性和可靠性。因此，在進行數據分析之前需要對這些值進行處理。本文將介紹如何處理缺失值和異常值的方法。 一、缺失值的處理 缺失值是指數據集中某些記 ...

為什么XGBoost泰勒二階展開后效果就比較好了呢？

2023-04-13

XGBoost是一種基于決策樹的集成學習算法，用于解決分類和回歸問題。它在許多數據科學競賽中表現優異，并被廣泛應用于各種領域，如金融、醫療、電子商務等。 在XGBoost中，每個樹的構建都是基于殘差的。因此，如果我 ...

用XGBoost做分類，預測結果輸出的為什么不是類別概率？

2023-04-10

XGBoost是一種基于決策樹的集成學習算法，在分類問題中通常被用來預測二元或多元分類結果。與傳統的決策樹相比，XGBoost具有更優秀的準確性和效率。 然而，在使用XGBoost進行分類時，其輸出通常不是類別概率， ...

XGBoost模型訓練時需要對類型特征進行one-hot編碼嗎？

2023-04-03

XGBoost是一種強大的機器學習算法，廣泛應用于數據挖掘和預測建模。在XGBoost模型中，包括許多特征工程技術，例如對類型特征進行編碼。在本文中，我們將探討是否需要對類型特征進行獨熱編碼，并介紹如何使用XGBoos ...

catboost原理介紹，與lightgbm和XGBoost比較優劣？

2023-04-03

CatBoost是一種基于梯度提升樹的機器學習算法，它在處理分類和回歸問題時都具有優秀的性能。CatBoost最初由Yandex團隊開發，在2017年推出，并迅速受到了廣泛關注和應用。 CatBoost與LightGBM和XGBoost都屬于GBDT（Gr ...

用了更多特征，為什么XGBoost效果反而變差了？

2023-04-03

XGBoost是一種流行的算法，常用于解決回歸問題和分類問題。它通過集成多個決策樹來提高模型的精度和泛化能力。盡管有時候添加更多的特征可能會改善模型的性能，但有時候它可能會導致模型的性能反而變差。在本文中 ...