用户工具

站点工具


stat:4regs

回归及其他方法

机器学习那些事 A Few Useful Things to Know about Machine Learning https://homes.cs.washington.edu/~pedrod/papers/cacm12.pdf
《统计学习方法》李航 Python实现代码https://github.com/fengdu78/lihang-code
《迁移学习简明手册》:https://github.com/jindongwang/transferlearning-tutorial

回归问题注意点

多重共线性 Colinearity diagnostics(多重共线性诊断) 差分法、岭回归、lasso、Elastic-Net等
自相关性 残差图、Durbin-Watson Statistics(德宾—瓦特逊检验)、Q-Statistics
异方差性 图示检验法、Goldfeld - Quandt 检验法、White检验法、Park检验法和Gleiser检验法 模型变换、加权最小二乘法
交叉验证

基础理论

最小二乘法、最大似然法

包说明

分类回归

方法 中文 Python R
Linear Models Generalized Linear Models
logistic
Ordinary Least Squares sklearn.linear_model.LinearRegression
Stochastic Gradient Descent 随机梯度下降 sklearn.linear_model.SGDClassifier sklearn.linear_model.SGDRegressor
Cox
Ridge Regression 岭回归 sklearn.linear_model.Ridge
lasso 套索回归 sklearn.linear_model.Lasso
Elastic-Net 弹性网回归 sklearn.linear_model.ElasticNet
Least-angle regression sklearn.linear_model.Lars
Ensemble methods Ensemble methods
Decision Tree 决策树
Boosted Decision Tree (GDBT)
Gradient Boosted Regression Trees (GBRT) gradient-tree-boosting
AdaBoost sklearn.ensemble.AdaBoostClassifier sklearn.ensemble.AdaBoostRegressor
XGBoost XGBoost GitHub
Random Forest 随机森林 sklearn.ensemble.RandomForestClassifier sklearn.ensemble.RandomForestRegressor
SVM

备注

Lasso (Least Absolute Shrinkage and Selection Operator)

Stepwise Regression 逐步回归

Bayesian、Ecological和Robust回归

Trees

AI

线性回归

直线回归
多重线性回归
曲线回归

其他

时间序列分析
meta分析
主成分分析
因子分析
聚类分析
判别分析
stat/4regs.txt · 最后更改: 2019/12/06 21:04 由 inkit