200字范文,内容丰富有趣,生活中的好帮手!
200字范文 > python决策树逻辑回归_python决策树随机森林逻辑回归预测泰坦尼克号生存率

python决策树逻辑回归_python决策树随机森林逻辑回归预测泰坦尼克号生存率

时间:2019-05-06 08:57:36

相关推荐

python决策树逻辑回归_python决策树随机森林逻辑回归预测泰坦尼克号生存率

项目背景

RMS泰坦尼克号的沉没是历史上最臭名昭着的沉船之一。194月15日,在她的处女航中,泰坦尼克号在与冰山相撞后沉没,在2224名乘客和机组人员中造成1502人死亡。这场耸人听闻的悲剧震惊了国际社会,并导致了更好的船舶安全规定。

造成海难失事的原因之一是乘客和机组人员没有足够的救生艇。尽管幸存下沉有一些运气因素,但有些人比其他人更容易生存,比如女人,孩子和上流社会。

在这个挑战中,我们要求您完成对哪些人可能存活的分析。特别是,我们要求您运用机器学习工具来预测哪些乘客幸免于悲剧。

操作步骤

1、数据读取

2、分析数据

3、缺失数据处理

4、特征工程

5、拆分数据

5、 建立模型

6、 预测

7、评估模型

数据读取

先将可能需要使用的包导入

读取数据

head()和.describe().info()函数连查看数据

缺失值查询

对缺失值填充均值

特征分析与处理

采用seaborn绘图函数库作可视化分析

上图变量均可判断与生存率相关,'PassengerId','Name'和'Ticket'目前看不出有什么特点,暂时不考虑他们

数据标准化,分割数据集、训练模型、预测、评估模型、画auc图

以上用的是决策树算法,下面是随机森林算法、和逻辑回归算法

逻辑回归算法

总结:此次事件中,并不完全符合物竞天择,适者生存的法则,比如,女士的存活率比男士的高,年纪大的都年轻的生存率高,但是有钱的坐一等舱的、买高票价的,存活率比二等、低票价的存活率高,说明人与人之间还不是很平等的。当然此次算法中丢弃了一些特征变量可能会对模型有影响,此文章仅表达数据分析的一些方法,如有不对之处,还请多多指教~

另附各类算法优缺点:

决策树

优点

1. 计算复杂度不高,易于理解和解释,可以理解决策树所表达的意义;

2. 数据预处理阶段比较简单,且可以处理缺失数据;

3. 能够同时处理数据型和分类型属性,且可对有许多属性的数据集构造决策树;

缺点:

1. 对于那些各类别样本数目不一致的数据,信息增益的结果偏向于那些具有更多数值的属性;

2. 对噪声数据较为敏感;

3. 容易出现过拟合问题;

4. 忽略了数据集中属性之间的相关性;

5.处理缺失数据时的困难

随机森林

优点

1、 在当前的很多数据集上,相对其他算法有着很大的优势,表现良好

2、它能够处理很高维度(feature很多)的数据,并且不用做特征选择

3、在训练完后,它能够给出哪些feature比较重要

4、在创建随机森林的时候,对generlization error使用的是无偏估计,模型泛化能力强

缺点:

1、随机森林已经被证明在某些噪音较大的分类或回归问题上会过拟

2、对于有不同取值的属性的数据,取值划分较多的属性会对随机森林产生更大的影响,所以随机森林在这种数据上产出的属性权值是不可信的。

Logistic回归算法

优点:

1. 计算代价不高,易于理解和实现;

2. 适用于数值型和分类型数据。

缺点:

1. 容易欠拟合;

2. 分类精度可能不高。

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。