机器学习实战-泰坦尼克号生存预测案例

机器学习实战-泰坦尼克号生存预测案例

泰坦尼克号生存预测案例

*** 作平台：Jupyter Notebook

实验数据：从官方下载的泰坦尼克号测试集与训练集

使用语言：python

实验步骤：

1. 安装我们所需要的第三方库，本次实验需要额外下载安装的第三方库有numpy，sklearn，pandas，pipline。

这里首先我们看看这些标签代表着什么，PassengerId => 乘客ID

Pclass => 乘客等级(1/2/3等舱位)

Name => 乘客姓名

Sex => 性别

Age => 年龄

SibSp => 堂兄弟/妹个数

Parch => 父母与小孩个数

Ticket => 船票信息

Fare => 票价

Cabin => 客舱

Embarked => 登船港口

并且在上面的图示中我们可以看出Age和Cabin这2个标签是不全的，这点我们会后面在数据处理的时候进行相应的处理。

接下来我们画图具体分析一下乘客的属性和具体的获救情况。这是运行结果，第一个图是获救情况，可以从图中看出来，在891人中有三百多个人获救，有五百多人不幸遇难。

 

我们在图上可以看出来：

- 被救的人300多点，不到半数；

- 3等舱乘客非常多；

- 遇难和获救的人年龄似乎跨度都很广；

- 3个不同的舱年龄总体趋势似乎也一致，2和3等舱乘客20岁多点的人最多，1等舱40岁左右的最多

- 登船港口人数按照S、C、Q递减，而且S远多于另外俩港口。

这个时候我们可能会有一些想法了：

不同舱位/乘客等级可能和财富/地位有关系，最后获救概率可能会不一样，比如说一位政府的高级官员或者某位商业大亨获救的机率可能就高一点

年龄和性别获救概率也一定是有影响的，事故中副船长还说『小孩和女士先走』

和登船港口是不是有关系呢？也许登船港口不同，人的出身地位不同会影响。

我们来看一下不同乘客舱的等级与获救结果的统计。这里可以看出乘客舱为1的乘客相比于乘客舱为2和3的乘客，获救的概率高很多。这是影响最后获救结果的一个重要特征。

我们再来看一下性别与获救情况的关系，可以看的出，明显女性获救的几率要大。

如果我们结合着乘客舱等级来看呢？这里就可以明显的看出，高级舱中的女性生还的几率比较高，但是低级舱的男性获救几率则比较低了。

看看各登录港口的获救情况，不同地方上船的人可能代表着不同的社会地位。看这个图，这个看起来并没有什么差别，看来各个地方上船的人获救概率差不多。

开头的时候看见了年龄(Age)有许多缺失值，这里我们用scikit-learn中的RandomForest（随机森林）来拟合一下缺失的年龄数据,而客舱(Cabin)这项数据值缺失太多，我们就直接把他舍弃掉，他缺失的太多了。

拟合好年龄数据之后用sklearn对泰坦尼克号的获救情况进行预测。可以看到我们的正确率大约是80%。接下来，我们把这些数据到测试集上进行预测。这样我们的结果便已经预测出来了，并且数据保存在同目录下的random_forest_predictions.csv文件中。

查看一下我们导出的文件

附件

import pandas as pd

titanic = pd.read_csv("D:浏览器下载泰坦尼克号成员获救情况预测_1.实战代码_train.csv")

print(titanic.head(5))

print(titanic.info())

import matplotlib.pyplot as plt

plt.rcParams['font.sans-serif']=['SimHei']    # 用来正常显示中文标签

plt.rcParams['axes.unicode_minus']=False    # 用来正常显示负号

import pandas as pd

import matplotlib.pyplot as plt

titanic = pd.read_csv("D:浏览器下载泰坦尼克号成员获救情况预测_1.实战代码_train.csv")

fig = plt.figure(figsize=(15,10))

fig.set(alpha=0.2)  # 设定图表颜色alpha参数

plt.subplot2grid((2,3),(0,0))

titanic.Survived.value_counts().plot(kind='bar')

plt.title("获救情况 (1为获救)")

plt.ylabel("人数")

plt.subplot2grid((2,3),(0,1))

titanic.Pclass.value_counts().plot(kind="bar")

plt.ylabel("人数")

plt.title("乘客等级分布")

plt.subplot2grid((2,3),(0,2))

plt.scatter(titanic.Survived, titanic.Age)

plt.ylabel("年龄")

plt.grid(b=True, which='major', axis='y')

plt.title("按年龄看获救分布 (1为获救)")

plt.subplot2grid((2,3),(1,0), colspan=2)

titanic.Age[titanic.Pclass == 1].plot(kind='kde')

titanic.Age[titanic.Pclass == 2].plot(kind='kde')

titanic.Age[titanic.Pclass == 3].plot(kind='kde')

plt.xlabel("年龄")

plt.ylabel("密度")

plt.title("各等级的乘客年龄分布")

plt.legend(('头等舱', '2等舱','3等舱'),loc='best')

plt.subplot2grid((2,3),(1,2))

titanic.Embarked.value_counts().plot(kind='bar')

plt.title("各登船口岸上船人数")

plt.ylabel("人数")

plt.show()

#  湖北大学 大数据 张威 201931119020175

import pandas as pd

import matplotlib.pyplot as plt

titanic = pd.read_csv("D:浏览器下载泰坦尼克号成员获救情况预测_1.实战代码_train.csv")

fig = plt.figure()

fig.set(alpha=0.2)  # 设定图表颜色alpha参数

Survived_0 = titanic.Pclass[titanic.Survived == 0].value_counts()

Survived_1 = titanic.Pclass[titanic.Survived == 1].value_counts()

df=pd.Dataframe({'获救':Survived_1, '未获救':Survived_0})

df.plot(kind='bar', stacked=True)

plt.title("各乘客等级的获救情况")

plt.xlabel("乘客等级")

plt.ylabel("人数")

plt.show()

import pandas as pd

import matplotlib.pyplot as plt

titanic = pd.read_csv("D:浏览器下载泰坦尼克号成员获救情况预测_1.实战代码_train.csv")

fig = plt.figure()

fig.set(alpha=0.2)  # 设定图表颜色alpha参数

Survived_m = titanic.Survived[titanic.Sex == 'male'].value_counts()

Survived_f = titanic.Survived[titanic.Sex == 'female'].value_counts()

df=pd.Dataframe({u'男性':Survived_m, u'女性':Survived_f})

df.plot(kind='bar', stacked=True)

plt.title(u"按性别看获救情况")

plt.xlabel(u"性别")

plt.ylabel(u"人数")

plt.show()

import pandas as pd

import matplotlib.pyplot as plt

titanic = pd.read_csv("D:浏览器下载泰坦尼克号成员获救情况预测_1.实战代码_train.csv")

fig=plt.figure(figsize=(15,10))

fig.set(alpha=0.65) # 设置图像透明度，无所谓

plt.title(u"根据舱等级和性别的获救情况")

ax1=fig.add_subplot(141)

titanic.Survived[titanic.Sex == 'female'][titanic.Pclass != 3].value_counts().plot(kind='bar', label="female highclass", color='#FA2479')

ax1.set_xticklabels([u"获救", u"未获救"], rotation=0)

ax1.legend([u"女性/高级舱"], loc='best')

ax2=fig.add_subplot(142, sharey=ax1)

titanic.Survived[titanic.Sex == 'female'][titanic.Pclass == 3].value_counts().plot(kind='bar', label='female, low class', color='pink')

ax2.set_xticklabels([u"未获救", u"获救"], rotation=0)

plt.legend([u"女性/低级舱"], loc='best')

ax3=fig.add_subplot(143, sharey=ax1)

titanic.Survived[titanic.Sex == 'male'][titanic.Pclass != 3].value_counts().plot(kind='bar', label='male, high class',color='lightblue')

ax3.set_xticklabels([u"未获救", u"获救"], rotation=0)

plt.legend([u"男性/高级舱"], loc='best')

ax4=fig.add_subplot(144, sharey=ax1)

titanic.Survived[titanic.Sex == 'male'][titanic.Pclass == 3].value_counts().plot(kind='bar', label='male low class', color='steelblue')

ax4.set_xticklabels([u"未获救", u"获救"], rotation=0)

plt.legend([u"男性/低级舱"], loc='best')

plt.show()

import pandas as pd

import matplotlib.pyplot as plt

titanic = pd.read_csv("D:浏览器下载泰坦尼克号成员获救情况预测_1.实战代码_train.csv")

fig = plt.figure()

fig.set(alpha=0.2)  # 设定图表颜色alpha参数

Survived_0 = titanic.Embarked[titanic.Survived == 0].value_counts()

Survived_1 = titanic.Embarked[titanic.Survived == 1].value_counts()

df=pd.Dataframe({'获救':Survived_1, '未获救':Survived_0})

df.plot(kind='bar', stacked=True)

plt.title("各登录港口乘客的获救情况")

plt.xlabel("登录港口")

plt.ylabel("人数")

plt.show()

import pandas as pd

from sklearn.ensemble import RandomForestRegressor

titanic = pd.read_csv("D:浏览器下载泰坦尼克号成员获救情况预测_1.实战代码_train.csv")

def set_missing_ages(df):

    # 把已有的数值型特征取出来丢进Random Forest Regressor中

    age_df = df[['Age', 'Fare', 'Parch', 'SibSp', 'Pclass']]

    # 乘客分成已知年龄和未知年龄两部分

    known_age = age_df[age_df.Age.notnull()].values

    unknown_age = age_df[age_df.Age.isnull()].values

    # y即目标年龄

    y = known_age[:, 0]

    # X即特征属性值

    X = known_age[:, 1:]

    # fit到RandomForestRegressor之中

    rfr = RandomForestRegressor(random_state=0, n_estimators=2000, n_jobs=-1)

    rfr.fit(X, y)

    predictedAges = rfr.predict(unknown_age[:, 1::])

    df.loc[(df.Age.isnull()), 'Age'] = predictedAges

    return df

titanic = set_missing_ages(titanic)

#将Embarked,Sex,Pclass转换成为onehot编码

dummies_Embarked = pd.get_dummies(titanic['Embarked'], prefix= 'Embarked')

dummies_Sex = pd.get_dummies(titanic['Sex'], prefix= 'Sex')

dummies_Pclass = pd.get_dummies(titanic['Pclass'], prefix= 'Pclass')

df = pd.concat([titanic, dummies_Embarked, dummies_Sex, dummies_Pclass], axis=1)

df.drop(['Pclass', 'Name', 'Sex', 'Ticket', 'Cabin', 'Embarked'], axis=1, inplace=True)

print(df)

import pandas as pd

from sklearn import model_selection

from sklearn.ensemble import RandomForestRegressor

from sklearn.ensemble import RandomForestClassifier

titanic = pd.read_csv("D:浏览器下载泰坦尼克号成员获救情况预测_1.实战代码_train.csv")

### 使用 RandomForestClassifier 填补缺失的年龄属性

def set_missing_ages(df):

    age_df = df[['Age', 'Fare', 'Parch', 'SibSp', 'Pclass']]

    known_age = age_df[age_df.Age.notnull()].values

    unknown_age = age_df[age_df.Age.isnull()].values

    y = known_age[:, 0]

    X = known_age[:, 1:]

    # fit到RandomForestRegressor之中

    rfr = RandomForestRegressor(random_state=0, n_estimators=2000, n_jobs=-1)

    rfr.fit(X, y)

    # 用得到的模型进行未知年龄结果预测

    predictedAges = rfr.predict(unknown_age[:, 1::])

    # 用得到的预测结果填补原缺失数据

    df.loc[(df.Age.isnull()), 'Age'] = predictedAges

    return df

titanic = set_missing_ages(titanic)

dummies_Embarked = pd.get_dummies(titanic['Embarked'], prefix= 'Embarked')

dummies_Sex = pd.get_dummies(titanic['Sex'], prefix= 'Sex')

dummies_Pclass = pd.get_dummies(titanic['Pclass'], prefix= 'Pclass')

df = pd.concat([titanic, dummies_Embarked, dummies_Sex, dummies_Pclass], axis=1)

df.drop(['Pclass', 'Name', 'Sex', 'Ticket', 'Cabin', 'Embarked'], axis=1, inplace=True)

# 将数据的Label分离出来

train_label = df['Survived']

train_titanic = df.drop('Survived', 1)

# 对数据进行模型预测

alg = RandomForestClassifier(random_state=1, n_estimators=10, min_samples_split=2, min_samples_leaf=1)

kf = model_selection.KFold(n_splits=3,shuffle=False, random_state=None)

scores = model_selection.cross_val_score(alg, train_titanic, train_label, cv=kf)

print(scores.mean())

import pandas as pd

import numpy as np

from sklearn import model_selection

from sklearn.ensemble import RandomForestRegressor

from sklearn.ensemble import RandomForestClassifier

titanic = pd.read_csv("D:浏览器下载泰坦尼克号成员获救情况预测_1.实战代码_train.csv")

### 使用 RandomForestClassifier 填补缺失的年龄属性

def set_missing_ages(df):

    # 把已有的数值型特征取出来丢进Random Forest Regressor中

    age_df = df[['Age', 'Fare', 'Parch', 'SibSp', 'Pclass']]

    # 乘客分成已知年龄和未知年龄两部分

    known_age = age_df[age_df.Age.notnull()].values

    unknown_age = age_df[age_df.Age.isnull()].values

    # y即目标年龄

    y = known_age[:, 0]

    # X即特征属性值

    X = known_age[:, 1:]

    # fit到RandomForestRegressor之中

    rfr = RandomForestRegressor(random_state=0, n_estimators=2000, n_jobs=-1)

    rfr.fit(X, y)

    # 用得到的模型进行未知年龄结果预测

    predictedAges = rfr.predict(unknown_age[:, 1::])

    # 用得到的预测结果填补原缺失数据

    df.loc[(df.Age.isnull()), 'Age'] = predictedAges

    return df

titanic = set_missing_ages(titanic)

dummies_Embarked = pd.get_dummies(titanic['Embarked'], prefix= 'Embarked')

dummies_Sex = pd.get_dummies(titanic['Sex'], prefix= 'Sex')

dummies_Pclass = pd.get_dummies(titanic['Pclass'], prefix= 'Pclass')

df = pd.concat([titanic, dummies_Embarked, dummies_Sex, dummies_Pclass], axis=1)

df.drop(['Pclass', 'Name', 'Sex', 'Ticket', 'Cabin', 'Embarked'], axis=1, inplace=True)

# print(df)

train_label = df['Survived']

train_titanic = df.drop('Survived', 1)

alg = RandomForestClassifier(random_state=1, n_estimators=10, min_samples_split=2, min_samples_leaf=1)

kf = model_selection.KFold(n_splits=3,shuffle=False, random_state=None)

scores = model_selection.cross_val_score(alg, train_titanic, train_label, cv=kf)

# # print(scores.mean())

# 导入测试集的数据，并将数据和测试集上的数据进行一样的处理

titanic_test = pd.read_csv("D:浏览器下载泰坦尼克号成员获救情况预测_1.实战代码_test.csv")

titanic_test = set_missing_ages(titanic_test)

dummies_Embarked = pd.get_dummies(titanic_test['Embarked'], prefix= 'Embarked')

dummies_Sex = pd.get_dummies(titanic_test['Sex'], prefix= 'Sex')

dummies_Pclass = pd.get_dummies(titanic_test['Pclass'], prefix= 'Pclass')

df_test = pd.concat([titanic_test,dummies_Embarked, dummies_Sex, dummies_Pclass], axis=1)

df_test.drop(['Pclass', 'Name', 'Sex', 'Ticket', 'Cabin', 'Embarked'], axis=1, inplace=True)

# 先用训练集上的数据训练处一个模型，再在测试集上进行预测，并将结果输出到一个csv文件中

model = RandomForestClassifier(random_state=1, n_estimators=10, min_samples_split=2, min_samples_leaf=1)

model.fit(train_titanic, train_label)

predictions = model.predict(df_test)

result = pd.Dataframe({'PassengerId':titanic_test['PassengerId'].values, 'Survived':predictions.astype(np.int32)})

result.to_csv("random_forest_predictions.csv", index=False)

print(pd.read_csv("random_forest_predictions.csv"))