各位同学好,今天我和大家分享一下朴素贝叶斯算法中的三大模型。在上一篇文章中,我介绍了朴素贝叶斯算法的原理,并利用多项式模型进行了文本分类预测。
朴素贝叶斯算法 -- 原理,多项式模型文档分类预测,附python完整代码和数据集
下面,我将对朴素贝叶斯算法进行补充,并通过案例心脏病预测向各位进一步说明。案例简介:有300多个心脏病样本数据,每个样本有13个特征(如:胆固醇、心跳率等),1个目标(即是否得了心脏病)。使用朴素贝叶斯高斯方法,建立心脏病预测模型。
1. 朴素贝叶斯模型
对于不同的数据,我们有不同的朴素贝叶斯模型进行分类。
1.1 多项式模型(1)如果特征是离散型数据,比如文本这些,推荐使用多项式模型来实现。该模型常用于文本分类,特别是单词,统计单词出现的次数。
调用方法: from sklearn.naive_bayes import MultinomialNB 1.2 高斯模型(2)如果特征是连续型数据,比如具体的数字,推荐使用高斯模型来实现,高斯模型即正态分布。当特征是连续变量的时候,运用多项式模型就会导致很多误差,此时即使做平滑,所得到的条件概率也难以描述真实情况。所以处理连续的特征变量,应该采用高斯模型。
调用方法: from sklearn.naive_bayes import GaussianNB 1.3 伯努利模型(3)如果特征是离散性数据并且值只有0和1两种情况,推荐使用伯努利模型。在伯努利模型中,每个特征的取值是布尔型的,即True和False,或者1和0。在文本分类中,表示一个特征有没有在一个文档中出现。
调用方法: from sklearn.naive_bayes import BernoulliNB2. 心脏病预测 2.1 数据获取
获取心脏病的病例数据,共13项特征值,300多条数据。文末提供数据链接。
#(1)导入心脏病数据 import pandas as pd filepath = 'C:\Users\admin\.spyder-py3\test\文件处理\心脏病\heart.csv' data = pd.read_csv(filepath)
2.2 数据处理
首先将导入的数据重新洗牌,行数据之间随机交换。然后将原始数据拆分成特征值和目标值,特征参数是:胆固醇、年龄等13项数据,目标为target这一列,即是否得了心脏病。为了验证最后预测结果的正确性,取最后10行数据用于模型验证,验证集的特征值数据用于输入最终的预测函数.predict()中,验证集的目标值来检验预测结果是否正确。提取出验证集之后,将用于建模的特征值和目标值删除最后10行即可。
#(2)数据处理 # 重新洗牌,行互换后,让索引从0开始 data = data.sample(frac=1).reset_index(drop=True) # 提取目标值target一列 data_target = data['target'] # 提取目标值 data_feature = data.drop('target',axis=1) # 取出最后10行作为验证集 data_predict_feature = data_feature[-10:] #作为最后预测函数的输入 data_predict_target = data_target[-10:] #用来验证预测输出结果的正确性 # 建模用的特征值和目标值删去最后10行 data_feature = data_feature[:-10] #x数据 data_target = data_target[:-10] #y数据
2.3 划分训练集和测试集
一般采用75%的数据用于训练,25%用于测试,因此把数据进行训练之前,先要对数据划分。
划分方式: x_train,x_test,y_train,y_test = train_test_split(x数据,y数据,test_size=数据占比)有关划分划分训练集和测试集的具体 *** 作,包括参数、返回值等,点击下文链接的看第3.1小节:
K近邻算法 -- 算法原理、红酒分类预测实战
#(3)划分训练集和测试集 from sklearn.model_selection import train_test_split x_train,x_test,y_train,y_test = train_test_split(data_feature,data_target,test_size=0.25)
2.4 使用朴素贝叶斯高斯模型
心脏病数据中大多是连续型数据,少数是0、1离散型数据,因此先采用高斯模型进行训练,然后再采用多项式模型训练,对比这两种方法的准确率。
#(4)高斯模型训练 # 导入朴素贝叶斯--高斯模型方法 from sklearn.naive_bayes import GaussianNB # gauss_nb接收高斯方法 gauss_nb = GaussianNB() # 模型训练,输入训练集 gauss_nb.fit(x_train,y_train) # 计算准确率--评分法 gauss_accuracy = gauss_nb.score(x_test,y_test) # 预测 gauss_result = gauss_nb.predict(data_predict_feature)
导入高斯模型方法,gauss_nb接收该方法;使用.fit()函数进模型训练;采用.score()函数用评分法查看模型准确率,根据x_test预测结果,把结果和真实的y_test比较,计算准确率;最终将验证集的特征值传入.predict()函数预测是否得了心脏病,将最终预测结果与真实值比较,发现有少许偏差,模型准确率在0.83左右。
2.5 使用朴素贝叶斯多项式模型
心脏病数据中存在少量的离散数据,实际 *** 作中多项式模型不适用于该案例,我使用多项式模型和高斯模型进行比较,让大家优个直观感受。 *** 作方法和高斯模型类似,在此不做过多叙述,有不明白的可以参考上一篇文章:朴素贝叶斯算法 -- 原理、多项式模型实现文本分类预测
#(5)多项式模型训练 # 导入朴素贝叶斯--多项式方法 from sklearn.naive_bayes import MultinomialNB # multi_nb接收多项式方法 multi_nb = MultinomialNB() # 多项式方法进行训练,输入训练集 multi_nb.fit(x_train,y_train) # 评分法计算准确率 multi_accuracy = multi_nb.score(x_test,y_test) # 预测 multi_result = multi_nb.predict(data_predict_feature)
最终的结果为,多项式模型的准确率在0.75左右,预测结果和实际结果相比偏差较大,因此在使用朴素贝叶斯方法,对有较多连续型数据进行分类预测时,高斯模型的准确度明显高于多项式模型。
心脏病数据集自取:
链接:百度网盘 请输入提取码 提取码:a9wl
完整代码展示:# 朴素贝叶斯高斯模型心脏病预测 #(1)导入心脏病数据 import pandas as pd filepath = 'C:\Users\admin\.spyder-py3\test\文件处理\心脏病\heart.csv' data = pd.read_csv(filepath) #(2)数据处理 # 重新洗牌,行互换后,让索引从0开始 data = data.sample(frac=1).reset_index(drop=True) # 提取目标值target一列 data_target = data['target'] # 提取目标值 data_feature = data.drop('target',axis=1) # 取出最后10行作为验证集 data_predict_feature = data_feature[-10:] #作为最后预测函数的输入 data_predict_target = data_target[-10:] #用来验证预测输出结果的正确性 # 建模用的特征值和目标值删去最后10行 data_feature = data_feature[:-10] #x数据 data_target = data_target[:-10] #y数据 #(3)划分训练集和测试集 from sklearn.model_selection import train_test_split x_train,x_test,y_train,y_test = train_test_split(data_feature,data_target,test_size=0.25) #(4)高斯模型训练 # 导入朴素贝叶斯--高斯模型方法 from sklearn.naive_bayes import GaussianNB # gauss_nb接收高斯方法 gauss_nb = GaussianNB() # 模型训练,输入训练集 gauss_nb.fit(x_train,y_train) # 计算准确率--评分法 gauss_accuracy = gauss_nb.score(x_test,y_test) # 预测 gauss_result = gauss_nb.predict(data_predict_feature) #(5)多项式模型训练 # 导入朴素贝叶斯--多项式方法 from sklearn.naive_bayes import MultinomialNB # multi_nb接收多项式方法 multi_nb = MultinomialNB() # 多项式方法进行训练,输入训练集 multi_nb.fit(x_train,y_train) # 评分法计算准确率 multi_accuracy = multi_nb.score(x_test,y_test) # 预测 multi_result = multi_nb.predict(data_predict_feature)
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)