ngram模型在哪些场景运动较多

首页

博客

研修院

VIP

APP

问答

下载

社区

推荐频道

活动

招聘

专题

打开CSDN APP

Copyright © 1999-2020, CSDN.NET, All Rights Reserved

风控模型特征工程

打开APP

风控建模二、特征工程---通用 原创

2022-09-17 11:46:33

1点赞

沐自礼

码龄8年

关注

目录

一、数据预处理

1.1 缺失值

1.2 异常值处理

1.3 样本不均衡处理

二、特征生成

2.1 特征归一化（or 标准化）

2.2 特征放缩（统计信息+ 简单加减乘除）

2.3 哑变量

2.3 分桶

2.4 日期类

2.5 组合特征

2.6 文本型（风控场景中应用比较少，传统nlp应用较多）

2.6.1 词袋模型+Ngram

2.6.2 tf-idf

2.6.3 word2vev/fastext

2.7 embedding

2.8 特征分解 （应用较少）

三、特征筛选

3.1 移除低方差的特征 (Removing features with low variance)

3.2. 单变量特征选择 (Univariate feature selection)

3.2.1 卡方(Chi2)检验

3.2.2 Pearson相关系数 (Pearson Correlation)

3.3 递归特征消除 (Recursive Feature Elimination)

3.4 基于L1的特征选择 (L1-based feature selection)

3.5 xgboost, lightGBM

参考文献

“特征决定了模型的上限， 而算法只是逼近这个上限”，由此可见特征工程在风控建模中的重要程度。 特征工程的本质是基于原始数据的信息提炼， 风控场景中的很多数据源， 单独来看可能和风险表现关联性并不强，但是加工成特征后， 却会与我们想要预测的目标产生紧密的联系。

下面我们将从特征预处理，特征生成，特征筛选三个模块对特征工程进行拆解。

一、数据预处理

1.1 缺失值

一般来说，未经处理的原始数据中通常会存在缺失值，因此在建模训练之前需要处理好缺失值。

1）缺失数据占比小于 20%。可以通过直接填充法，连续特征一般取均值填充，离散特征可以取众数填充；可以模型预测法，通过随机森林或者决策树进行预测结果填充；也可以通过插值法填充。

2）缺失数据占比大于 20% 小于 50%，这个时候可以把缺失值构建为新的特征，增加一列离散特征，即有缺失数据和无缺失数据。

3）缺失数据占比大于 50%，因为信息量较少，模型可能会学到大量噪音建议直接删除该特征。

像 xgboost 模型自带缺失值处理功能，可以不进行缺失值处理。

缺失值填充方法：

1). 如果是连续性，就使用平均值插补，如果是离散性，就使用众数来插补。 当然也可以用特殊值、中位数等代替。 其中采用均值填充的缺点：大大降低数据的方差

2). 随机插补法----从总体中随机抽取某个样本代替缺失样本

3). 引入预测模型，可考虑辅助回归，通过变量间的关系来预测缺失数据

下面代码就是均值填充的两种方案：

df_train['Age'].fillna(value=df_train['Age'].mean()).sample(10)

from sklearn.preprocessing import Imputer

imp = Imputer(missing_values='NaN', strategy='mean', axis=0)

df_train.loc[:,'Age'] = df_train['Age'].fillna(value=df_train['Age'].mean()).copy()

df_train.head(10)

1.2 异常值处理

异常值，即在数据集中存在不合理的值，又称离群点、极值等。可以通过统计分析、箱线图、聚类、3σ 原则、孤立森林等方法进行检查。

一般的处理方法如下：

1）直接删除含有异常值的样本。

2）视为缺失值。利用缺失值处理的方法进行处理。

3）最近值修正。可以用相近的观测值修正该异常值。

4）不处理。可以直接在具有异常值的数据集上进行数据建模。

大部分建模时，通过画图的方式进行看一下即可。

提供的方法：

统计分析，看四分位数，看数据分布。

箱线图：使用画图工具比如seaborn库 调用boxplot，distplot看一下。

聚类：使用sklearn中的聚类函数。

3σ: 需要自己同统计，类似看四分位数。

1.3 样本不均衡处理

推荐包：imbalance learn (https://imbalanced-learn.org/stable/references/index.html)

后面章节会对样本不均衡做详细的介绍，暂时可以先简单了解一下。一般应用场景中，常用样本不均衡的是解决方案为1,2。

样本不均衡现象是指正样本数目与负样本数目比列相差很大。处理方法如下：

1）下采样/欠采样(under sampling)：从多数类中随机抽取样本从而减少多数类别样本数据，使数据达到平衡的方式。比如本来样本正负例的比例是 10:1，可以对正样本进行下采样构建 10 个正负样本比例为 1:1 的模型，回归结果取平均值，分类结果进行投票。

2）上采样/过采样(Over Sampling)：和欠采样采用同样的原理，通过抽样来增加少数样本的数目，从而达到数据平衡的目的。同样比如本来样本正负例的比例是 10:1，可以对负样本进行上采样构建正负样本比例为 1:1 的模型。

3）Smote 算法：Smote 算法属于上采样的一种，通过人工合成的方法来生成少类别的样本。方法也很简单，对于某一个缺少样本的类别，它会随机找出几个该类别的样本，再找出最靠近这些样本的若干个该类别样本，组成一个候选合成集合，然后在这个集合中不停的选择距离较近的两个样本，在这两个样本之间，比如中点，构造一个新的该类别样本。举个例子，比如该类别的候选合成集合有两个样本(x1,y),(x2,y)(x1,y),(x2,y)，那么Smote采样后，可以得到一个新的训练样本(x1+x22,y)(x1+x22,y)，通过这种方法，我们可以得到不改变训练集分布的新样本，让训练集中各个类别的样本数趋于平衡。

4）Focal loss ：主要解决分类样本不平衡问题，通过修改交叉熵损失函数，通过增加类别权重 α 和样本难度权重调因子(modulating factor)(1−pt)γ(1−pt)γ，来减缓上述问题。

5）设置损失函数的权重：使得少数类别数据判断错误的损失大于多数类别数据判断错误的损失，即当我们的少数类别数据预测错误的时候，会产生一个比较大的损失值，从而导致模型参数往让少数类别数据预测准确的方向偏。

二、特征生成

2.1 特征归一化（or 标准化）

应用于数值类特征。

归一化（标准化），就是要把你需要处理的数据经过处理后（通过某种算法）限制在你需要的一定范围内。其目的一是把不同量纲的东西放在同一量纲下，保正程序运行时收敛加快，大部分模型归一化后收敛速度会加快。但像树模型不受特征归一化影响，所以不需要特征归一化。

归一化处理：最大最小值归一化或者叫 0-1 归一化，取值范围在 [0,1] 处理，max 为样本最大值， min 为样本最小值。

标准化处理：这里只介绍一种经常使用的 z-score 标准化，经过处理后的数据均值为 0，标准差为 1，符合标准的正态分布。其中 mean 为平均值，б 为标准差。

# 幅度缩放，最大最小值缩放到[0,1]区间内

from sklearn.preprocessing import MinMaxScaler

mm_scaler = MinMaxScaler()

fare_trans = mm_scaler.fit_transform(df_train[['Fare']])

# 幅度缩放，将每一列的数据标准化为正态分布的

from sklearn.preprocessing import StandardScaler

std_scaler = StandardScaler()

fare_std_trans = std_scaler.fit_transform(df_train[['Fare']])

#中位数或者四分位数去中心化数据，对异常值不敏感

from sklearn.preprocessing import robust_scale

fare_robust_trans = robust_scale(df_train[['Fare','Age']])

#将同一行数据规范化,前面的同一变为1以内也可以达到这样的效果

from sklearn.preprocessing import Normalizer

normalizer = Normalizer()

fare_normal_trans = normalizer.fit_transform(df_train[['Age','Fare']])

fare_normal_trans

2.2 特征放缩（统计信息+ 简单加减乘除）

应用于数值类特征，可以引入log非线性进行放缩。

import numpy as np

log_age = df_train['Age'].apply(lambda x:np.log(x))

df_train.loc[:,'log_age'] = log_age

# 最大最小值

max_age = df_train['Age'].max()

min_age = df_train["Age"].min()

# 分位数,极值处理，我们最粗暴的方法就是将前后1%的值抹去

age_quarter_01 = df_train['Age'].quantile(0.01)

print(age_quarter_01)

age_quarter_99 = df_train['Age'].quantile(0.99)

print(age_quarter_99)

df_train.loc[:,'family_size'] = df_train['SibSp']+df_train['Parch']+1

df_train.head()df_train.loc[:,'tmp'] = df_train['Age']*df_train['Pclass'] + 4*df_train['family_size']

df_train.head()

2.3 哑变量

哑变量用于类别，一般如性别，分为男女两列。

embarked_oht = pd.get_dummies(df_train[['Embarked']])

embarked_oht.head()

2.3 分桶

应用于数值。

可以等频分桶，也可以自行指定区间分桶。非线性变化。

# 等频切分

df_train.loc[:,'fare_qcut'] = pd.qcut(df_train['Fare'], 10)

df_train.head()

df_train = df_train.sort_values('Fare')

alist = list(set(df_train['fare_qcut']))

badrate = {}

for x in alist:

a = df_train[df_train.fare_qcut == x]

bad = a[a.label == 1]['label'].count()

good = a[a.label == 0]['label'

N-Gram（有时也称为N元模型）是 自然语言 处理中一个非常重要的概念，通常在NLP中，人们基于一定的语料库，可以利用N-Gram来预计或者评估一个句子是否合理。另外一方面，N-Gram的另外一个作用是用来评估两个字符串之间的差异程度。这是模糊匹配中常用的一种手段。本文将从此开始，进而向读者展示N-Gram在自然语言处理中的各种powerful的应用。

基于N-Gram模型定义的字符串距离

利用N-Gram模型评估语句是否合理

使用N-Gram模型时的数据平滑算法

欢迎关注白马负金羁的博客 http://blog.csdn.net/baimafujinji ，为保证公式、图表得以正确显示，强烈建议你从该地址上查看原版博文。本博客 主要关注方向 包括：数字图像处理、 算法 设计与分析、 数据结构 、 机器学习 、数据挖掘、统计分析方法、自然语言处理。

基于N-Gram模型定义的字符串距离

在自然语言处理时，最常用也最基础的一个 *** 作是就是“模式匹配”，或者称为“字符串查找”。而模式匹配（字符串查找）又分为 精确匹配 和 模糊匹配 两种。

所谓精确匹配，大家应该并不陌生，比如我们要统计一篇文章中关键词 “ information ” 出现的次数，这时所使用的方法就是精确的模式匹配。这方面的算法也比较多，而且应该是计算机相关专业必修的基础课中都会涉及到的内容，例如KMP算法、BM算法和BMH算法等等。

另外一种匹配就是所谓的模糊匹配，它的应用也随处可见。例如，一般的文字处理软件（例如，Microsoft Word等）都会提供拼写检查功能。当你输入一个错误的单词，例如 “ informtaion ” 时，系统会提示你是否要输入的词其实是 “ information ” 。将一个可能错拼单词映射到一个推荐的正确拼写上所采用的技术就是模糊匹配。

模糊匹配的关键在于如何衡量两个长得很像的单词（或字符串）之间的“差异”。这种差异通常又称为“距离”。这方面的具体算法有很多，例如基于编辑距离的概念，人们设计出了 Smith-Waterman 算法和Needleman-Wunsch 算法，其中后者还是历史上最早的应用动态规划思想设计的算法之一。现在Smith-Waterman 算法和Needleman-Wunsch 算法在生物信息学领域也有重要应用，研究人员常常用它们来计算两个DNA序列片段之间的“差异”（或称“距离”）。甚至于在LeetCode上也有一道 “No.72 Edit Distance” ，其本质就是在考察上述两种算法的实现。可见相关问题离我们并不遥远。

N-Gram在模糊匹配中的应用

事实上，笔者在新出版的 《算法之美——隐匿在数据结构背后的原理》 一书中已经详细介绍了包括Needleman-Wunsch算法、Smith-Waterman算法、N-Gram算法、Soundex算法、Phonix算法等在内的多种距离定义算法（或模糊匹配算法）。而今天为了引出N-Gram模型在NLP中的其他应用，我们首先来介绍一下如何利用N-Gram来定义字符串之间的距离。

我们除了可以定义两个字符串之间的编辑距离（通常利用Needleman-Wunsch算法或Smith-Waterman算法）之外，还可以定义它们之间的N-Gram距离。N-Gram（有时也称为N元模型）是自然语言处理中一个非常重要的概念。假设有一个字符串 s

，那么该字符串的N-Gram就表示按长度 N 切分原词得到的词段，也就是 s

中所有长度为 N 的子字符串。设想如果有两个字符串，然后分别求它们的N-Gram，那么就可以从它们的共有子串的数量这个角度去定义两个字符串间的N-Gram距离。但是仅仅是简单地对共有子串进行计数显然也存在不足，这种方案显然忽略了两个字符串长度差异可能导致的问题。比如字符串 girl 和 girlfriend，二者所拥有的公共子串数量显然与 girl 和其自身所拥有的公共子串数量相等，但是我们并不能据此认为 girl 和girlfriend 是两个等同的匹配。

为了解决该问题，有学者便提出以非重复的N-Gram分词为基础来定义 N-Gram距离这一概念，可以用下面的公式来表述：

|GN(s)|+|GN(t)|−2×|GN(s)∩GN(t)|

此处，|GN(s)|

是字符串 s

的 N-Gram集合，N 值一般取2或者3。以 N = 2 为例对字符串Gorbachev和Gorbechyov进行分段，可得如下结果（我们用下画线标出了其中的公共子串）。

有兴趣的读者可以在引用相关JAR包之后在Eclipse中执行上述Java程序，你会发现，和我们预期的一样，字符串Gorbachev和Gorbechyov所得之距离评分较高（=0.7），说明二者很接近；而girl和girlfriend所得之距离评分并不高（=0.3999），说明二者并不很接近。

利用N-Gram模型评估语句是否合理

从现在开始，我们所讨论的N-Gram模型跟前面讲过N-Gram模型从外在来看已经大不相同，但是请注意它们内在的联系（或者说本质上它们仍然是统一的概念）。

为了引入N-Gram的这个应用，我们从几个例子开始。首先，从统计的角度来看，自然语言中的一个句子 s

可以由任何词串构成，不过概率 P(s)

有大有小。例如：

s1

= 我刚吃过晚饭

s2

= 刚我过晚饭吃

显然，对于中文而言 s1

是一个通顺而有意义的句子，而s2

则不是，所以对于中文来说，P(s1)>P(s2)

。但不同语言来说，这两个概率值的大小可能会反转。

其次，另外一个例子是，如果我们给出了某个句子的一个节选，我们其实可以能够猜测后续的词应该是什么，例如

the large green __ . Possible answer may be “mountain” or “tree” ?

Kate swallowed the large green __ . Possible answer may be “pill” or “broccoli” ?

显然，如果我们知道这个句子片段更多前面的内容的情况下，我们会得到一个更加准确的答案。这就告诉我们，前面的（历史）信息越多，对后面未知信息的约束就越强。

如果我们有一个由 m

个词组成的序列（或者说一个句子），我们希望算得概率 P(w1,w2,⋯,wm)

，根据链式规则，可得

P(w1,w2,⋯,wm)=P(w1)P(w2|w1)P(w3|w1,w2)⋯P(wm|w1,⋯,wm−1)

这个概率显然并不好算，不妨利用马尔科夫链的假设，即当前这个词仅仅跟前面几个有限的词相关，因此也就不必追溯到最开始的那个词，这样便可以大幅缩减上诉算式的长度。即P(wi|w1,⋯,wi−1)=P(wi|wi−n+1,⋯,wi−1)

特别地，对于 n

取得较小值的情况当 n=1

, 一个一元模型（unigram model)即为P(w1,w2,⋯,wm)=∏i=1mP(wi)

当 n=2

, 一个二元模型（bigram model)即为P(w1,w2,⋯,wm)=∏i=1mP(wi|wi−1)

当 n=3

, 一个三元模型（trigram model)即为P(w1,w2,⋯,wm)=∏i=1mP(wi|wi−2wi−1)

接下来的思路就比较明确了，可以利用最大似然法来求出一组参数，使得训练样本的概率取得最大值。

对于unigram model而言，其中c(w1,..,wn)

表示 n-gram w1,..,wn

在训练语料中出现的次数，M

是语料库中的总字数（例如对于 yes no no no yes 而言，M=5

）P(wi)=C(wi)M

对于bigram model而言，P(wi|wi−1)=C(wi−1wi)C(wi−1)

对于n

-gram model而言，P(wi|wi−n−1,⋯,wi−1)=C(wi−n−1,⋯,wi)C(wi−n−1,⋯,wi−1)

来看一个具体的例子，假设我们现在有一个语料库如下，其中<s1><s2>

是句首标记，</s2></s1>

是句尾标记：

<s1><s2>yesnonononoyes</s2></s1><s1><s2>nononoyesyesyesno</s2></s1>

下面我们的任务是来评估如下这个句子的概率：<s1><s2>yesnonoyes</s2></s1>

我们来演示利用trigram模型来计算概率的结果P(yes|<s1><s2>)=12,P(no|<s2>yes)=1P(no|yesno)=12,P(yes|nono)=25P(</s2>|noyes)=12,P(</s1>|yes</s2>)=1

所以我们要求的概率就等于：12×1×12×25×12×1=0.05

再举一个来自文献[1]的例子，假设现在有一个语料库，我们统计了下面一些词出现的数量

下面这个概率作为其他一些已知条件给出：P(i|<s>)=0.25P(english|want)=0.0011P(food|english)=0.5P(</s>|food)=0.68

，则可以算得P(s1)=P(i|<s>)P(want|i)P(english|want)P(food|english)P(</s>|food)=0.25×0.33×0.0011×0.5×0.68=0.000031

使用N-Gram模型时的数据平滑算法

有研究人员用150万词的训练语料来训练 trigram 模型，然后用同样来源的 测试 语料来做验证，结果发现23%的 trigram 没有在训练语料中出现过。这其实就意味着上一节我们所计算的那些概率有空为 0，这就导致了数据稀疏的可能性，我们的表3中也确实有些为0的情况。对语言而言，由于数据稀疏的存在，极大似然法不是一种很好的参数估计办法。

这时的解决办法，我们称之为“平滑技术”（Smoothing）或者 “减值” （Discounting）。其主要策略是把在训练样本中出现过的事件的概率适当减小，然后把减小得到的概率密度分配给训练语料中没有出现过的事件。实际中平滑算法有很多种，例如：▸ Laplacian (add-one) smoothing▸ Add-k smoothing▸ Jelinek-Mercer interpolation▸ Katz backoff▸ Absolute discounting▸ Kneser-Ney

对于这些算法的详细介绍，我们将在后续的文章中结合一些实例再来进行讨论。

A Final Word

如果你能从前面那些繁冗、复杂的概念和公式中挺过来，恭喜你，你对N-Gram模型已经有所认识了。尽管，我们还没来得及探讨平滑算法（但它即将出现在我的下一篇博文里，如果你觉得还未过瘾的话），但是其实你已经掌握了一个相对powerful的工具。你可以能会问，在实践中N-Gram模型有哪些具体应用，作为本文的结束，主页君便在此补充几个你曾见过的或者曾经好奇它是如何实现的例子。

Eg.1 搜索引擎 （Google或者Baidu）、或者输入法的猜想或者提示。你在用百度时，输入一个或几个词，搜索框通常会以下拉菜单的形式给出几个像下图一样的备选，这些备选其实是在猜想你想要搜索的那个词串。再者，当你用输入法输入一个汉字的时候，输入法通常可以联系出一个完整的词，例如我输入一个“刘”字，通常输入法会提示我是否要输入的是“刘备”。通过上面的介绍，你应该能够很敏锐的发觉，这其实是以N-Gram模型为基础来实现的，如果你能有这种觉悟或者想法，那我不得不恭喜你，都学会抢答了！

Eg.2 某某作家或者语料库风格的文本自动生成。这是一个相当有趣的话题。来看下面这段话（该例子取材自文献【1】）：

“You are uniformly charming!” cried he, with a smile of associating and now and then I bowed and they perceived a chaise and four to wish for.

你应该还没有感觉到它有什么异样吧。但事实上这并不是由人类写出的句子，而是计算机根据Jane Austen的语料库利用trigram模型自动生成的文段。（Jane Austen是英国著名女作家，代表作有《傲慢与偏见》等）

再来看两个例子，你是否能看出它们是按照哪位文豪（或者语料库）的风格生成的吗？

This shall forbid it should be branded, if renown made it empty.

They also point to ninety nine point six billion dollars from two hundred four oh three percent of the rates of interest stores as Mexico and Brazil on market conditions.

答案是第一个是莎士比亚，第二个是华尔街日报。最后一个问题留给读者思考，你觉得上面两个文段所运用的n-gram模型中，n应该等于多少？

推荐阅读和参考文献：

[1] Speech and Language Processing. Daniel Jurafsky &James H. Martin, 3rd. Chapter 4[2] 本文中的一些例子和描述来自 北京大学 常宝宝 以及 The University of Melbourne “Web Search and Text Analysis” 课程的幻灯片素材

---