原创 特征选择：卡方检验

陆勤 2019-12-19 177409 0 0

### 01 卡方检验是什么 >卡方检验是一种统计量的分布在零假设成立时近似服从卡方分布的假设检验。在没有其他的限定条件或说明下，卡方检验一般指的是皮尔森卡方检验。——《维基百科》  上图表示分别在1、2、3、4、5的自由度下，卡方统计量（X轴）与P值（P-value，Y轴）之间的变化关系。 ### 02 卡方检验与特征选择 特征选择是针对所要解决的问题从原始特征集选择到一组最佳的特征子集，具体包括删除无关的，冗余的，含有噪声的特征。 对于分类问题，在Filter方法中一般假设与分类目标独立的特征为无关特征，而卡方检验可以进行独立性检验，所以其适用于特征选择。 K方检验做特征选择属于一种Filter方法，如果检验结果是某个特征与标签独立，则可以删除该特征。 ### 03 R语言实现卡方检验的特征选择 现在利用R语言实现卡方检验的特征选择。 参考代码如下： ``` ################## #特征选择：K方检验 ################# # R包 library(FSelector) library(mlbench) # 导入数据集 data(HouseVotes84) # 数据集变量类型查看 sapply(HouseVotes84, class) # 目标变量的分布 table(HouseVotes84$Class) # 利用K方检验判断特征集与目标变量是否无关 weights <- chi.squared(Class~., HouseVotes84) print(weights) # 特征选择的策略 # 1）按着Top-N的方法选择特征集 subset <- cutoff.k(weights, 5) print(subset) # 2）按着Top-P（百分比）的方法选择特征集 subset1 <- cutoff.k.percent(weights, 0.2) print(subset1) # 利用选择的特征集与目标变量组合成新的拟合关系式子 f1 <- as.simple.formula(subset, 'Class') print(f1) f2 <- as.simple.formula(subset1, 'Class') print(f2) ``` 结果如下：   <br/><br/><b>版权声明：</b>作者保留权利。文章为作者独立观点，不代表数据人网立场。严禁修改，转载请注明原文链接:http://www.shujuren.org/article/19817.html<br/><b>数据人网：</b>数据人学习，交流和分享的平台，诚邀您创造和分享数据知识，共建和共享数据智库。