旗下产业: A产业/ A实习/ A计划
全国统一咨询热线:010-5367 2995
首页 > 热门文章 > 大数据分析 > 大数据分析数据挖掘工具sklearn使用指南
大数据分析数据挖掘工具sklearn使用指南
时间:2020-12-28来源:www.aaa-cg.com.cn点击量:作者:Sissi
时间:2020-12-28点击量:作者:Sissi




一、使用sklearn数据挖掘
 

  1、数据挖掘的步骤
 

  数据挖掘通常包括数据采集,数据分析,特征工程,训练模型,模型评估等步骤。
 

  显然,这不是巧合,这正是sklearn的设计风格。我们能够更加优雅地使用sklearn进行特征工程和模型训练工作。此时,不妨从一个基本的数据挖掘场景入手:
 

大数据分析数据挖掘工具sklearn使用指南
 

  我们使用sklearn进行虚线框内的工作(sklearn也可以进行文本特征提取)。通过分析sklearn源码,我们可以看到除训练,预测和评估以外,处理其他工作的类都实现了3个方法:fit、transform和fit_transform。从命名中可以看到,fit_transform方法是先调用fit然后调用transform,我们只需要关注fit方法和transform方法即可。
 

  transform方法主要用来对特征进行转换。从可利用信息的角度来说,转换分为无信息转换和有信息转换。无信息转换是指不利用任何其他信息进行转换,比如指数、对数函数转换等。
 

  有信息转换从是否利用目标值向量又可分为无监督转换和有监督转换。无监督转换指只利用特征的统计信息的转换,统计信息包括均值、标准差、边界等等,比如标准化、PCA法降维等。
 

  有监督转换指既利用了特征信息又利用了目标值信息的转换,比如通过模型选择特征、LDA法降维等。通过总结常用的转换类,我们得到下表:
 

大数据分析数据挖掘工具sklearn使用指南
 

  不难看到,只有有信息的转换类的fit方法才实际有用,显然fit方法的主要工作是获取特征信息和目标值信息,在这点上,fit方法和模型训练时的fit方法就能够联系在一起了:都是通过分析特征和目标值,提取有价值的信息,对于转换类来说是某些统计量,对于模型来说可能是特征的权值系数等。
 

  另外,只有有监督的转换类的fit和transform方法才需要特征和目标值两个参数。fit方法无用不代表其没实现,而是除合法性校验以外,其并没有对特征和目标值进行任何处理,Normalizer的fit方法实现如下:
 

大数据分析数据挖掘工具sklearn使用指南
 

  基于这些特征处理工作都有共同的方法,那么试想可不可以将他们组合在一起?在大数据分析数据挖掘工具sklearn使用指南假设的场景中,我们可以看到这些工作的组合形式有两种:流水线式和并行式。
 

  基于流水线组合的工作需要依次进行,前一个工作的输出是后一个工作的输入;基于并行式的工作可以同时进行,其使用同样的输入,所有工作完成后将各自的输出合并之后输出。sklearn提供了包pipeline来完成流水线式和并行式的工作。
 

  2、数据初貌
 

  在此,我们仍然使用IRIS数据集来进行说明。为了适应提出的场景,对原数据集需要稍微加工:
 

大数据分析数据挖掘工具sklearn使用指南
 

  3.关键技术
 

  并行处理,流水线处理,自动化调参,持久化是使用sklearn优雅地进行数据挖掘的核心。并行处理和流水线处理将多个特征处理工作,甚至包括模型训练工作组合成一个工作(从代码的角度来说,即将多个对象组合成了一个对象)。
 

  在组合的前提下,自动化调参技术帮我们省去了人工调参的反锁。训练好的模型是贮存在内存中的数据,持久化能够将这些数据保存在文件系统中,之后使用时无需再进行训练,直接从文件系统中加载即可。
 

二、并行处理
 

  并行处理使得多个特征处理工作能够并行地进行。根据对特征矩阵的读取方式不同,可分为整体并行处理和部分并行处理。整体并行处理,即并行处理的每个工作的输入都是特征矩阵的整体;部分并行处理,即可定义每个工作需要输入的特征矩阵的列。
 

  1.整体并行处理
 

  pipeline包提供了FeatureUnion类来进行整体并行处理:
 

大数据分析数据挖掘工具sklearn使用指南
 

  2.部分并行处理
 

  整体并行处理有其缺陷,在一些场景下,我们只需要对特征矩阵的某些列进行转换,而不是所有列。pipeline并没有提供相应的类(仅OneHotEncoder类实现了该功能),需要我们在FeatureUnion的基础上进行优化:

 

大数据分析数据挖掘工具sklearn使用指南
大数据分析数据挖掘工具sklearn使用指南
大数据分析数据挖掘工具sklearn使用指南
大数据分析数据挖掘工具sklearn使用指南
大数据分析数据挖掘工具sklearn使用指南
大数据分析数据挖掘工具sklearn使用指南
大数据分析数据挖掘工具sklearn使用指南
大数据分析数据挖掘工具sklearn使用指南
大数据分析数据挖掘工具sklearn使用指南
大数据分析数据挖掘工具sklearn使用指南
 

  在大数据分析数据挖掘工具sklearn使用指南提出的场景中,我们对特征矩阵的第1列(花的颜色)进行定性特征编码,对第2、3、4列进行对数函数转换,对第5列进行定量特征二值化处理。使用FeatureUnionExt类进行部分并行处理的代码如下:


三、流水线处理
 

  pipeline包提供了Pipeline类来进行流水线处理。流水线上除最后一个工作以外,其他都要执行fit_transform方法,且上一个工作输出作为下一个工作的输入。
 

  最后一个工作必须实现fit方法,输入为上一个工作的输出;但是不限定一定有transform方法,因为流水线的最后一个工作可能是训练!
 

  根据大数据分析数据挖掘工具sklearn使用指南提出的场景,结合并行处理,构建完整的流水线的代码如下:
 

大数据分析数据挖掘工具sklearn使用指南
大数据分析数据挖掘工具sklearn使用指南
大数据分析数据挖掘工具sklearn使用指南
大数据分析数据挖掘工具sklearn使用指南



 

四、自动化调参
 

  网格搜索为自动化调参的常见技术之一,grid_search包提供了自动化调参的工具,包括GridSearchCV类。对组合好的对象进行训练以及调参的代码如下:



大数据分析数据挖掘工具sklearn使用指南

五、持久化
 

  externals.joblib包提供了dump和load方法来持久化和加载内存数据:
 

大数据分析数据挖掘工具sklearn使用指南
大数据分析数据挖掘工具sklearn使用指南

 

  注意:组合和持久化都会涉及pickle技术,在sklearn的技术文档中有说明,将lambda定义的函数作为FunctionTransformer的自定义转换函数将不能pickle化。



 

预约申请免费试听课

填写下面表单即可预约申请免费试听!怕钱不够?可先就业挣钱后再付学费! 怕学不会?助教全程陪读,随时解惑!担心就业?一地学习,可推荐就业!

©2007-2021/北京漫动者教育科技有限公司版权所有
备案号:京ICP备12034770号

老师想和你聊一聊

©2007-2021/ www.aaa-cg.com.cn 北京漫动者教育科技有限公司 备案号: 京ICP备12034770号 监督电话:010-53672995 邮箱:bjaaa@aaaedu.cc

京公网安备 11010802035704号

网站地图