不敲代码,也可以机器学习、数据挖掘——IBM SPSS Modeler

[复制链接]
浪人!!! 发表于 2019-4-12 22:29:38 | 显示全部楼层 |阅读模式
来源:https://www.toutiao.com/group/6677498560939819528/
若内容不全,可点击上述链接查看来源网页,在网页中点击红色双层向下的箭头阅读全文


IBMSPSSModeler简介

作为IBM分析与预测解决方案的重要组成部分,IBMSPSSModeler是一组数据挖掘工具,通过这些工具可以采用商业技术快速建立预测性模型,并将其应用于商业活动,从而改进决策过程。

随着于2010年其新版本14.1的发布,名字也由PASWModeler更名为现在的IBMSPSSModeler。

Modeler是第一款以图形化"语法"为用户界面的数据挖掘软件。Modeler拥有丰富的数据挖掘算法,操作简单易用,分析结果直观易懂,图形功能强大,支持与数据库之间的数据和模型交换,可以使用户方便快捷地实现数据挖掘。

SPSSModeler提供了各种借助机器学习、人工智能和统计学的建模方法。通过建模选项板中的方法,您可以根据数据生成新的信息以及开发预测模型。

每种方法各有所长,同时适用于解决特定类型的问题。其操作与数据分析的一般流程相吻合。

数据分析通常通过数据收集、数据预处理、模型建立、模型评价等环节。

Modeler形象地将这些环节表示成若干个节点,将数据分析过程看作数据在各个节点之间的流动,并通过图形化的数据流方式,直观表示整个数据挖掘的各个环节。

熟悉界面

典型的SPSSModeler界面如下:

基本概念:节点

节点代表要对数据执行的操作。

例如,假定您需要打开某个数据源、添加新字段、根据新字段中的值选择记录,然后在表中显示结果。在这种情况下,您的数据流应由以下四个节点组成:

节点示例:

基本概念:数据流

SPSSModeler进行的数据挖掘重点关注通过一系列节点运行数据的过程,我们将这一过程称为数据流。也可以说SPSSModeler是以数据流为驱动的产品。这一系列节点代表要对数据执行的操作,而节点之间的链接指示数据的流动方向。如,上面提到的四个节点可以创建如下数据流:

通常,SPSSModeler将数据以一条条记录的形式读入,然后通过对数据进行一系列操作,最后将其发送至某个地方(可以是模型,或某种格式的数据输出)。

使用SPSSModeler处理数据的三个步骤:

1.将数据读入SPSSModeler。

2.通过一系列操纵运行数据。

3.将数据发送到目标位置。

在SPSSModeler中,可以通过打开新的数据流来一次处理多个数据流。会话期间,可以在SPSSModeler窗口右上角的流管理器中管理打开的多个数据流。

节点选用板

每个选项板选项卡均包含一组不同的流操作阶段中使用的相关节点,如:

源:此类节点可将数据导入SPSSModeler,如数据库、文本文件、SPSSStatistics数据文件、Excel、XML等。

包含SPSSModeler可以直接读取的所有数据源格式,主要有数据库、变量文件、固定文件、Excel文件、SAS文件、Statistics文件等。

记录选项:此类节点可对数据记录执行操作,如选择、合并和追加等。

用于对数据进行转换,包含选择、汇总、排序、合并、追加、区分等。

其中:

"选择"节点:选出符合我们条件的数据;

"汇总"节点:将数据按照特定条件进行汇总统计;

"排序"节点:将数据按照一定的规则进行排序;

"合并"节点:将两个及以上的文件按照关键字等进行整合;

"追加"节点:将两个及以上的文件进行数据的累加;

"区分"节点:按照条件将重复数据删除。

在记录上进行操作,一条记录是一种"情形"或一"行"数据。

字段选项:此类节点可对数据字段执行操作,如过滤、导出新字段和确定给定字段的测量级别等。

用于对列进行转换,包含类型过滤导出填充转置字段重排等。在字段上进行操作,一个字段是一个变量/指标。

图形:此类节点可在建模前后以图表形式显示数据。图形包括散点图、直方图、网络节点和评估图表等。

用于数据的可视化分析,包裹SPSSModeler可以生成的主要图形,如分布图、直方图、多重散点图、网络图、时间散点图、评估图等,在建模之前和之后用来可视化数据。

建模:此类节点可使用SPSSModeler中提供的建模算法,如神经网络、决策树、聚类算法和数据排序等。

包含了丰富的数据挖掘模型,提供了一系列的数据挖掘技术,用来进行预测、聚类、关联、分类等,可满足数据挖掘的应用需求。

数据库建模:节点使用MicrosoftSQLServer、IBMDB2和Oracle数据库中可用的建模算法直接在数据库里进行建模及评估。

输出:节点生成数据、图表和可在SPSSModeler中查看的模型等多种输出结果。

输出不仅仅是ETL过程,还包括了对数据的统计分析报告输出,如表、矩阵、分析、数据审核、变换、统计量等。

导出:节点生成可在外部应用程序(如IBMSPSSDataCollection或Excel)中查看的多种输出。

导出的格式与"源"选项卡类似,包含数据库、Excel、SAS导出、Statistics导出等,用来对处理后的结果输出成相应格式。

IBMSPSSStatistics选项卡:为了提高客户日常工作的效率,将IBMSPSSStatistics数据导入或导出为SPSSStatistics数据,以及运行SPSSStatistics提供的功能。设置该节点便于模型结果的再利用,从而实现与SPSSStatistics的兼容。

TextAnalytics文本挖掘选项卡:如果SPSSModeler没有安装文本挖掘模块,则工具栏上将没有该工具,该节点是为了实现文本挖掘而添加的。

随着对SPSSModeler的熟悉,您可以在收藏夹自定义常用的选项板内容。

使用节点和流

要将节点添加到工作区,请在节点选项板中双击图标或将其拖放到工作区。

已添加到流工作区的节点在连接之前不会形成数据流,可以将各个图标连接以创建一个表示数据流动的流,节点之间的连接指示数据从一项操作流向下一项操作的方向。

创建了流以后,可以对流进行保存、添加注解,将其添加到工程。

从文件主菜单中,选择流属性还可以为流设置各种选项,如优化、日期和时间设置、参数和脚本。

使用流属性对话框中的消息选项卡,可以轻松查看有关运行、优化和模型构建和评估所用时间等流操作有关的消息,流操作的错误消息也将在这里报告。

SPSSModeler管理器

可以使用流选项卡打开、重命名、保存和删除在会话中创建的多个流。

输出选项卡中包含由SPSSModeler中的流操作生成的输出或图形文件。您可以显示、保存、重命名和关闭此选项上列出的表格、图形和报告。

模型选项卡是管理器选项卡中功能最强大的选项卡。该选项卡中包含所有模型块,如当前会话中生成的模型,通过PMML导入的模型等。这些模型可以直接从模型选项卡上浏览或将其添加到工作区的流中进行数据分析。

窗口右侧底部是工程工具,用于创建和管理数据挖掘工程(与数据挖掘任务相关的文件组)。有两种方式可查看您在SPSSModeler中创建的工程-类视图或CRISP-DM视图。

依据跨行业数据挖掘过程标准CRISP-DM选项卡提供了一种组织工程的方式。不论是有经验的数据挖掘人员还是新手,使用CRISP-DM工具都会使您事半功倍。

类选项卡提供了一种在SPSSModeler中按类别(按照所创建对象的类别)组织您工作的方式。此视图在获取数据、流、模型的详尽目录时十分有用。