「数据挖掘入门系列」数据探索之数据特征分析

lmseohy 2020-01-30

对数据质量进行简单的分析后,我们就可以开始来分析数据的特征分析了。数据的特征分析可以从以下几个方面开展:

  1. 分布分析
  2. 对比分析
  3. 统计量分析
  4. 周期性分析
  5. 相关性分析

通过以上5种方式,可以找到数据中存在的某种特征。

分布分析

分布分析很容易理解,就是理解数据的分布情况。例如:在0-100区间有多少数据、100-1000有多少数据等等。我们一般可以使用直方图饼图来展示数据的分布情况。

分布分析可以分为两种类型:

  • 定量数据分布分析
  • 定性数据分布分析

定量数据分布分析就是把数据分成一个个固定的区间,然后统计不同区间的分布数值。

「数据挖掘入门系列」数据探索之数据特征分析

定量数据分析的步骤为如下:

  1. 求极差(最大值 - 最小值)
  2. 决定组距和组数
  3. 决定分点
  4. 列出频率分布表
  5. 绘制频率分布直方图

定性数据分布分析比较简单,就是按照指定的分类来统计不同类别的分布数值。

「数据挖掘入门系列」数据探索之数据特征分析

对比分析

对比分析是指选择具备有一定联系的指标来进行比较,从而发现数据的变化特征。对比分析的关键在于确定对比的标准,才能进行有效的评价。

对比分析主要分为两类:

  • 绝对数比较
  • 相对数比较

绝对数比较容易理解,就是用指标和一个固定的值来进行比较,寻找数据的差异。

相对数比较是找到几个有联系的指标来进行比较分析,可以发现不同类别指标之间的差异。相对数比较又分为以下几类:

  • 结构相对数:用一个分类的指标和总体的指标值对比求得比重,用来说明事物的组成结构。
  • 比较相对数:不同分类的指标之间的对比,例如:男女比例、不同区域指标的对比。
  • 计划完成程度相对数:和计划数进行比较
  • 动态相对数:不同时期的指标进行比较

统计量分析

统计量分析是用统计指标来对定量数据进行分析,一般从集中趋势和离中趋势两个方面来开展分析。

反应集中趋势的度量通常使用均值中位数。反应异常的指标通常使用的是标准差(方差)、四分位间距。

1、平均数:一组数据,用这组数据的总和除以总分数,得出的数就是这组数据的平均数。平均数的大小与一组数据里的每个数据都有关系,任何一个数据的变动都会引起平均数的变动,即平均数受较大数和较小数的影响。
2. 中位数:将一组数据按大小依次排列,把处在最中间位置的一个数(或最中间位置的两个数的平均数)叫做这组数据的中位数。中位数的大小仅与数据的排列位置有关。因此中位数不受偏大和偏小数的影响,当一组数据中的个别数据变动较大时,常用它来描述这组数据的集中趋势

以下来说明上述集中度量值的计算方法。

集中趋势分析

均值

均值是所有数据的平均值。

「数据挖掘入门系列」数据探索之数据特征分析

均值对极端值(异常值)很敏感。如果数据中存在某些数据是偏态分布的,那么均值是不能很好地度量数据的集中趋势。为了消除少数异常值的影响,可以使用截断均值或者中位数来度量数据的集中趋势。

阶段均值是指去掉高、低极端值之后的平均数

中位数

中位数是将一组观察值按从小到大的顺序排列,位于中间的那个数。

众数

众数是指数据集中出现最频繁的值。众数一般用于定性变量。

离中趋势分析

极差

极差 = 最大值 - 最小值

标准差

标准差度量数据偏离均值的程度。计算公式为:

「数据挖掘入门系列」数据探索之数据特征分析

变异系数

变异系数度量是标准差相对于均值的离中趋势。计算公式为:

「数据挖掘入门系列」数据探索之数据特征分析

四分位数间距

四分位数间距是上四分位数Qu与下四分位数Ql的差值。间距越大说明变异程度越大;反之,说明变异程度越小。

周期性分析

周期性分析是统计某个指标是否随着时间变化而变化。相对较长的周期性趋势分析有:年度周期性趋势、季度周期性趋势。相对较短的有月度周期性趋势、周度周期性趋势、甚至还有天、小时等周期性趋势。

相关性分析

分析连续变量之间线性相关程度的强弱,并用适当的统计指标表示出来的过程称为相关分析。我们可以通过:直接绘制散点图或者绘制散点图矩阵来开展分析。计算相关性系数有以下几种方法:

  1. Pearson(皮尔逊系数):一般用于分析两个连续性变量之间的关系,它要求连续变量的取值服从正态分布。
  2. Speraman(斯皮尔曼相关系数):不服从正态分布的变量、分类或等级变量之间的关联性可以采取Speraman相关系数来描述。
  3. 判定系数:判断系数是相关系数的平方,判定系数越接近1,表示相关性越强,越接近于0,表名两个变量之间几乎没有相关关系。

相关推荐