ALLWITHLOVE 2020-02-26
在现实社会中的数据往往存在噪声数据、缺失值和不一致数据的问题。为了提高数据挖掘工作的效率和准确性,需要使用数据清理、数据集成、数据归约和数据变换等方法对数据进行预处理操作。
数据质量的三个要素是:准确性、完整性和一致性。
数据清理试图填充缺失值、光滑噪声并识别离群点、纠正数据中的不一致。
对于缺失值,通常包含以下一些做法:
噪声数据是被测量的变量的随机误差或方差。下面列举了一些“数据光滑”的技术。
1.分箱方法:
分箱方法通过考察数据的周围的值来光滑有序数据值。下边图表示了“用箱均值” 和 “用箱边界” 两种光滑手段,将有序的9个数字排序后放入3个箱子内。
2.回归:
用一个函数拟合数据来光滑数据。例如,线性回归是指找到拟合两个属性的最佳直线。
3.离群点分析:
通过聚类来检测离群点,一般认为,落在簇之外的点就是离群点。
数据清理过程的第一步是偏差检测。如果进行偏差检测呢? 首先应该了解元数据信息。例如,了解某个数据属性的均值、中位数、标准差等。第2步就是数据变换(纠正偏差)了,可以使用专门的工具,或者ETL来完成转换步骤。
数据集成式合并来自多个数据源的数据,有效的数据集成可以减少数据集的冗余和不一致问题。
1. 实体识别问题:来自多个源的的等价实体如何才能够匹配上 ?
2.