shevonWang's Blog

Python 实现数据预处理

本文内容参考于《Python数据分析与挖掘实战》

数据预处理

在数据挖掘的过程中,数据预处理工作占大部分。
数据预处理主要包括:

  • 数据清洗
  • 数据集成
  • 数据变换
  • 数据规约

数据清洗

数据清洗主要是删除原始数据集中的无关数据、重复数据,平滑噪声数据,筛选掉与数据挖掘主题无关的数据,处理缺失值、异常值等。

缺失值处理

处理缺失值的方法分为3类:

  • 删除记录
  • 数据插补
  • 不处理

最常见的数据插补方法又有:

  • 均值替代
  • 固定值替代
  • 回归方法
  • 插值法

使用 Python 实现拉格朗日插值

在这里就记录拉格朗日插值法。拉格朗日插值用数学来解释就是,“对于平面上的 \(n\) 个点,可以找到一个 \(n - 1\) 次多项式

$$y = a{0} + a{1}x + a{2}x^{2} + … + a{n-1}x^{n-1}$$

使此多项式曲线过这 \(n\) 个点。”
代码:

#!usr/bin/env python
#-*- coding: utf-8 -*-
#拉格朗日插值代码
import pandas as pd #导入数据分析库Pandas
from scipy.interpolate import lagrange #导入拉格朗日插值函数

inputfile = '../catering_sale.xls' #销量数据路径
outputfile = '..sales.xls' #输出数据路径

data = pd.read_excel(inputfile) #读入数据
data[u'销量'][(data[u'销量'] < 400) | (data[u'销量'] > 5000)] = None #过滤异常值,将其变为空值

#自定义列向量插值函数
#s为列向量,n为被插值的位置,k为取前后的数据个数,默认为5
def ployinterp_column(s, n, k=5):
  y = s[list(range(n-k, n)) + list(range(n+1, n+1+k))] #取数
  y = y[y.notnull()] #剔除空值
  return lagrange(y.index, list(y))(n) #插值并返回插值结果

#逐个元素判断是否需要插值
for i in data.columns:
  for j in range(len(data)):
    if (data[i].isnull())[j]: #如果为空即插值。
      data[i][j] = ployinterp_column(data[i], j)

data.to_excel(outputfile)  #输出结果,写入文件

零 - 均值规范化

经过处理的数据均值为 0,标准差为 1 。

$$x^* = \frac{x - \bar{x}}{\sigma }$$