Svtter
6/28/2013 - 8:57 AM

数据挖掘基础知识

数据挖掘基础知识

序号探测指标指标作用指标类型
1均值(mean)能够利用所有已知信息,但对异常值(极大、极小)敏感集中趋势指标
2中位数(median)排序后居于中间位置的数值,有序尺度常用集中趋势指标
3众数(mode)出现最频繁的数,代表分布中的高峰集中趋势指标
4极差(range)最大最小值之差,直接受到异常值影响变异性指标
5方差(variance)数据越分散,原理均值,方差越大变异性指标
6标准差(standard deviation)与数据本身有相同的量纲变异性指标
7偏度(skewness)刻画数据在均值两侧偏差趋势的差异性变异性指标
8峰读(kurtosis)测量分布曲线相对平滑或突起的程度变异性指标
序号算法归类作用
1C4.5分类机器学习算法中的一种分类决策树算法
2kNN分类K最近邻(k-Nearest Neighbor)分类算法
3Naive Bayes分类朴素贝叶斯模型
4CART分类分类与回归树
5K-Means聚类聚类算法
6Apriori关联分析一种最有影响的挖掘布尔关联规则频繁项集的算法
7AdaBoost袋装与推进一种迭代算法
8PageRank链接挖掘Google算法的重要内容
9SVM统计学习支持向量机
0EM统计学习最大期望算法
次序简要步骤具体步骤作用
1收集信息收集根据确定的数据分析对象,抽象出在数据分析中所需要的特征信息,然后选择合适的信息收集方法, 将收集到的信息存入数据库。对于海量数据,选择一个合适的数据存储和管理的数据仓库是至关重要的。
2收集数据集成把不同来源、格式、特点性质的数据在逻辑上或物理上有机地集中,从而为企业提供全面的数据共享。
3预处理数据规约数据规约技术可以用来得到数据集的规约表 示,它小得多,但仍然接近于保持原数据的完整性,并且规约后执行数据挖掘结果与规约前执行结果相同或几乎相同。
4预处理数据清理在数据库中的数据有一些是不完整的 (有些感兴趣的属性缺少属性值)、含噪声的(包含错误的属性值),并且是不一致的(同样的信息不同的表示方式),因此需要进行数据清理,将完整、正确、一致的数据信息存入数据仓库中。
5预处理数据变换通过平滑聚集、数据概化、规范化等 方式将数据转换成适用于数据挖掘的形式。对于有些实数型数据,通过概念分层和数据的离散化来转换数据也是重要的一步
6挖掘挖掘过程根据数据仓库中的数据信息,选择合适的分析工具,应用统计方法、事例推理、决策树、规则推理、模糊集,甚至神经网络、遗传算法的方法处理信息,得出有用的分析信息。
7挖掘模式评估从商业角度,由行业专家来验证数据挖掘结果的正确性。
8挖掘知识表示将数据挖掘所得到的分析信息以可视化的方式呈现给用户,或作为新的知识存放在知识库中,供其他应用程序使用。