登陆注册
49438300000043

第43章 物流决策支持系统(3)

5)数据集市(datamarts)

为了特定的应用目的或应用范围而从数据仓库中独立出来的一部分数据,也可称为部门数据或主题数据(subjectarea)。在数据仓库的实施过程中往往可以从一个部门的数据集市着手,以后再用几个数据集市组成一个完整的数据仓库。需要注意的就是在实施不同的数据集市时,同一含义的字段定义一定要相容,这样再以后实施数据仓库时才不会造成大麻烦。

数据仓库管理包括:安全和特权管理,跟踪数据的更新,数据质量检查,管理和更新元数据,审计和报告数据仓库的使用和状态,删除数据,复制、分割和分发数据,备份和恢复,存储管理。

信息发布系统,即把数据仓库中的数据或其他相关的数据发送给不同的地点或用户。基于Web的信息发布系统是对付多用户访问的最有效方法。

2.联机分析处理

(1)联机分析处理的概念

联机分析处理(On‐Line Analytical Processing,OLAP)的概念最早是由关系数据库之父爱德华·库德(E.F.Codd)博士于1993年提出的,是一种用于组织大型商务数据库和支持商务智能的技术。OLAP数据库分为一个或多个多维数据集,每个多维数据集都由多维数据集管理员组织和设计以适应用户检索和分析数据的方式,从而更易于创建和使用所需的数据透视表和数据透视图。

库德同时提出了关于OLAP的12条准则。OLAP的提出引起了很大的反响,OLAP作为一类产品同联机事务处理(OLTP)明显区分开来。库德提出OLAP的12条准则来描述OLAP系统:

准则1 OLAP模型必须提供多维概念视图;

准则2 透明性准则;

准则3 存取能力推测;

准则4 稳定的报表能力;

准则5 客户/服务器体系结构;

准则6 维的等同性准则;

准则7 动态的稀疏矩阵处理准则;

准则8 多用户支持能力准则;

准则9 非受限的跨维操作;

准则10 直观的数据操纵;

准则11 灵活的报表生成;

准则12 不受限的维与聚集层次。

当今的数据处理大致可以分成两大类:联机事务处理OLTP和联机分析处理OLAP。OLTP是传统的关系型数据库的主要应用,主要是基本的、日常的事务处理,例如银行交易。OLAP是数据仓库系统的主要应用,支持复杂的分析操作,侧重决策支持,并且提供直观易懂的查询结果。

(2)联机分析处理逻辑概念和典型操作

OLAP展现在用户面前的是一幅幅多维视图。

①维(dimension),是人们观察数据的特定角度,是考虑问题时的一类属性,属性集合构成一个维(时间维、地理维等)。

②维的层次(level),是人们观察数据的某个特定角度(即某个维),还可以存在细节程度不同的各个描述方面(时间维:日期、月份、季度、年)。

③维的成员(member),即维的一个取值,是数据项在某维中位置的描述。(“某年某月某日”是在时间维上位置的描述)。

④度量(measure),即多维数组的取值。(2000年1月,上海,笔记本电脑,$100000)。

OLAP的基本多维分析操作有钻取(drill‐up和drill‐down)、切片(slice)和切块(dice)以及旋转(pivot)等。

①钻取,是改变维的层次,变换分析的粒度。它包括向下钻取(drill‐down)和向上钻取(drill‐up)/上卷(roll‐up)。drill‐up是在某一维上将低层次的细节数据概括到高层次的汇总数据,或者减少维数;而drill‐down则相反,它从汇总数据深入细节数据进行观察或增加新维。

②切片和切块,是在一部分维上选定值后,关心度量数据在剩余维上的分布。如果剩余的维只有两个,则是切片;如果有三个或以上,则是切块。

③旋转,是变换维的方向,即在表格中重新安排维的放置(例如行列互换)。

(3)联机分析处理系统的体系结构和分类

数据仓库与OLAP的关系是互补的,现代OLAP系统一般以数据仓库作为基础,即从数据仓库中抽取详细数据的一个子集并经过必要的聚集存储到OLAP存储器中供前端分析工具读取。OLAP系统按照其存储器的数据存储格式可以分为关系OLAP(Relational OLAP,ROLAP)、多维OLAP(Multidimensional OLAP,MOLAP)和混合型OLAP(Hybrid OLAP,HOLAP)三种类型。

1)关系联机分析处理(ROLAP)

ROLAP将分析用的多维数据存储在关系数据库中,并根据应用的需要有选择地定义一批视图,作为表也存储在关系数据库中。不必要将每一个SQL查询都作为实视图保存,只定义那些应用频率比较高、计算工作量比较大的查询作为实视图。对每个针对OLAP服务器的查询,优先利用已经计算好的实视图来生成查询结果以提高查询效率。

同时用作ROLAP存储器的RDBMS也针对OLAP作相应的优化,比如并行存储、并行查询、并行数据管理、基于成本的查询优化、位图索引、SQL的OLAP扩展(cube,rollup)等等。

2)多维联机分析处理(MOLAP)

MOLAP将OLAP分析所用到的多维数据物理上存储为多维数组的形式,形成“立方体”的结构。维的属性值被映射成多维数组的下标值或下标的范围,而总结数据作为多维数组的值存储在数组的单元中。由于MOLAP采用了新的存储结构,从物理层实现起,因此又称为物理OLAP(Physical OLAP);而ROLAP主要通过一些软件工具或中间软件实现,物理层仍采用关系数据库的存储结构,因此称为虚拟OLAP(Virtual OLAP)。

3)混合联机分析处理(HOLAP)

由于MOLAP和ROLAP有着各自的优点和缺点,且它们的结构迥然不同,这给分析人员设计OLAP结构提出了难题。为此,一个新的OLAP结构——混合型OLAP(HOLAP)被提出,它能把MOLAP和ROLAP两种结构的优点结合起来。迄今为止,对HOLAP还没有一个正式的定义。但很明显,HOLAP结构不应该是MOLAP与ROLAP结构的简单组合,而是这两种结构技术优点的有机结合,能满足用户各种复杂的分析请求。

3.数据挖掘

(1)数据挖掘的定义

数据挖掘(DataMining,DM)又称数据库中的知识发现(Knowledge Discoverin Database,KDD),是目前人工智能和数据库领域研究的热点问题,所谓数据挖掘是指从数据库的大量数据中揭示出隐含的、先前未知的并有潜在价值的信息的非平凡过程。数据挖掘是一种决策支持过程,它主要基于人工智能、机器学习、模式识别、统计学、数据库、可视化技术等,高度自动化地分析企业的数据,作出归纳性的推理,从中挖掘出潜在的模式,帮助决策者调整市场策略,减少风险,作出正确的决策。

1)技术上的定义

数据挖掘(datamining)就是从大量的、不完全的、有噪声的、模糊的、随机的实际应用数据中,提取隐含在其中的、人们事先不知道的但又是潜在有用的信息和知识的过程。

与数据挖掘相近的同义词有数据融合、数据分析和决策支持等。这个定义包括好几层含义:数据源必须是真实的、大量的、含噪声的;发现的是用户感兴趣的知识;发现的知识要可接受、可理解、可运用;并不要求发现放之四海而皆准的知识,仅支持特定的发现问题。

何为知识?从广义上理解,数据、信息也是知识的表现形式,但是人们更把概念、规则、模式、规律和约束等看作知识。人们把数据看做是形成知识的源泉,好像从矿石中采矿或淘金一样。原始数据可以是结构化的,如关系数据库中的数据;也可以是半结构化的,如文本、图形和图像数据;甚至是分布在网络上的异构型数据。发现知识的方法可以是数学的,也可以是非数学的;可以是演绎的,也可以是归纳的。发现的知识可以被用于信息管理、查询优化、决策支持和过程控制等,还可以用于数据自身的维护。因此,数据挖掘是一门交叉学科,它把人们对数据的应用从低层次的简单查询,提升到从数据中挖掘知识,提供决策支持。在这种需求牵引下,汇聚了不同领域的研究者,尤其是数据库技术、人工智能技术、数理统计、可视化技术、并行计算等方面的学者和工程技术人员,投身到数据挖掘这一新兴的研究领域,形成新的技术热点。

这里所说的知识发现,不是要求发现放之四海而皆准的真理,也不是要去发现崭新的自然科学定理和纯数学公式,更不是什么机器定理证明。实际上,所有发现的知识都是相对的,是有特定前提和约束条件的,面向特定领域的,同时还要能够易于被用户理解。最好能用自然语言表达所发现的结果。

2)商业角度的定义

数据挖掘是一种新的商业信息处理技术,其主要特点是对商业数据库中的大量业务数据进行抽取、转换、分析和其他模型化处理,从中提取辅助商业决策的关键性数据。

简而言之,数据挖掘其实是一类深层次的数据分析方法。数据分析本身已经有很多年的历史,只不过在过去数据收集和分析的目的是用于科学研究,另外,由于当时计算能力的限制,对大数据量进行分析的复杂数据分析方法受到很大限制。现在,由于各行业业务自动化的实现,商业领域产生了大量的业务数据,这些数据不再是为了分析的目的而收集的,而是由于纯机会的(opportunistic)商业运作而产生。分析这些数据也不再是单纯为了研究的需要,更主要是为商业决策提供真正有价值的信息,进而获得利润。但所有企业面临的一个共同问题是:企业数据量非常大,而其中真正有价值的信息却很少,因此从大量的数据中经过深层分析,获得有利于商业运作、提高竞争力的信息,就像从矿石中淘金一样,数据挖掘也因此而得名。

因此,数据挖掘可以描述为:按企业既定业务目标,对大量的企业数据进行探索和分析,揭示隐藏的、未知的或验证已知的规律性,并进一步将其模型化的先进有效的方法。

(2)数据挖掘常用的方法

利用数据挖掘进行数据分析常用的方法主要有分类、回归分析、聚类、关联规则、特征、变化和偏差分析、Web页挖掘等,它们分别从不同的角度对数据进行挖掘。

1)分类

分类是找出数据库中一组数据对象的共同特点并按照分类模式将其划分为不同的类,其目的是通过分类模型,将数据库中的数据项映射到某个给定的类别。它可以应用到客户的分类、客户的属性和特征分析、客户满意度分析、客户的购买趋势预测等,如一个汽车零售商将客户按照对汽车的喜好划分成不同的类,这样营销人员就可以将新型汽车的广告手册直接邮寄到有这种喜好的客户手中,从而大大增加了商业机会。

2)回归分析

回归分析方法反映的是事务数据库中属性值在时间上的特征,产生一个将数据项映射到一个实值预测变量的函数,发现变量或属性间的依赖关系,其主要研究问题包括数据序列的趋势特征、数据序列的预测以及数据间的相关关系等。它可以应用到市场营销的各个方面,如客户寻求、保持和预防客户流失活动、产品生命周期分析、销售趋势预测及有针对性的促销活动等。

3)聚类分析

聚类分析是把一组数据按照相似性和差异性分为几个类别,其目的是使得属于同一类别的数据间的相似性尽可能大,不同类别中的数据间的相似性尽可能小。它可以应用到客户群体的分类、客户背景分析、客户购买趋势预测、市场的细分等。

4)关联规则

关联规则是描述数据库中数据项之间所存在的关系的规则,即根据一个事务中某些项的出现可导出另一些项在同一事务中也出现,即隐藏在数据间的关联或相互关系。在客户关系管理中,通过对企业的客户数据库里的大量数据进行挖掘,可以从大量的记录中发现有趣的关联关系,找出影响市场营销效果的关键因素,为产品定位、定价与定制客户群,客户寻求、细分与保持,市场营销与推销,营销风险评估和诈骗预测等决策支持提供参考依据。

5)特征分析

特征分析是从数据库中的一组数据中提取出关于这些数据的特征式,这些特征式表达了该数据集的总体特征。如营销人员通过对客户流失因素的特征提取,可以得到导致客户流失的一系列原因和主要特征,利用这些特征可以有效地预防客户的流失。

6)变化和偏差分析

偏差包括很大一类潜在有趣的知识,如分类中的反常实例、模式的例外、观察结果对期望的偏差等,其目的是寻找观察结果与参照量之间有意义的差别。在企业危机管理及其预警中,管理者更感兴趣的是那些意外规则。意外规则的挖掘可以应用到各种异常信息的发现、分析、识别、评价和预警等方面。

同类推荐
  • 管理基本功

    管理基本功

    本书主要学习关于管理知识的内容。管理知识的学习过程将不会象我们阅读任何一部文艺作品那样的轻松或者有任何闲情雅致的感觉。只有当你真正地用心去体会,去学习,并且真正了解坚持的含义,你才能够在这一领域有所成就。
  • 开店赚钱有门道

    开店赚钱有门道

    本书从13个方面100个门道入手,细致的回答了开店不吃亏的问题。内容分为上下两篇,上篇讲述了开店的一些需要注意的事宜;下篇列举了具有一定代表性的行业。
  • 赢在中国式管理

    赢在中国式管理

    本书根据《中国式管理》(中国社会科学出版社,2005年)修订而成。做事先做人,做人先安心。安人的历程,是“由开心而交心,借交心而共同关心”,然后产生同心的一连串心与心的变化。中国式管理具有三大主轴,那就是以人为主、因道结合以及依理而变。发展事业本身并没有什么价值,必须在经营事业的过程中,完成修、齐、治、平的人生使命,立业才有价值。21世纪,是中国管理哲学与西方管理科学相结合,并获得发扬的时代,管理者在实践中两者缺一,都将跛脚难行。
  • 宝马营销:高端市场定位策略

    宝马营销:高端市场定位策略

    本书从全新的角度剖析了宝马品牌文化和内涵:宝马如何赋予驾乘以全新境界,在时尚的消费群体中达成品牌认同,同时告诉读者宝马品牌是怎样做到代表一种欧化的经典生活方式。
  • 逆势突围:56位管理学家建言

    逆势突围:56位管理学家建言

    新冠肺炎突袭武汉,迅速蔓延到全国,为2020年春节蒙上了阴影。在全国人民全力以赴防控新冠肺炎疫情的非常时刻,中国管理50人迅速组织56位中国当代著名管理学家,为新冠肺炎疫情下中国企业如何自救、突围、创新等,尤其是中小企业如何存活,如何转危为安、疫后“逆势而上”,政府治理水平如何提升等建言献策,内容涵盖思辨、治理、管理和对策四篇。
热门推荐
  • 重生的我穿越万界

    重生的我穿越万界

    这只是一直咸鱼在码字的时候不小心猝死了穿越到万界的搞笑爽文,穿越的世界有《斗破苍穹》《斗罗大陆》《斗罗大陆2》《LOL》《关于我转生成史莱姆这档事》剩下待定,等待各位书虫评论啦,还有如果我没有看过的话,我就需要去补番了。估摸着得写好多字。懒癌犯了,一天一更哎嘿嘿
  • 青春不再,我在原地等你

    青春不再,我在原地等你

    在我梦里,在一个房间里看见一个男人递一份离婚协议给他对面的女人,说:”我们一起不合适,不如分开吧!这样对谁都好!都好聚好散吧!“
  • 莫洛伊秘典

    莫洛伊秘典

    雷洛,来自二十一世纪的华夏大地,一颗湛蓝的星球。他性格有些怪异,很少与人交朋友,一直想象着能到一个有魔法、有骑士、有巨龙、等待拯救的公主、有吟游诗人、有传说、有魔兽、有奇景的世界里去。然后,梦实现了。......“这本书是大法神、圣城城主莫洛伊魔法造诣的结晶。”“这本书里记载了所有类型的魔法,神圣的光之魔法;恐怖的死灵魔法,爆裂的火之魔法,苏生的木系魔法...无需学习,无需法力,持书者可以施展书中记载的所有魔法,且不用消耗自身的法力。”“这本书,是天域圣城的启动钥匙,所有圣城守卫都会听从持书人的指令。”“这本书...是我来到异世界过程中走大运拿到的。”“介绍一下我自己,我叫雷洛,我是一名勇...不,目前从实力上来讲,大概是魔王。”“我的目标呢,就是在这个世界,活出我想活的样子。”“拥有了莫洛伊秘典,乐子要找总有能找的方法嘛。”
  • 穷源

    穷源

    所有的物相似却不同所有的人相知却不识穷尽一切追溯源头
  • 签到从小学生开始

    签到从小学生开始

    第三本书了,两本书烂尾,简介无力,不喜勿喷
  • 成神教科书

    成神教科书

    斗气与魔法的世界,一级为初九级为尊圣域为顶,千万年来每一个荣登圣域层次的人都会拥有封号,或是自取或是他人拥戴。封号以神字作为后缀,以彰显圣域的尊荣,久而久之世界便以为圣域已是尽头踏上圣域便已经是成神。少年从异界而来,带着千年前陨落的天才记忆一起投入了今世一个穷苦少年的身体。前世的天才天赋,今生的特殊资质,还有异界而来的思想价值观,为当世谱写一本真正的成神教科书。
  • 血之残阳

    血之残阳

    突如其来的血雾遮蔽天日;人类引以为豪的科技变成废铁;辐射和病毒,把熟悉的一切变成怪物;光明和秩序被无穷的黑暗吞没;你是选择在黑暗中沦陷,还是在黑暗中苦苦挣扎
  • 书旨述

    书旨述

    本书为公版书,为不受著作权法限制的作家、艺术家及其它人士发布的作品,供广大读者阅读交流。
  • 我在枪神纪里当刀妹

    我在枪神纪里当刀妹

    萧峰是一名大学生,是枪神纪的忠实玩家,因为熬夜猝死,醒来后不知为什么变成了游戏里面的艾琳。还解锁了一个枪神系统,准备在枪神的世界里掀起一阵风云←_←“你们先歇着,我去灭个小队先”众人:“-_-||”本书为作者的初作,有哪些不好的地方请谅解,本人还是学生,所以更新速度会有些慢,请谅解。
  • 神仙大陆之魔王再降

    神仙大陆之魔王再降

    悠悠苍茫界,万古苍茫王。一念定天地,一意判生死。虽是苍茫人,心却恨苍茫。带我强大时,拔刀斩苍茫!