马建光等：大数据的概念、特征及其应用
(2013-09-05 16:15:35)
转载
标签：
杂谈
分类：学习资料
大数据的概念、特征及其应用
马建光，姜巍
(国防科技大学人文与社会科学学院，湖南长沙410074)
源自：国防科技2013年4月
［摘要］随着互联网的飞速发展，特别是近年来随着社交网络、物联网、云计算以及多种传
感器的广泛应用，以数量庞大，种类众多，时效性强为特征的非结构化数据不断涌现，数据的重要性愈发凸显，传统的数据存储、分析技术难以实时处理大量的非结构化信息，大数据的概念应运而生。如何获取、聚集、分析大数据成为广泛关注的热点问题。介绍大数据的概念与特点，分别讨论大数据的典型的特征，分析大数据要解决的相关性分析、实时处理等核心问题，最后讨论大数据可能要面临的多种挑战。
［关键词］大数据2019新年祝福语创意;非结构化信息;解决核心问题黄轩快乐大本营;未来挑战
一、引言
自上古时代的结绳记事起，人类就开始用数据来表征自然和社会，伴随着科技和社会的发展进步，数据的数量不断增多，质量不断提高。工业革命以来，人类更加注重数据的作用，不同的行业先后确定了数据标准，并积累了大量的结构化数据，计算机和网络的兴起，大量数据分析、查询、处理技术的出现使得高效的处理大量的传统结构化数据成为可能。而近年来，随着互联网的快速发展，音频、文字、图片视频等半结构化、非结构化数据大量涌现，社交网络、物联网、云计算广泛应用，使得个人可以更加准确快捷的发布、获取数据。在科学研究、互联网应用、电子商务等诸多应用领域，数据规模、数据种类正
在以极快的速度增长，大数据时代已悄然降临。
首先，全球数据量出现爆炸式增长，数据成了当今社会增长最快的资源之一。根据国际数据公司IDC的监测统计［1］，即使在遭遇金融危机的2009年，全球信息量也比2008年增长了62%，达到80万PB ( 1PB等于10亿GB)，到2011年全球数据总量已经达到1. 8ZB ( 1ZB等于1万亿GB，)，并且以每两年翻一番的速度飞速增长，预计到2020年全球数据量总量将达到40 ZB，10年间增长20倍以上，到2020年，地球上人均数据预计将达5247GB。在数据规模急剧增长的同时，数据类型也越来越复杂，包括结构化数据、半结构化数据、非结构化数据等多种类型，其中采用传统数据处理手段难以处理的非结构化数据已接近数据总量的75%。
醉酒驾驶处罚如此增长迅速、庞大繁杂的数据资源，给传统的数据分析、处理技术带来了巨大的挑战。为了应对这样的新任务，与大数据相关的大数据技术、大数据工程、大数据科学和大数据应用等迅速成为信息科学领域的热点问题，得到了一些国家政府部门、经济领域以及科学领域有关专家的广泛关注。2012年3月22日，奥巴马宣布美国政府五大部门投资2亿美元启动“大数据研究和发展计划( Big Data Research and Development Initiative)”［2］，欲大
力推动大数据相关的收集、储存、保留、管理、分析和共享海量数据技术研究，以提高美国的科研、教育与国家安全能力。这是继1993年美国宣布“信息高速公路”计划后的又一次重大科技发展部署，美国政府认为大数据是未来信息时代的重要资源，战略地位堪比工业时代的石油，其影响除了体现在科技、经济方面，同时将也对政治、文化等方面产生深远的影响。在商业方面，2013年，Gartner发布了将在未来三年对企业产生重大影响的十大战略技术中，大数据名列其中，提出大数据技术将影响企业的长期计划、规划和行动方案，同时，IBM张凯源、Intel、EMC、Walmart、Teradata、Oracle、Microsoft、Google、Facebook等发源于美国的跨国巨头也积极提出自己的应对大数据挑战的发展策略，他们成了发展大数据处理技术的主要推动者。在科技领域，庞大的数据正在改变着人类发现问题、解决问题的基本方式，采用最简单的统计分析算法，将大量数据不经过模型和假设直接交给高性能计算机处理，就可以发现某些传统科学方法难以得到的规律和结论。图灵奖得主吉姆·格雷提出的数据密集型科研第四范式［3］，不同于传统的实验、理论和计算三种范式，第四种范式不需要考虑因果关系，以数据为中心，分析数据的相关性，打破了千百年来从结果出发探究原因的科研模式，大规模的复杂数据使得新的科研模式成为可能。
虽然大数据日益升温，但与大多数信息学领域的问题一样，大数据的基本概念及特点，大
数据要解决核心问题，目前尚无统一的认识，大数据的获取、存储、处理、分析等诸多方面仍存在一定的争议，大数据概念有过度炒作的嫌疑。欧洲的一些企业甚至认为大数据就是海量数据存储，仅将大数据视作是可以获取更多信息的平台。本文分析当前流行的几种大数据的概念，讨论其异同，从大数据据有的典型特征角度描述大数据的概念和特点，从整体上分析大数据要解决的相关性分析、实时处理等核心问题，在此基础上，最后讨论大数据可能要面临的多种挑战。
二、国内外开展的相关工作
近年来，大数据成为新兴的热点问题，在科技、商业领域得到了日益广泛的关注和研究，有一些相关的研究成果。早在1980年，阿尔文·托夫勒［4］等人就前瞻性地指出过大数据时代即将到来。此后经过几十年的发展，特别是移动互联网络和云计算的出现，人们逐渐认识到大数据的重大意义，国际顶级学术刊物相继出版大数据方面的专刊，讨论大数据的特征、技术与应用，2008年Nature出版专刊“Big Data”［5］，分析了大量快速涌现数据给数据分析处理带来的巨大挑战，大数据的影响遍及互联网技术、电子商务、超级计算、环境科学、生物医药等多个领域。2011年Science推出关于数据处理的专刊“Dealing with dat
a”［6］，讨论了数据洪流( Data Deluge)所带来的挑战，提出了对大数据进行有效的分析、组织、利用可以对社会发展起到巨大推动作用。在大数据领域，国内学者也有大量的相关工作，李国杰等人［7］阐述了大数据的研究现状与意义，介绍了大数据应用与研究所面临的问题与挑战并对大数据发展战略提出了建议。文献［造价员取消8－10］主要关注大数据分析、查询方面的理论、技术，对大数据基本概念进行了剖析，列举了大数据分析平台需要具备的几个重要特性，阐述了大数据处理的基本框架，并对当前的主流实现平台进行了分析归纳。随着大数据理念逐渐被大众了解，出现了一些阐述大数据基本概念与思想的专着，舍恩伯格等在大数据时代［11］一书中用三个部分讲述了大数据时代的思维变革、商业变革和管理变革。近年来，大数据对经济的推动作用被广泛接受，出现了探讨大数据在商业领域的应用的文章和专着，Martin Klubeck等人在量化:大数据时代的企业管理［黄圣依主演的电影12］一书中提到，进入大数据时代，数据发挥着关键的作用，探讨了如何从空前膨胀的海量数据中挖掘出有用的指标和信息。朱志军等人所着的《转型时代丛书:大数据·大价值、大机遇、大变革》［13］中介绍了大数据产生的背景、特征和发展趋势，从实证的角度探讨了它对社会和商业智能的影响，并认为大数据正影响着商业模式的转变，并将带来新的商业机会。