为了准确描述中国大数据市场和技术发展趋势,解析大数据发展的各阶段对IT技术的需求,2013年6月,中桥调研咨询(以下简称中桥)对中国480家最终用户的IT管理者和专业人员,就大数据市场和技术发展趋势展开了调查。中桥首席分析师王丛结合其在欧美数据中心领域十几年的市场调研积累,对中国大数据市场趋势的调查数据进行解析,以诠释中国大数据市场和技术趋势。同时,会通过在线讲座(www.webinars-china.com )和中国读者解读中国大数据市场趋势,以及大数据对IT技术、IT架构、IT管理以及IT格局的影响。中桥结合对中国大数据市场的调研数据和分析,将分成四个系列对“中国大数据价值和趋势”进行解读。
在系列1里,中桥就大数据分析对未来24个月以及企业的大数据分析投入重点进行分析。在系列2 里,中桥将就大数据分析对IT资源的需求,包括IT架构、计算节点以及存储技术等进行分析。
大数据分析对IT架构的需求
在大数据时代,随着数据存储量的爆炸性增长以及分层网络架构的出现,IT复杂性达到了前所未有的高度,而大数据分析使得传统IT架构更是不堪重负。那么从企业角度来看,他们的大数据环境需要怎样的IT架构呢?中桥调查结果表明(图1),企业级用户(员工人数在1000人以上)主要选择的是“透明、经济、智能、自动化”的IT架构(29.3%),中小企业(员工人数在1000人以下)则主要选择的是一体机方案(服务器、存储、网络、大数据分析软件)(28.9%)。企业级用户倾向于开放、异构、跨平台的IT架构,因为其用于大数据分析的IT架构发展较为成熟,如何继续提高BI效率是企业级用户选择IT架构的重点。中小企业尚处于IT架构发展初期,因此一体机的方案成为中小企业的首选。受访者的选择结果也体现了中国企业未来对IT架构的需求趋势,说明数据整合和ETL是中国企业的迫切需求,也是目前面临的最大问题之一。
图1. 大数据环境对IT架构的需求
大数据分析对计算技术的需求
再从大数据分析的计算方式来看(图2),21.6%和21.3%的企业级用户分别考虑x86虚拟化和小型机来部署大数据分析方案,中小企业(23.8%)则主要考虑刀片服务器的计算方式。刀片服务器的高密度特点有利于提高计算能力、保持高IT密度。企业级的应用多数运行在小型机的平台上,这造成如果大数据分析是在现有基础上实现,则小型机就成为了企业级的首选;如果要选择在一个全新平台实现大数据分析,那么X86虚拟化就成为了企业级用户的第一选择。结合我们之前所分析的,目前中国市场的大数据分析速度和频率远低于欧美市场,这导致中国企业在数据分析,这个大数据通过IT创造价值,这一重要环节上比较薄弱。
▲图2.大数据分析对计算技术的需求
大数据分析对存储的需求
从大数据分析的第一个环节——数据收集和存储来看,大数据时代应用数量、应用数据量和使用者数量的增长,对存储IOPS以及OLTP和OLAP的要求越来越高,具体体现在存储不能满足业务关键型应用的需求。从中桥就企业支持当前数据分析和/或进程活动的存储类型分析来看(图3),FC SAN是企业级用户(42.1%)和中型企业(34.0%)的首选,远高于其他存储类型的企业占比。这是因为FC SAN对OLTP和OLAP的性能稳定性优于其他存储技术。这一调查结果也体现了,目前中国用户大多处于大数据分析的第一阶段,存储和IT架构大多以集中式为主。随着Hadoop和MapReduce的不断普及,用户逐渐进入近实时和实时分析阶段,节点式存储的占比会随之逐渐增加。
▲图3.大数据分析对存储的需求
那么在大数据时代企业的存储能够满足需求呢(图4)?中桥调研结果显示,31.6%的用户计划在未来12个月部署新存储来满足业务关键型应用的需求,33.2%计划在未来12-24个月部署新存储。这表明传统存储越来越无法满足业务关键应用的性能需求。在未来24个月,64.8%的用户将会部署新存储来满足大数据时代,业务关键型应用对存储性能越来越高的需求。
▲图4 大数据分析时代存储的发展趋势
通过上述一系列大数据对IT资源的需求分析,中桥分析师认为,传统的IT架构、计算方式以及存储正成为中国用户通过大数据分析处理快速提高IT效率,挖掘数据价值的巨大阻碍。而统一、透明、智能的自动化IT架构管理、高密度下卓越的计算能力,以及能够满足存储IOPS与OLTP和OLAP的新型存储则能够为企业创造价值,实现通过IT突破创新来提升企业竞争力的目的。
在接下来的系列3中,中桥将就大数据时代下存储所面临的挑战以及其发展趋势进行更为详尽的阐述。