阿里云飞天大数据平台亮相，中国唯一自主研发、集群规模世界第一

2019-07-26 09:33

7月25日，阿里云飞天大数据平台亮相阿里云峰会上海站，拥有中国唯一自主研发的计算引擎，是全球集群规模最大的计算平台，最大可扩展至10万台计算集群，支撑海量数据存储和计算。在民生服务领域，飞天大数据平台已经“最多跑一次”、城市大脑等场景中，协助政府优化服务模式，实现更智能便捷的服务能力，保障信息安全。

数据显示，目前飞天大数据平台可扩展至10万台计算集群，集群规模全球第一。单日数据处理量从2015年100PB、2016年180PB、2017年320PB，到2018年超过600PB，仅用三年时间提升5倍。

在浙江，飞天大数据平台支撑下，“最多跑一次”打通与老百姓办事最密切相关的100个事项70多亿条数据，老百姓甚至有可能一次都不跑。在杭州，城市大脑实时指挥1300个红绿灯路口、200多名交警，从2016年到2018年，杭州从全国最拥堵城市排行榜上下跌52名。

原来需要跑5个窗口、耗时2天才能拿到的新生儿出生证，现在只需在手机上动动手指，填9项信息，一个出生证就办好了；原来看一次病排队付几次费，现在可以看完回家再付钱……这样的场景正在越来越多的城市变为现实，背后有飞天大数据平台的支撑。

据了解，该平台的研发源自阿里巴巴的自身实践。十年前，新兴互联网业态蓬勃发展，中小企业在阿里巴巴电商平台上爆发式增长，商家第一次具备直接触达消费者的普惠渠道，激发庞大的消费者需求，海量数据击垮传统IT架构。在此背景下，阿里巴巴开始探索全新的技术来支撑爆发式增长的数据存储和计算需求。

大部分企业的惯例是直接使用国际开源的数据计算框架Hadoop。在阿里巴巴内部，也曾出现过激烈的争论，究竟是直接使用开源Hadoop，还是从每一行代码写起，自主研发一个大数据平台。

当时，电子商务蓬勃发展，人类社会从未有过如此规模的商业交易在一个互联网平台上进行，如果用Hadoop搭建的大数据平台，必将在不久的未来再次遇到挑战，更别提为外部企业提供服务，成为普惠的IT基础设施。

由此，阿里巴巴坚定投入飞天大数据平台研发，将成千上万台服务器组成一台超级计算机，向社会提供水电煤一样的公共服务。早在2012年初，阿里巴巴技术委员会主席王坚就表示，“从战略上来说，阿里云想做的事情实际上可以解读为Amazon＋Google并有所超越。将单一集群做到数千乃至更高，技术上是国家和企业竞争力的标志。阿里巴巴必须攻克这道难关。”

也正是因为这一坚持，才有了今天中国唯一自主研发的飞天大数据平台。过去十年，飞天大数据平台打破了多个记录：2013年，突破了单集群内5000台服务器同时计算的局限，如今单集群已超过1万台的规模；2015年，打破计算界奥运会SortBenchmark的4个世界纪录，用不到7分钟便完成了100TB的数据排序，刷新了ApacheSpark 23．4分钟的纪录。