江西省区位优越、交通便利,东邻浙江、福建;南连广东;西靠湖南;北毗湖北、安徽而共接长江。江西高速公路位居全国第9位,全省境内线路密集,纵横交错,通车里程达6120公里,且江西机动车和驾驶人总数保持高速增长态势,截止2021年上半年,全省机动车保有量达到1001万辆,驾驶人达1514万人。为全省的道路交通管理工作带来了巨大的压力与挑战,作为业务主负责的江西省交管局,亟待新的数字化转型与信息技术赋能。
改造前综合应用平台计算、存储能力达瓶颈
面对庞大的交通管理功业务,江西省交通管理综合应用平台(简称“六合一平台”)在全省的交通管理工作中起到了重要作用。实现了包括了机动车管理、驾驶人管理、交通事故处理、交通违法处理等智能业务功能,并实现了对交通摄像头数据的采集和初步处理,形成了较为完整的交通管理数据。交通管理业务数据类型十分丰富,既包括结构化数据如:交通违法处理记录,又包含非结构化数据如:车辆交通违法证据图片。
当前江西省六合一平台数据量已到达100多亿条,集成指挥平台数据量已达到20多亿条。从数据量来看,大量的机动车检验监管照片、机动车电子档案图片、驾驶人考试检验监管和机动车交通违法照片信息存储在关系型数据库中,占据了存储容量的90%以上,仅江西省的六合一应用平台原有数据库中非结构化数据存储就已经超过60TB。且随着业务信息的快速增长为数据管理和服务带来巨大挑战,也暴露了基于关系型数据库的江西省六合一应用平台的诸多能力瓶颈:
(一)计算资源能力
运算性能出现瓶颈:随着综合应用平台数据资源快速增长,系统功能日益丰富,有限的运算资源已经无法满足快速增长的运算服务需要(业务量每年增长30%)。从目前综合应用平台资源运算情况看,大量的后台数据统计分析任务占据了至少40%的后台数据库运算资源。所以需要把图片、日志和业务数据进行分开独立存储和查询处理,实现给业务系统更多的资源,从而整体上优化系统处理效率。
(二)存储资源能力
存储容量已经饱和:综合应用平台目前所需存储的非结构化数据已经远超目前存储设备容量限制。随着违法证据图片等非结构化数据增长量日益加快(数据量每日新增96GB),存储系统将无法再满足业务的正常发展需要。目前,证据图片库所使用的存储阵列已满,出于应急需要,临时挂载了一台原用于容灾备份使用的存储阵列以应对工作需求。但其为低端入门级存储阵列,性能相对较低,容量有限,不能保证长期使用。随着综合监管系统的上线,将有海量的各类监管图片、监管日志数据需要存储,这将加剧存储容量的供需矛盾。
(三)数据库服务能力
应用功能扩展受限:原有关系型数据库受框架制约,在后台数据分析、模糊检索等方面存在缺陷,而随着大数据应用的日益深化、智能化,更深层次的数据监管、研判分析需求对底层运算框架的要求已无法通过传统的关系型数据库技术来解决。
六合一分布式改造大幅提升平台能力
基于以上现状,江西省交通管理局在部交科所的指导下,在省交管局科技处多方走动学习,了解调研后,选择华为交管大数据FusionIsight解决方案,全面设计、开展实施了江西省六合一平台的分布式改造,通过一系列建设改造实现六合一平台的性能升级。
(一)释放存储、为业务系统减压:采用分布式大数据库,把占90%的非结构化的图片数据和日志数据与业务数据分开存储,释放原有关系型数据库的存储压力,给业务系统减压。
(二)读写分离、提升高性能计算效率:不同类型数据对资源的占用特点均不同:图片数据的文件和数量都大,需要占用系统大量的“写资源”;日志数据量大,需要频繁读写;业务数据是核心,量大且经常要进行查询和统计操作。通过分布式计算技术,把三者分开存储,利用服务器集群克服原有数据库资源供应的不足,整体提升系统效率。
(三)OLAP/OLTP分离,实现秒级查询:通过将图片和日志数据大量的事务性处理(OLTP)跟业务数据的分析型事务(OLAP)的分开处理,解决以前数据库查询统计报表慢,几分钟甚至几小时才能出统计报表,效率极低的问题。
(四)实现线性存储容量可扩展,节省投资:分布式存储可以通过利用性能较低的经济型服务器集群技术来达到跟以往一样的业务要求(以往使用小型机和存储阵列),资金投入少,性价比非常高,而且可以通过简单增加服务器的方式进行存储容量扩充,可扩展性更好。通过分布式数据库的接口,实现与原有关系型数据库的数据分发和同步,完全可以取代原有数据库的同步机制,大幅节省资金投入。
(五)业务模式创新,新增功能:基于原有查询,新增模糊查询功能:可以实现多字段检索,全文检索(原来数据库再降低性能也达不到全文检索)。
(六)技术安全可靠:大数据平台采用分布式架构,基于开源软件自主研发,达到业务要求,实现替代原有数据库的大部分功能。并且通过跨集群的数据冗灾方案和分布式存储本身的数据备份策略,保证了数据存储安全可靠。
华为大数据解决方案助力人悦于行,车畅于路
本次分布式升级改造大幅降低了交通管理综合应用系统的数据管理成本,实现了对多源异构数据的接入;并且对数据分布式地存储和处理一定程度上增强了系统的稳定性和安全性;计算检索方面分布式改造后在兼容SQL综合查询技术的同时,集成了Lucence组件,实现了全文检索。将违法数据、车辆数据、驾驶员数据、驾驶证数据、车管所数据、地理数据等综合起来建立跨数据表的全集合索引,当用户以关键字进行查询时,可以查询到车辆、驾驶员、违法等关联情况,方便用户对信息的全局管理。同时对业务运行日志进行索引,包括:业务用户、操作时间、操作动作、对数据库表的变化等,可以方便地对业务用户的行为进行监督检查。
江西省交管局在完成对六合一平台的分布式升级改造后,进一步深化了交管“放管服”改革,深入推进道路交通事故预防“减量控大”工作提供了更有力的信息化支撑。未来,华为公司也会更多地利用自身云、大数据、AI、计算等技术能力,深入结合交管业务,为江西省的交通管理信息化建设做出更多贡献,助力江西省交通管理业务更上一层楼,真正实现“人悦于行,车畅于路”的美好愿景。
推荐阅读:旗龙
