|
大数据技术是在传统数据处理手段无法应对海量数据的实时需求的情况下，采用新的信息技术来应对大数据爆发进行数据处理的技术。大数据技术一般可以包括基础架构支持、数据采集、数据存储、数据计算和数据展现交互等。
大数据技术涵盖的范围十分广阔。基础架构支持方面主要包括了支撑大数据处理的基础架构级数据中心管理、云计算平台、云存储设备及技术、网络技术、资源监控等技术。而为了处理数据，则需要有大规模物理资源的云数据中心和具备高效的调度管理功能的云计算平台的支撑。
数据采集技术方面包含了数据采集的手段和数据处理技术。一般来讲数据采集最基础的需要各类传感器和软硬件设施，然后需要进行ETL(采集、转换和加载)过程，对数据进行清洗、过滤、校验、转换等各种预处理，然后将有效的数据转换成为合适的格式及类型。而部分企业还需要为了应对多源异构的数据采集和存储访问设计数据总线，以便于企业各个应用和服务之间的数据交换及共享。
数据存储技术则是在经历了转换之后，针对海量数据进行存储归档。一般会采用分布式文件系统以及分布式数据库进行存储，将数据分布到多了存储点中，提供备份、安全、访问接口及协议等机制。
而数据计算一般包括了数据查询、统计、分析、预测、挖掘、图谱处理、BI商业智能等各项相关技术，数据计算是数据处理的关键组成，也是大数据技术的核心部分。通过数据计算可以将大数据从数据转换为价值。
数据展现交互是与用户最贴近的一步。由于数据的最终使用者为用户，目标为给生产、运营、规划提供决策支持，因此一般会选择更为直观便捷的方式将数据的价值和内涵展示出来，让用户能够更有效的利用数据发挥价值。这一步出传统的报表和图形之外，当前最流行的手段莫过于可视化工具和人机交互等。
大数据技术在不断的发展过程中并非一帆风顺，其也遇到了不少挑战。
大数据面临问题并不少
在大数据采集方面，如在不损失数据本身价值的情况下尽可能的将数据集的量降低变小是个问题，在数据的清洗和去除过程中，如何有效的处理大数据，让其不损失价值，从一个平面的大数据中提取高附加价值的概念、理论以及知识才是关键。
大数据管理方面则需要面对多种不同类型的数据。由于当前数据以非结构化数据为主，而且这一趋势正在加强，如何面对分布、多态、异构的大数据进行管理，还需要更为有效和快捷的手段。
大数据存储方面，结构化数据尽管存储较为便捷，可是在海量数据的查询、统计和更新方面效率较低;如果面对非结构化数据，如视频、音频、文本、图片等，存储、检索都会存在一定困难，而且占用空间较大。对于半结构化数据，存储、分析都需要进行结构化数据转换，或者按照非结构化数据存储，难度较大而且不利于实时处理。
数据计算方面，分布式计算与并行计算都可以提供有效的技术支持，但是如何提供有效的利用手段，开战大数据分析处理还需要进一步研究，而且在计算方面尽力“傻瓜式”开发的现在，如何找到切实可靠的理想结果也是一个重点。
大数据应用领域，应用大数据辅助具体行业的落地仍然有待提高，如何快速开展治安防控、警情研判及指挥决策，发掘行业信息资源价值，提高领域大数据的利用率都需要进一步的落地实施。
大数据技术的提高是显而易见的，但是大数据落地是一个重大课题。提高大数据技术，增强大数据应用还会是很长时间里的主旋律。
|
|
