大数据

大数据的含义是什么?
大数据指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合,是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。

大数据具有“4V”特性:
1.数据量大(Volume):大数据的起始计量单位是PB(1024TB)、EB(1024PB,约100万TB)或ZB(1024EB,约10亿TB),未来甚至会达到YB(1024ZB)或BB(1024YB)。
2.数据多样性(Variety):大数据类型繁多,包括网络日志、音频、视频、图片、地理位置等各种结构化、半结构化和非结构化的数据。结构化数据是指存储在数据库里,可以用二维表结构实现表达的数据;非结构化数据是指数据结构不规则或不完整,没有预定义的数据,包括所有格式的办公文档、文本、图片、报表、图像、音频信息、视频信息等;半结构化数据是介于完全结构化数据和完全非结构化数据之间的数据,具有一定的结构性,例如员工简历,有的简历只有教育情况,有的简历包括教育、婚姻、户籍、出入境等很多信息。

3.价值密度低(Value):大数据价值密度的高低与数据总量的大小成反比。以视频为例,在连续不间断的监控中,有用数据可能仅有一两秒。原始零散、复杂多样,甚至可能有数据噪声和污染的数据需要经历价值“提纯”才能得出信息、获取知识。
4.数据的产生和处理速度快(Velocity):大数据的智能化和实时性要求越来越高,对处理速度也有极严格的要求,一般要在秒级时间范围内给出分析结果,超出这个时间数据就可能失去价值,即大数据的处理要符合“1秒定律”。
以上是创业萤火网小编为您整理的关于大数据的含义是什么的内容,希望对您有所帮助。
阅读全文>>

【国有企业加速实施数字化转型行动 全面推进国资央企云体系和大数据体系建设】4月27日,第三届国有企业数字化转型论坛在福州举办,论坛主题为“数字赋能国企创新引领未来”,由国务院国资委主办,中国电子信息产业集团有限公司和福州市政府共同承办。记者注意到,过去一周,国资委先后召开了全国国资委系统构建国资监管大格局研讨培训班和国资央企信息化工作推进会议,强调要重点抓好“系统提升数字监管智能监管能力”以及“着力提高智能监管水平,全面推进国资央企云体系和大数据体系建设”等工作。(上海证券报)

阅读全文>>

【市场监管总局:积极探索大数据、区块链、人工智能等新技术在互联网平台监管执法中的应用】国家市场监督管理总局局长罗文表示,加强数字化建设,提升智慧监管能力和水平。积极探索大数据、区块链、人工智能等新技术在互联网平台监管执法中的应用,加快建设国家网络交易监管平台,加强全网监测预警和风险防控,重点增强穿透监管能力,实现统一指挥、统一调度、快速响应、及时处置,提升监管的精准性、及时性和有效性。

阅读全文>>

        根据IDC 最新预测,全球大数据市场的IT投资规模有望在2025年超过3500亿美元,五年预测期内(20212025年)实现约12.8%的年复合增长率(CAGR),较上个预测周期有所上涨。其中,大数据服务将保持其主导地位,市场份额在50%左右,企业通过持续增加对服务的投资来应对智能化过程中的新挑战。

  在全球疫情的背景下,中国经济率先复苏并总体保持恢复态势。今年是中国政府实施“十四五”规划的第一年,围绕新一代信息技术等战略性新兴产业的投资增速进一步提升。IDC预测,中国大数据市场2021年整体规模超110亿美元,且有望在2025年超过250亿美元,呈现出强劲的增长态势。在五年预测期内,中国终端用户对大数据硬件、软件、服务的支出分布相对平均——与美国等区域不同,中国大数据市场的软件订阅制服务占比较低,本地部署及私有云模式仍需要采购大量硬件设备。至2025年,硬件预计吸收中国大数据市场约40%的投资规模,超过软件和服务,增长稳定;大数据软件市场占比将逐年提升,2025年超30%的市场支出将流向软件,五年CAGR达到26.7%。IDC《2021年V2全球大数据支出指南》在技术维度(硬件、软件、服务)的基础上进一步对大数据子市场做出了细分。以增速较快的软件市场为例,2025年占比最多的三个软件子市场分别为人工智能软件平台、非关系分析数据存储及终端用户查询、报告和分析。IDC预计,2021年三者总和约占中国大数据软件市场的48.4%,并在2025年提高至58.8%。非关系分析数据存储、内容分析及搜索系统有望成为中国三大热点子市场,增速较快,五年CAGR均在40%以上。

阅读全文>>

       怎么实现“数据找人而不是人找数据”的梦想?“数据编织”(Data Fabric)悄然登场。2018年“Data Fabric”首次出现在Gartner的十大数据与分析技术趋势中,以后每年它都会出现在其中。10年前大数据概念在国外兴起后,不到3年就被中国用户广泛接受,而今天大多数中国厂商则是按兵不动,这又是为何呢?


    “数据编织”悄然登场



       Data Fabric的中文名字到底怎么翻译,IBM公司与Gartner有了分歧。IBM大中华区科技事业部云计算与认知软件部数据与人工智能信息架构产品总监王积杰将其称为“数据经纬”,而Gartner高级研究总监孙鑫认为“数据编织”更为合适,因为他认为数据编织更凸显“动态”。

       在Data Fabric出来之前,数据结构的设计都主要部署成静态基础设施,而在未来将需要采用更动态的数据网格方法全面重新设计。

       孙鑫在接受记者采访时表示,Data Fabric不是一个产品而是一种设计理念,是利用AI、机器学习和数据科学的功能,访问数据或支持数据动态整合,以发现可用数据之间独特的、与业务相关的关系。

       而IBM对Data Fabric的看法,与Gartner专家提到的“动态”“数据网格”和AI赋能并无冲突。IBM中国研发中心首席技术官赵军伟解释:“经纬作为名词,本意为织物的直线与横线,引申为连接万物的规律,《左传·昭公二十五年》中写道——‘礼,上下之纪,天地之经纬也。’ 作为地理概念,经纬度可以定位地球上任何一个位置,而‘数据经纬’则可以在纷繁复杂的企业数据目录里定位任意一个数据源。经纬用作动词,是规划治理的意思,《周书·静帝纪》中提到的‘经天纬地’就是治理天下的意思。”

        “我们可以把Data Fabric想象成一张虚拟的网,这张网并不能理解为一种点对点连接,而是一种虚拟连接,每个节点都可以是不同的数据系统,不同系统上的数据在网上都可以迅速被定位和找到。Data Fabric的主要功能是把正确的数据,在正确的时间里,给到正确的人。通过Data Fabric, 对的人可以从对的地点,在对的时间里,获取对的数据。”王积杰对记者说。

        现在的数据连接的架构设计还主要是“人找数据”,而Data Fabric设计核心是“数据找人”,在合适的时间、将合适的数据推送给需要的人。

         为什么Data Fabric将会成为一种趋势,为什么越来越多的企业将在未来采用这样的方式进行部署?王积杰谈及了数据利用结构模式的变化。传统IT时代,无论是早年的“数据仓库”还是近几年的“数据湖”和“大数据”时代,其实数据利用都是集中式的架构,把数据收集到一起,让企业的数据分析师、BI(商业智能)分析师对数据进行分析。但在云计算时代,用户业务部署在多云的环境下,要想将分布在不同云上的数据集中在一起成本很高,也很费劲,于是采用去中心化、分布式的数据网络架构就成为了必然选择。

        Data Fabric可以同时给业务和技术团队带来明确的价值,王积杰表示,从业务层面来看,由于企业能更容易地获得高质量的数据,从而能更快和更精确地获得企业数据洞察。从技术层面来说,由于数据复制的次数和数量较少,从而减少了数据集成的工作,方便维护数据质量和标准,也减少了硬件架构和存储的开销。由于减少了数据复制和大大优化了数据流程,加快并简化了数据处理过程,从而通过实施自动化的整体数据策略,减少了数据访问管理的工作。

      Gartner认为,随着数据的日益复杂以及数字化业务的加速发展,Data Fabric已成为支持组装式数据分析及其各种组件的基础架构。由于在技术设计上能够使用/重复使用及组合不同的数据集成方式,Data Fabric可缩短30%的集成设计时间、30%的部署时间和70%的维护时间。IBM 7月发布的Cloud Pak for Data4.0的软件组合增加了智能化的Data Fabric功能,其中AutoSQL(结构化查询语言),可以通过AI来自动访问、整合和管理数据,可以帮助客户以8倍的速度、不到一半的成本,获得分布式查询的答案。


        如何“编织”数据?


        要实现“数据找人而不是人找数据”,Data Fabric究竟如何“编织”?

        王积杰认为,Data Fabric至少需要四个维度的能力。一是能够在数据之间建立虚拟链接,简化数据访问的模式,从而减少数据复制的数量。二是需要建立一个企业数据目录,并需要利用AI技术,自动化地实现基于语义和知识的分析,理解数据及其业务含义,并建立知识图谱, 从而使数据目录变得智能化和自动化。能够让需要数据的用户,随时了解到需要的数据在哪里、数据质量如何等。三是建立自动化数据平台,允许用户通过自服务的方式,访问并获取数据。四是通过提供整体的自动化策略,确保数据安全,增加数据的隐私和权限保护,并提高数据质量。

        数据编织是一种新的设计理念,它是数据管理、数据收集理念的变化,与数据仓库、数据湖等技术并不是替代的关系,既可以运用现有的数据中枢、数据湖和数据仓库的技术和技能,也可以在未来加入新的方法和工具。

        孙鑫谈到了实现Data Fabric的一些关键技术,比如增强型数据目录,要想实现数据找人,而不是人找数据,需要增强的数据目录,它要涵盖用户使用数据的频度与机制,了解数据与业务的关系,还包括知识图谱,通过知识图谱找到数据与业务之间的关系,找到元数据利用的整合策略,也包括推荐引擎以及在数据准备阶段的低代码等工具,低代码工具的作用在于降低数据使用的门槛,加速数据产品化。

         从Data Fabric推动的难点来看,“一是理念层面的难题,中国的用户还没有意识到,数据利用和使用的方式已经发生改变,传统的集中收集再利用的方式已经不能满足需要。二是目前很多企业对于元数据不够重视。三是从人的角度看,需要提升企业数据工程师对知识图谱、图语言、图建模等数据工具的能力培养。四是数据编织的实现并不是找到一个厂商就能够完成,它是一个旅程,需要分几步走。”孙鑫认为,从用户的角度看,率先采用Data Fabric的是金融电信行业以及数据应用场景比较复杂的用户。

        在这一点上,王积杰表达了与孙鑫一致的观点——这是一个方向,但并不能一蹴而就,用户需要分步实施,关键是要意识到趋势,在后续的项目实施中,按照Data Fabric的理念来构建。

  

   国内厂商为何按兵不动?


       尽管Gartner、Forrester等分析机构在几年前就提出Data Fabric是数据利用与分析领域的革命性变革,是未来方向,但记者联系国内大数据相关领域企业进行采访时发现,对此了解或进行布局的企业并不多,甚至找不到。

        这与国内大数据厂商的分布有关。“国内有很多做数据库的企业,也有很多做BI(商业智能)的企业,但做数据整合的企业很少。而事实上,在国外做数据编织的往往是数据整合、数据虚拟化的厂商,这就很好理解为什么国内的大数据厂商迟迟未入场Data Fabric,因为这类企业就不多。” 孙鑫告诉记者说。

       大厂商没有入场很好理解,因为在Data Fabric的理念下,往往需要采用点和边的新方式去描述数据关系,需要知识图谱、图数据库等,这往往是新锐公司在做的领域,而大厂商往往有自己的数据整合工具,他们都希望在自己的平台上进行整合,但是这样的局面一定会在之后的几年发生变化。

      “Data Fabric这个概念在国际上已经热起来了,但目前国内的IT用户知道的人还不多。10年前大数据的概念在国外兴起后,不到三年就被中国用户广泛接受,未来这个 Data Fabric概念,中国将需要多久接受并加以应用呢?等待时间给出答案。”王积杰说。(记者 李佳师)

阅读全文>>
创业萤火
创业萤火
创业萤火
Copyright 2021 yinghuodd.com All rights reserved 皖ICP备2020017053号-1
安徽萤火点点信息科技有限公司 地址:安徽省合肥市政务文化新区栢悦中心2412室
违法和不良信息举报电话:0551-63844003举报邮箱: jubao@yinghuodd.com