数据管理面临的问题

xiaoxiaoCNDS 2020-01-10

根据2018年12月中国信通院发布的《数据资产管理实践白皮书3.0》：近年来，中国大数据和商业数据分析市场规模增速是世界平均增速的2倍，特别是银行业、离散制造业、流程制造业和政府等行业需求尤其旺盛。

然而，如此可观的增速背后却藏匿着较大隐患：

数据质量不过关：大部分企业数据质量较差，不良的数据质量会使企业额外花费15%到25%的成本。
数据难互通：绝大多数的企业存在数据孤岛问题，数据分析人员80%的精力都花在了获取数据的工作上，获取数据的效率非常低下。
数据安全难保证：自2013年以来全球数据泄露高达130亿条，其原因多半为管理制度不完善。
数据价值有待释放：大部分企业未建立有效管理和应用数据的模式，自身无法随着技术、市场、产业的变化不断迭代，更无法使数据资产管理成为持续和动态的过程，进而为数字化转型提供源源不断的动力。

因此，为了最大限度挖掘数据价值，企业的数据体系改革迫在眉睫：

管理方面，需要建立一套符合数据驱动的组织管理制度和流程。
技术方面，需要建设现代化数据平台、引入智能化技术，确保数据资产管理系统平台持续、健康地为数据资产管理体系服务。

摘自：dataworks产品白皮书序言

: xiaoxiaoCNDS

相关推荐

docker容器与宿主机的数据交互方式总结

在生产环境中使用 Docker ，往往需要对数据进行持久化，或者需要在多个容器之间进行数据共享，这必然涉及容器的数据管理操作。docker cp :用于容器与主机之间的数据拷贝。当删除Docker容器，并通过该镜像重新启动时，之前的更改将会丢失。在Dock

yangkang 0喜欢 / 0评论 2020-11-09

分布式文档存储数据库之MongoDB备份与恢复的实践详解

　　为什么要备份？　　备份的目的是对数据做冗余的一种方式，它能够让我们在某种情况下保证最少数据的丢失；之前我们对mongodb做副本集也是对数据做冗余，但是这种在副本集上做数据冗余仅仅是针对系统故障或服务异常等一些非人为的故障发生时，保证数据服务的可用性；

lbyd0 0喜欢 / 0评论 2020-11-17

分布式文档存储数据库之MongoDB分片集群的问题

　　1、什么是分片？比如用户要查询年龄大于30的用户，该怎么查询呢？而年龄大于30的用户的数据，可能server1上有一部分数据，server2上有部分数据，我们怎么才能够把所有满足条件的数据全部查询到呢？

sushuanglei 0喜欢 / 0评论 2020-11-12

详解Vue数据驱动原理

Vue区别于传统的JS库，例如JQuery，其中一个最大的特点就是不用手动去操作DOM，只需要对数据进行变更之后，视图也会随之更新。比如你想修改div#app里的内容:. 在代码层面上的最大区别就是，JQuery直接对DOM进行了操作，而Vue则对数据进行

85477104 0喜欢 / 0评论 2020-11-17

vue+echarts+datav大屏数据展示及实现中国地图省市县下钻功能

随着前端技术的飞速发展，大数据时代的来临，我们在开发项目时越来越多的客户会要求我们做一个数据展示的大屏，可以直观的展示用户想要的数据，同时炫酷的界面也会深受客户的喜欢。大屏展示其实就是一堆的图表能够让人一目了然地看到该系统下的一些基本数据信息的汇总，也会有

KANSYOUKYOU 0喜欢 / 0评论 2020-11-16

THINKPHP5分页数据对象处理过程解析

在用到THINKPHP5的分页的时候，我们可以发现获取的数据是对象，如果我们要对数据进行循环增加数据就实现不了。V5.0.9版本开始支持分页类后数据直接each遍历处理，方便修改分页后的数据，而不是只能通过模型的获取器来补充字段。

wushengyong 0喜欢 / 0评论 2020-10-28

需要知识的后深度学习时代，如何高效自动构建知识图谱

前沿的知识图谱自动构建技术有哪些？这篇文章将逐一解答这些问题。二者展示的信息量是差不多的，但右边这种看起来更加直观。而且，随着文本篇幅的增长，这种优势会体现得更加明显。其中，图的节点代表现实世界中存在的“实体”，图的边则代表实体之间的“关系”。基于知识图谱

lizhengjava 0喜欢 / 0评论 2020-11-13

人工智能技术如何落地交通出行？

在城市交通领域，有AI红绿灯控制，街道交通智能监测、智能公交车站，以及智能高速，这些领域都已经渗透了人工智能。围绕自动驾驶和车路协同也已经在全国多个地区进入商用测试阶段。那么日常还有哪些出行场景是应用到了AI技术的呢?大大降低了人工运营维护成本，人工审核降

星月情缘 0喜欢 / 0评论 2020-11-13

将云技术带入数据中心-走向数据驱动型业务的旅程

COVID-19产生的大量数据正在为企业创造新的增长机会，但拥有合适的基础设施对于有效应对这场数据风暴至关重要。Gartner最近警告说：“数据和分析领导者必须为多云和跨云部署的复杂性做好准备，以避免潜在的性能问题、计划外的成本超支和集成工作中的困难”。负

huangxiaoyun00 0喜欢 / 0评论 2020-11-13

联想持续发力智能物联，构建新基建时代下的行业新引擎

联想Tech World 2020创新科技大会于今日开幕。

zhoushuntian 0喜欢 / 0评论 2020-11-09

数据科学面试中应了解的十种机器学习概念

如您本文转载自公众号“读芯术”。如您所知，数据科学和机器学习必须提供无穷无尽的信息和知识。话虽如此，大多数公司都只测试少数核心思想。这是因为这十个概念是更复杂的思想和概念的基础。您可能想知道为什么我什至不愿意将其放入，因为它是如此的基础。换句话说，更加重视

luyong0 0喜欢 / 0评论 2020-11-08

Forrester发布全栈公有云开发平台报告，腾讯云再次入选领导者象限

今日获悉，国际领先行业咨询机构Forrester发布《2020年Q4中国全栈公有云开发平台Wave报告》显示，腾讯云再次入选公有云开发平台领导者象限。在2018年同主题报告中，腾讯云也曾入选。本次报告通过33项评估标准，针对中国市场最具代表性的12个厂商进

腾讯soso团队 0喜欢 / 0评论 2020-11-06

雾计算在物联网中的应用

雾计算是指一种分散的计算结构。资源被放置在数据源和云之间的逻辑位置。雾计算的优点之一是可以在同一时间上维持多用户连接的状态。本质上，它提供了与基于云的解决方案相同的网络和服务，但是它增加了分散网络的安全性。随着物联网的发展，越来越多的设备被添加到网络中。据

Apsaravod 0喜欢 / 0评论 2020-11-05

AI格局正在从“数据”转变为“知识”

半个多世纪以前就引发了人工智能革命。我们看到的最常见的AI业务策略是围绕数据构建的。我们认为专有数据是AI公司目前很具战略意义的护城河，但在未来几年中，专有数据将不再是一种独特的资产，从而使专有数据差异化的可持续性降低。因此，我们希望重点从基于数据的AI策

PeterChangyb 0喜欢 / 0评论 2020-11-05

SAP AMDP介绍 - ABAP托管的HANA数据库过程

最近Jerry的处境可以用本世纪初，八零后刚上大学时校园内风靡的一款FPS游戏名称来形容: 《半条命》. 为了避免让汪子熙这个公众号成为神经外科前中颅底亚专业医学知识的普及号，咱们还是继续聊SAP技术吧。随着ABAP 7.40 SP05的发布，SAP AB

gaobudong 0喜欢 / 0评论 2020-11-04

数据骗子无处不在，教你拆穿所谓“万金油”

数据分析师、机器学习/人工智能工程师、统计学家，这样的头衔是不是听起来很高大上?但小心别被骗了!高薪诱惑之下，不少数据骗子也隐藏在其中，这些骗子毁了遵纪守法的数据专业人士的好名声。第一点线索就是，他们无法理解分析学和统计学是两个截然不同的学科。这样的p值没

wwwjun 0喜欢 / 0评论 2020-11-02

模型数据出现偏差怎么办？一文了解机器学习中的7种数据偏差类型

机器学习中的数据偏差是一种错误，其中数据集的某些元素的权重和/或表示程度高于其他元素。偏置数据集不能准确表示模型的用例，从而导致结果偏斜、精度低和分析错误。通常，机器学习项目的培训数据必须代表现实世界。数据偏差可能发生在一系列领域，从人类报告和选择偏差到算

gyunwh 0喜欢 / 0评论 2020-11-02

机器学习中处理缺失值的9种方法

它是任何数据科学或机器学习项目的关键。在大多数情况下，当我们从不同的资源收集数据或从某处下载数据时，几乎有95%的可能性我们的数据中包含缺失的值。我们不能对包含缺失值的数据进行分析或训练机器学习模型。这就是为什么我们90%的时间都花在数据预处理上的主要原因

EchoYY 0喜欢 / 0评论 2020-10-31

人工智能和机器学习如何从物联网数据中提取关键见解

过去几年，围绕物联网的大部分讨论都集中在连网设备本身——它们是什么、有多少以及如何保护它们。虽然所有这些小端点都很重要，但在物联网中更重要的是这些设备所生成的大量数据，以及通过分析可以从中获得的业务见解。这些缺点在物联网环境中更加严重，在物联网环境中，大量

dingyahui 0喜欢 / 0评论 2020-10-30

IT打工人，AI来“抢”你饭碗了！这次从数据中心下手

ningwentao 0喜欢 / 0评论 2020-10-30

教你几招，Pandas轻松处理超大规模数据

处理大规模数据集时常是棘手的事情，尤其在内存无法完全加载数据的情况下。在资源受限的情况下，可以使用 Python Pandas 提供的一些功能，降低加载数据集的内存占用。可用技术包括压缩、索引和数据分块。在上述过程中需要解决一些问题，其中之一就是数据量过大

三石 0喜欢 / 0评论 2020-10-30

3000字！5大SQL数据清洗方法！

日常工作中，分析师会接到一些专项分析的需求，首先会搜索脑中的分析体悉，根据业务需求构建相应的分析模型，根据模型填充相应维度表，这些维度特征表能够被使用的前提是假设已经清洗干净了。前两天在Towards Data Science上看到一篇文章，讲的是用Pan

茄肥猫的窝 0喜欢 / 0评论 2020-10-29

13张IT架构图！从数字化转型，到数据架构

今天给大家上13个架构图，不说一些文字。我一直觉得，从架构图上可以学到很多东西，这相比于文字更能理解，而且很多人在做事的时候，是想不清楚具体要怎么做的，都是一开始直接上手，然后后面也不知道怎么改。这篇文章，是我在读了2本书之后，哪2本书呢？是《IT结构治理

evolone 0喜欢 / 0评论 2020-10-29

Python 中利用Pandas处理复杂的Excel数据

关于Excel数据处理，很多同学可能使用过Pyhton的pandas模块，用它可以轻松地读取和转换Excel数据。但是实际中Excel表格结构可能比较杂乱，数据会分散不同的工作表中，而且在表格中分布很乱，这种情况下啊直接使用pandas就会非常吃力。本文虫

三石 0喜欢 / 0评论 2020-10-29

为什么Java仍将是未来的主流语言？

Java是一种通用编程语言，1995年由Sun Micro-systems公司开发。尽管已经有25年的历史，但它仍然统治着整个世界。根据Stack-overflow的开发者调查，它在2019年最受欢迎的语言中排名第5。超过41%的调查用户将Java标记为

minerd 0喜欢 / 0评论 2020-10-28

亚信科技“钢铁企业数据中台解决方案”荣获“2020年度优秀解决方案奖”

近日，由中国通信企业协会主办的“ICT中国·2020高层论坛”在京举行，亚信科技“基于全生命周期的钢铁企业数据中台解决方案”凭借“对钢铁企业应用场景理解深刻，产品成熟、服务全面又兼顾个性化，业务实践充分且效果显著”的综合优势，荣获“2020年度优秀解决方案

航帆远洋 0喜欢 / 0评论 2020-10-27

一篇文章教会你理解Scrapy网络爬虫框架的工作原理和数据采集过程

今天小编给大家详细的讲解一下Scrapy爬虫框架，希望对大家的学习有帮助。Scrapy是一个使用Python编程语言编写的爬虫框架，任何人都可以根据自己的需求进行修改，并且使用起来非常的方便。它可以应用在数据采集、数据挖掘、网络异常用户检测、存储数据等方面

CycloneKid 0喜欢 / 0评论 2020-10-27

数据保护即服务（DPaaS）如何为业务保驾护航

总的说来，DPaaS通常是作为一种基于云端的服务而提供的。它不但满足了企业保护数据的安全性需求，也提供了数据备份和恢复的选项。用户可以通过订阅的模式，来获取并使用此类服务。为了防止关键系统及其数据成为恶意攻击者的目标，我们需要通过DPaaS，来实现轻松的维

木子叶家园 0喜欢 / 0评论 2020-10-27

干货！做数据分析应该掌握的5个SQL数据清洗方法

日常工作中，分析师会接到一些专项分析的需求，首先会搜索脑中的分析体系，根据业务需求构建相应的分析模型，根据模型填充相应维度表，这些维度特征表能够被使用的前提是假设已经清洗干净了。前两天在Towards Data Science上看到一篇文章，讲的是用Pan

kkbb 0喜欢 / 0评论 2020-10-27

在Python中使用KNN算法处理缺失的数据

处理缺失的数据并不是一件容易的事。方法的范围从简单的均值插补和观察值的完全删除到像MICE这样的更高级的技术。解决问题的挑战性是选择使用哪种方法。今天，我们将探索一种简单但高效的填补缺失数据的方法-KNN算法。KNN代表" K最近邻居"

scuyxi 0喜欢 / 0评论 2020-10-25

万亿数据下的多维实时分析系统，如何做到亚秒级响应

当业务发展到一定规模，实时数据仓库是一个必要的基础服务。从数据驱动方面考虑，多维实时数据分析系统的重要性也不言而喻。但是当数据量巨大的情况下，拿腾讯看点来说，一天上报的数据量达到万亿级的规模，要实现极低延迟的实时计算和亚秒级的多维实时查询是有技术挑战的。本

数据分析amp挖掘 0喜欢 / 0评论 2020-10-22

人工智能：物理安防行业中比较大的破坏者

当今安全和技术领域的较大趋势之一是围绕解决方案，这些解决方案利用了为世界各地组织提供动力的大量互联安全系统和设备。相反，它是数据AI，已被安全行业完全开发。AI可以通过自动解密信息来改变您的安全规则，从而使用收集的各种来源和数据，包括过去、现在和将来，并作

编码美丽 0喜欢 / 0评论 2020-10-22

基于AI的存储正在帮助企业从数据中获取更多信息

如果你能够把存储想象成一辆自动驾驶汽车，而不是一个需要亲自动手的、劳动密集型的必需品呢?如果是像自动驾驶汽车一样，你的存储基础架构也能够预测你需要什么，并在道路上进行路障导航呢?麦肯锡最近的一项调查发现，近一半的公司目前在某些方面使用了人工智能，但绝大多数

DSFG 0喜欢 / 0评论 2020-10-22

AI技术之于制造业，除了提升生产效率还有什么？

现代科技的发展正在为制造业转型升级带来新的活力，人工智能技术就是其中之一。作为当前服务型制造具有较大推广应用价值的两个重点方向，新一代人工智能技术在远程运维服务和大规模定制生产中的应用正加速实现。假如工业生产线或生产设备在生产过程中突然出现故障，那么将会给

弱思 0喜欢 / 0评论 2020-10-19

云计算面临的11大安全威胁

云安全是云时代企业数字化转型面临的较大挑战之一。为了使企业对云安全问题有全新的认识和了解，做出更有效的采购决策，云安全联盟上个月推出了最新版本的《云计算11大威胁报告》。为了明确用户最关注的云安全问题，CSA对行业安全专家进行了一项调查，以就云计算中最重大

coycleipenghui 0喜欢 / 0评论 2020-10-20

人工智能如何应用于数据中心的物理安全

图像识别是人工智能的一大成功案例，而这项技术正迅速被广泛应用于各个领域。它的近亲，声音识别也是如此。显然，在物理安全中，图像识别最常用于面部认证。说到与健康相关的问题，一旦数据中心访客被诊断出患有COVID-19，图像识别就可以用来识别感染者访问过的所有位

古驿道 0喜欢 / 0评论 2020-10-21

2020年入门数据分析选择Python还是SQL？七个常用操作对比！

SQL和Python几乎是当前数据分析师必须要了解的两门语言，它们在处理数据时有什么区别?本文将分别用MySQL和pandas来展示七个在数据分析中常用的操作，希望可以帮助掌握其中一种语言的读者快速了解另一种方法!在阅读本文前，你可以访问下方网站下载本文使

gallon00 0喜欢 / 0评论 2020-10-16

ML Ops：数据质量是关键

ML Ops 是 AI 领域中一个相对较新的概念，可解释为「机器学习操作」。如何更好地管理数据科学家和操作人员，以便有效地开发、部署和监视模型?其中数据质量至关重要。本文将介绍 ML Ops，并强调数据质量在 ML Ops 工作流中的关键作用。ML Op

bingdata 0喜欢 / 0评论 2020-10-15

人工智能和区块链是否属于大数据的范畴

首先，从大的技术体系结构来看，大数据与人工智能、区块链技术有非常紧密的联系，从不同的角度也可以有不同的观点，比如从人工智能的角度来看，大数据作为人工智能的三大基础之一，也可以把大数据归为人工智能的范畴，而从区块链的角度来说，也可以得出类似的结论。

tosway 0喜欢 / 0评论 2020-10-07

不用SMOTE算法，我们如何处理多类不平衡数据？

机器学习中的一个常见问题是处理不平衡数据，其中目标类中比例严重失调，存在高度不成比例的数据。如果不能处理好这个问题，模型将会成为灾难，因为使用类不平衡数据建模会偏向于大多数类。处理不平衡数据有不同的方法，最常见的是过采样和创建合成样本。SMOTE是一种从数

FromCybertron 0喜欢 / 0评论 2020-10-06

PyTorch版YOLOv4更新了，适用于自定义数据集

距离YOLO v4 的推出，已经过去 5 个多月。YOLO 框架采用 C 语言作为底层代码，这对于惯用 Python 的研究者来说，实在是有点不友好。因此网上出现了很多基于各种深度学习框架的 YOLO 复现版本。近日，就有研究者在 GitHub 上更新了基

caizezhi 0喜欢 / 0评论 2020-10-05

[Aliyun] 实时数仓Hologres Demo01实时计算实时写入数据至Hologres

在实时数据业务场景中，最常见的链路是将实时采集的数据，通过实时计算初步清洗，实时写入数据至数据库，再对接BI工具实现数据的可视化分析。在导入导出数据时会产生冗余存储，浪费存储资源。概述为解决实时场景的业务痛点，Hologres提供了实时数据API接口。业务

大数据社区 0喜欢 / 0评论 2020-10-05

比较JavaScript中的数据结构（数组与对象）

在编程中，如果你想继续深入，数据结构是我们必须要懂的一块，学习/理解数据结构的动机可能会有所不同，一方面可能是为了面试，一方面可能单单是为了提高自己的技能或者是项目需要。无论动机是什么，如果不知道什么是数组结构及何时使用应用字们，那学数据结构是一项繁琐

LauraRan 0喜欢 / 0评论 2020-09-28

5个开源数据挖掘工具，收下这波干货

数据挖掘是从大量数据中提取隐藏的或未知，但可能有用信息的过程。尤其在机器学习中，数据挖掘是十分重要的一环。今天给大家介绍5个开源数据挖掘工具，收下这波干货吧。Weka是用Java编写的，可以在大部分平台上运行，是一种开源机器学习软件，能通过图形用户界面，标

小小梦想家 0喜欢 / 0评论 2020-09-26

如何根据云服务中提取的数据来推断出用户的位置？

地理位置数据可以为各种政府机构提供需要的信息，执法机构使用位置数据来锁定嫌疑人位置。但是，地理位置数据可不限于刑事或民事调查，比如日常的紧急响应服务也要使用位置数据来服务需要帮助的人员，出租车和送货服务也要使用位置来改善服务。还有更多的例子表明位置数据是至

大数据杂谈 0喜欢 / 0评论 2020-09-26

机器学习中的标签泄漏介绍及其如何影响模型性能

您是否对优秀或接近优秀的模型表现不知所措?你的快乐被出卖了吗?简而言之，当您要预测的信息直接或间接出现在训练数据集中时，就会发生标签泄漏或目标泄漏。它会导致模型夸大其泛化误差，并极大地提高了模型的性能，但模型对于任何实际应用都毫无用处。数据泄漏的主要指标是

wwwjun 0喜欢 / 0评论 2020-09-25

ls 列表显示数据信息

ls -l --- 显示数据信息详细属性 ls -lh --- 显示属性中,数据大小以人类可读方式显示 ls -a --- 将隐藏文件进行显示以点开头的文件数据就是隐藏文件 ls -rt --- 按照时间信息

KaiZhaoKZ 0喜欢 / 0评论 2020-09-24

人类工作受到威胁？如何在这个时代脱颖而出，这点很重要

“数据奴隶”现象成就了一批AI时代的新贵，也让本来就强大的企业更强大，弱小者更弱小，一种“量子鸿沟”式的两极分化正在形成。大量被边缘化、失业和商业失败的人群，加入了“数据奴隶”的大军。他们将生命中的大部分时间贡献给网络，形成大数据。结果，在AI永无止境地学

弱思 0喜欢 / 0评论 2020-09-23

AI格局正在从数据转变为知识，专有数据集转向跨实体共享数据

半个多世纪以前就引发了人工智能革命。我们看到的比较常见的AI业务策略是围绕数据构建的。我们认为专有数据是当前AI公司最具战略意义的护城河，但在未来几年中，专有数据将不再是一种独特的资产，从而使专有数据差异化的可持续性降低。因此，我们希望重点从基于数据的AI

星月情缘 0喜欢 / 0评论 2020-09-21

IntelliJ IDEA 如何配置数据源

在 IntelliJ IDEA 中，可以通过打开 Data Sources and Drivers 对话框来配置数据源和测试你的数据库连接。可能没有办法使用快捷键，虽然好像有快捷键是 shift + enter，但是在 IntelliJ IDEA 中会换行

crazyhulu 0喜欢 / 0评论 2020-09-20