资料
  • 资料
  • 专题
大数据工程师2023版(23年10月升级版35周)
推荐星级:
类别: 软件/EDA/IP
时间:2023-10-19
大小:2.09KB
阅读数:401
上传用户:huangyasir1990
查看他发布的资源
下载次数
6
所需E币
0
ebi
新用户注册即送 300 E币
更多E币赚取方法,请查看
close
资料介绍
大数据工程师2023版体系课,10月升级版35周,源码+PDF课件+电子手册+软件下载地址+接口数据集下载!
大数据是指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合,是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。简单来说,大数据就是结构化的传统数据再加上非结构化的新数据。
大数据作为时下最火热的IT行业的词汇,随之而来的数据仓库、数据安全、数据分析、数据挖掘等等围绕大数据的商业价值的利用逐渐成为行业人士争相追捧的利润焦点。随着大数据时代的来临,大数据分析也应运而生。
大数据包含哪些技术:
Zookeeper是一个分布式的、开放源码的分布式应用程序协调服务, 提供数据同步服务。它的作用主要有配置管理、名字服务、分布式锁和集群管理。配置管理指的是在一个地方修改了配置, 那么和这个地方配置相同的所有地方都可以获得变更, 省去了手动拷贝配置的繁琐, 还很好地保证了数据的可靠和一致性, 同时它可以通过名字来获取资源或者服务的地址等信息, 可以监控集群中机器的变化, 实现了类似于心跳机制的功能。

Hadoop作为一个开源的框架, 专为离线和大规模数据分析而设计, HDFS作为其核心的存储引擎, 已被广泛用于数据存储。
HBase, 是一个分布式的、面向列的开源数据库, 可以认为是hdfs的封装, 本质是数据存储、No SQL数据库。HBase是一种Key/Value系统, 部署在hdfs上, 克服了hdfs在随机读写这个方面的缺点, 与Hadoop一样, Hbase目标主要依靠横向扩展, 通过不断增加廉价的商用服务器, 来增加计算和存储能力。

Impala是对Hive的一个补充, 可以实现高效的SQL查询。使用Impala来实现SQL on Hadoop, 用来进行大数据实时查询分析。

通常来说,在我们最终查看数据报表,或者使用数据进行算法预测之前,数据都会经历以下这么几个处理环节:
数据采集:是指将应用程序产生的数据和日志等同步到大数据系统中。
数据存储:海量的数据,需要存储在系统中,方便下次使用时进行查询。
数据处理:原始数据需要经过层层过滤、拼接、转换才能最终应用,数据处理就是这些过程的统称。一般来说,有两种类型的数据处理,一种是离线的批量处理,另一种是实时在线分析。
数据应用:经过处理的数据可以对外提供服务,比如生成可视化的报表、作为互动式分析的素材、提供给推荐系统训练模型等等。
计算机要对输入的单词进行计数:
如果采用集中式计算方式,我们要先算出一个单词如Deer出现了多少次,再算另一个单词出现了多少次,直到所有单词统计完毕,将浪费大量的时间和资源。
如果采用分布式计算方式,计算将变得高效。我们将数据随机分配给三个节点,由节点去分别统计各自处理的数据中单词出现的次数,再将相同的单词进行聚合,输出最后的结果。

版权说明:本资料由用户提供并上传,仅用于学习交流;若内容存在侵权,请进行举报,或 联系我们 删除。
相关评论 (下载后评价送E币 我要评论)
没有更多评论了
  • 可能感兴趣
  • 关注本资料的网友还下载了
  • 技术白皮书