subtitle
05
11
mapreduce组件总结 mapreduce组件总结
mapreduce组件总结 相关组件大致有 Inputformat Inputsplit ReadRecorder mapper Combiner Partioner Reduce GroupComparator Reduce shuf
2020-05-11 Kuiq Wang
11
spark常见的输入源 spark常见的输入源
spark 输入源整理 spark常见的输入源text1234567891011public static void main(String[] args) { SparkConf conf = new Spar
2020-05-11 Kuiq Wang
11
大数据分享 大数据分享
开头语工欲善其事,必先利其器 本次分享,是我在公司的第一次分享,我考虑后,将本次分享的主要内容分为了三大部块.先是针对相关基础组件分类介绍.再介绍下通过对这些组件进行组织配搭的大数据基础环境架构.再结合我的一些经历,为大家介绍下相关的应用
2020-05-11 Kuiq Wang
11
kafka学习 kafka学习
[ x ] Consumer Group里只会被某一个Consumer消费 ,Kafka还允许不同Consumer Group同时消费同一条消息,这一特性可以为消息的多元化处理提供支持。 kafka 发送模式通过producer.typ
2020-05-11 Kuiq Wang
11
日常运维 日常运维
此处是简介 hexo 加速通过更换公共CDN的js css资源.实现了较大改变 hexo LocalSearch一直转圈问题修复主要成因有两,一是search.xml没有成功加载,二是search.xml中的数据有问题. 前者通过配置_
2020-05-11 Kuiq Wang
10
准备小结 准备小结
准备小结 hdfs存储机制是怎样的?client端发送写文件请求,namenode检查文件是否存在,如果已存在,直接返回错误信息,否则,发送给client一些可用namenode节点client将文件分块,并行存储到不同节点上datanod
2020-05-10 Kuiq Wang
2 / 2