Hadoop学习系列(2.Hadoop框架介绍与搜索技术体系介绍)

第一天

2.Hadoop框架介绍与搜索技术体系介绍

2.Hadoop框架介绍与搜索技术体系介绍

1.hadoop介绍

-》官网：http://hadoop.apache.org

-》hadoop商业三大发行版

-》Apache -》apache

-》cloudera -》CDH

-》hostonwork -》HDP

-》分布式

-》爬虫

-》存储（加硬盘，但是单台机器是有限的）&处理分析

-》快速查询

-》分开计算，结果合并

-》google-》Mapreduce论文

-》map

-》reduce

-》HDFS 文件系统和数据库是不一样的

-》HBase

-》搜索引擎的技术体系

-》数据获取

-》（外网，互联网抓取数据）

-》数据库

-》数据存储-》HDFS&Hbase

-》yarn操作系统

-》数据计算

-》sql实时查询（消息队列，监控系统）

-》辅助型框架，比如zookeeper

-》生成索引，搜索的索引（商品推荐和自己平时搜索的信息有关）

-》返回个前端用户

-》离线系统-》hadoop生态圈

-》数据获取

-》（外网，互联网抓取数据）

-》云存储

-》全量或者增量导入(同步到hbase当中，sql语句当中)

-》复杂离线处理的过程(job运行，业务的逻辑，表的join,字段的合并)

-》mapreduce（实现全量或者增量数据的更新）

-》其他的框架实现实时数据的更新

这样我整个的数据变化就可以实现秒级的速度 更新到搜索引擎