当前位置: 首页 > news >正文

企业网站城市分站系统/深圳知名网络优化公司

企业网站城市分站系统,深圳知名网络优化公司,做pc网站,政府网站建设 招标公告“快”这个词是不明确的,专业属于点有两个层面: 时延 , 指数据从产生到运算产生结果的时间,题主的“快”应该主要指这个。吞吐, 指系统单位时间处理的数据量。首先明确一点,在消耗资源相同的情况下&#xf…

“快”这个词是不明确的,专业属于点有两个层面:

  1. 时延 , 指数据从产生到运算产生结果的时间,题主的“快”应该主要指这个。
  2. 吞吐, 指系统单位时间处理的数据量。

首先明确一点,在消耗资源相同的情况下,一般来说storm的延时低于mapreduce。但是吞吐也低于mapreduce。

为什么说Storm比Hadoop快?

storm的网络直传、内存计算,其时延必然比hadoop的通过hdfs传输低得多;当计算模型比较适合流式时,storm的流式处理,省去了批处理的收集数据的时间;因为storm是服务型的作业,也省去了作业调度的时延。所以从时延上来看,storm要快于hadoop。

说一个典型的场景,几千个日志生产方产生日志文件,需要进行一些ETL操作存入一个数据库。

假设利用hadoop,则需要先存入hdfs,按每一分钟切一个文件的粒度来算(这个粒度已经极端的细了,再小的话hdfs上会一堆小文件),hadoop开始计算时,1分钟已经过去了,然后再开始调度任务又花了一分钟,然后作业运行起来,假设机器特别多,几钞钟就算完了,然后写数据库假设也花了很少的时间,这样,从数据产生到最后可以使用已经过去了至少两分多钟。

而流式计算则是数据产生时,则有一个程序去一直监控日志的产生,产生一行就通过一个传输系统发给流式计算系统,然后流式计算系统直接处理,处理完之后直接写入数据库,每条数据从产生到写入数据库,在资源充足时可以在毫秒级别完成。

当然,跑一个大文件的wordcount,本来就是一个批处理计算的模型,你非要把它放到storm上进行流式的处理,然后又非要让等所有已有数据处理完才让storm输出结果,这时候,你再把它和hadoop比较快慢,这时,其实比较的不是时延,而是比较的吞吐了。

storm是典型的流计算系统,mapreduce是典型的批处理系统。下面对流计算和批处理系统流程。

整个数据处理流程来说大致可以分三个阶段:

1. 数据采集与准备

2. 数据计算(涉及计算中的中间存储), 题主中的“那些方面决定”应该主要是指这个阶段处理方式。

3. 数据结果展现(反馈)

1)数据采集阶段,目前典型的处理处理策略:数据的产生系统一般出自页面打点和解析DB的log,流计算将数据采集中消息队列(比如kafaka,metaQ,timetunle)等。批处理系统一般将数据采集进分布式文件系统(比如HDFS),当然也有使用消息队列的。我们暂且把消息队列和文件系统称为预处理存储。二者在延时和吞吐上没太大区别,接下来从这个预处理存储进入到数据计算阶段有很大的区别,流计算一般在实时的读取消息队列进入流计算系统(storm)的数据进行运算,批处理一系统一般会攒一大批后批量导入到计算系统(hadoop),这里就有了时延的区别。

2)数据计算阶段,流计算系统(storm)的时延低主要有一下几个方面

A: storm 进程是常驻的,有数据就可以进行实时的处理

mapreduce 数据攒一批后由作业管理系统启动任务,Jobtracker计算任务分配,tasktacker启动相关的运算进程

B: stom每个计算单元之间数据之间通过网络(zeromq)直接传输。

mapreduce map任务运算的结果要写入到HDFS,在于reduce任务通过网络拖过去运算。相对来说多了磁盘读写,比较慢

C: 对于复杂运算

storm的运算模型直接支持DAG(有向无环图)

mapreduce 需要肯多个MR过程组成,有些map操作没有意义的

3)数据结果展现

流计算一般运算结果直接反馈到最终结果集中(展示页面,数据库,搜索引擎的索引)。而mapreduce一般需要整个运算结束后将结果批量导入到结果集中。

实际流计算和批处理系统没有本质的区别,像storm的trident也有批概念,而mapreduce可以将每次运算的数据集缩小(比如几分钟启动一次),facebook的puma就是基于hadoop做的流计算系统。


本文作者:杨晓青 张云聪

来源:51CTO

http://www.lbrq.cn/news/1430767.html

相关文章:

  • 应用商城app开发/杭州seo推广公司
  • 购物平台排行榜2021/seo推广培训班
  • 百度百科分类方法/专业seo整站优化
  • .com域名做外贸网站/网站优化内容
  • 今天宁波最新消息/资源优化网站排名
  • 乌鲁木齐正规网站建设电话/国内十大搜索引擎网站
  • 网站做广告如何做帐/b站2023年免费入口
  • 做花酒的网站/网络seo关键词优化技术
  • 杭州网站制作方法/怎么把产品推广到各大平台
  • 普陀做网站/微信小程序开发流程
  • 做电商赚钱吗/南京seo排名扣费
  • 新手学做免费网站软件好/菏泽资深seo报价
  • 深圳网站建设的公司/百度问一问在线咨询客服
  • 学校网站建设情况说明书/一媒体app软件下载老版本
  • 深圳建站模板建站/seo技术外包公司
  • wordpress分库/公众号排名优化
  • 做旅游网站的/商丘seo推广
  • 学做网站视频/永久免费客服系统
  • 江苏建设行政主管部门网站/发外链平台
  • 淘宝移动网站建设/厦门seo推广外包
  • 开发网站大概要多少钱/动态网站设计
  • 甘肃省城乡建设厅网站首页/新乡百度关键词优化外包
  • 网站建设最好的书籍是/自己的网站怎么做seo
  • 网站中的给我留言怎么做/百度推广怎么提高关键词排名
  • 学网站建设学校/网站服务器多少钱一年
  • 南通北京网站建设/最近的国内新闻
  • 网站建设合同注意事项/十大网络营销成功案例
  • 建设网站观澜/网站的网站建设
  • 婚庆网站制作公司/网络广告案例
  • 做网站的调研报告/个人网站推广方法
  • es7.x中分片和节点关系以及查看节点数
  • 智能座舱软件架构设计的宏观决策框架
  • 【Golang】:流程控制语句
  • 【Linux基础知识系列】第九十六篇 - 使用history命令管理命令历史
  • Win10上Qt使用Libcurl库
  • C++中的`auto`与`std::any`:功能、区别与选择建议