<>应用场景
1.信息流处理
Storm可用来实时处理新数据和更新数据库,兼具容错性和可扩展性。即 Storm可以用来处理源源不断流进来的消息,处理之后将结果写入到某个存储中去。
2.连续计算
Storm可进行连续查询并把结果即时反馈给客户端。比如把 Twitter 上的热门话题发送到浏览器中。
3.分布式远程调用
Storm 可用来并行处理密集查询。Storm 的拓扑结构是一个等待调用信息的分布函数,当它收到一条调用信息后,会对查询进行计算,并返回查询结果。举个例子
Distributed RPC 可以做并行搜索或者处理大集合的数据。

<>操作步骤

<>1. Storm概述

Storm 是一个实时的、分布式的、可靠的流式数据处理系统。它的工作就是委派各种组件分别独立的处理一些简单任务。在 Storm 集群中处理输入流的是
Spout 组件,而 Spout 又把读取的数据传递给叫Bolt的组件。Bolt组件会对收到的数据元组进行处理,也有可能传递给下一个Bolt。我们可以把
Storm
集群想象成一个由Bolt 组件组成的链条集合,数据在这些链条上传输,而Bolt作为链条上的节点来对数据进行处理。

Storm 保证每个消息都会得到处理,而且处理速度非常快,在一个小集群中,每秒可以处理数以百万计的消息。Storm
的处理速度非常惊人:经测试,每个节点每秒可以处理 100 万个数据元组。其主要应用领域有实时分析、在线机器学习、持续计算、分布式
RPC(远过程调用协议,一种通过网络从远程计算机程序上请求服务,而不需要了解底层网络技术的协议。)、ETL(数据抽取、转换和加载)等。

Storm 和 Hadoop 集群表面看上去很类似,但是 Hadoop 上面运行的是 MapReduce Jobs,而在Storm上运行的是拓扑
Topology,这两者之间是非常不一样的,关键区别是:MapReduce 最终会结束,而一个 Topology永远会运行(除非你手动 kill
掉),换句话说,Storm 是面向实时数据分析,而 Hadoop 面向的是离线数据分析,Storm 在 HDP 中的位置如下图所示。



<>2. Storm集群架构


Storm的集群由一个主节点和多个工作节点组成。主节点运行一个名为“Nimbus”的守护进程,每个工作节点都运行一个名为“Supervisor”的守护进程,两者的协调工作由ZooKeeper
来完成,ZooKeeper 用于管理集群中的不同组件,Storm集群架构如下图所示。



<>2.1 主节点 Nimbus

主节点通常运行一个后台程序——Nimbus,用于响应分布在集群中的节点,分配任务和监测故障,在某个节点的
Supervisor出现故障宕机之后,如果在该节点上运行的 Worker进程异常终止,Nimbus会将异常终止的 Worker 进程分配到其他
Supervisor 节点上继续运行,这类似于 Hadoop 中的JobTracker。

<>2.2 工作节点 Supervisor

每一个工作节点上面运行一个叫做 Supervisor进程。Supervisor负责监听从 Nimbus 分配给它执行的任务,还能保证正常运行的
Worker异常终止之后能够重启该 Worker。Nimbus 和 Supervisor之间的协调则通过 ZooKeeper 系统。

<>2.3 协调服务组件 Zookeeper

ZooKeeper 是完成 Nimbus 和 Supervisor
之间协调的服务。而应用程序实现实时的逻辑则被封装进Storm中的“topology”。Topology 则是一组由 Spout(数据源)和
Bolts(数据处理)通过 Stream Groupings 进行连接的图。

<>2.4 工作进程 Worker

Worker是一个 Java 进程,执行拓扑的一部分任务。一个 Worker进程执行一个 Topology的子集,它会启动一个或多个 Executor
线程来执行一个 Topology 的组件(Spout 或 Bolt),如下图。



<>3. Storm的使用







一但storm任务开启,那么就一直在运行,除非手动终止。