一种面向实时流计算的动态逐级反压方法,根据任务(Task)节点的当前自身负载情况来调整上游向其发送数据的速率,当某一Task过载导致延迟增加,上游的Bolt会减缓向下游发射的速率,更多的资源会被用来处理当前的正在处理的数据上,避免因阻塞、数据超时、重发等导致的延迟增加。当Task的负载降低至最小阈值且持续sensitivity秒,Task会向上游发送取消反压信号,上游Task收到取消反压信号后首先会检查自身是否处于反压状态,若是则会恢复上一次的发射速度,只有当组件恢复至初试速度时才会消除反压状态。本发明减少拓扑中单个任务对整体延迟的影响、反压过程平滑、系统不会出现负载振荡。
📄 2017101409635
📂 H04L12_803
👤 浙江工业大学
📅 2017-03-10
一种面向实时流计算的无感知拓扑替换方法,初始化一个头尾相连的环形队列;获取当前时间窗口内拓扑中数据计算失败的数量failNum;遍历队列,对于队列中的每一个元素,更新E(M);遍历队列,对于队列中的每一个元素,更新S2;判断S2值是否大于C,若是判断faileNum是否大于E(M),若大于则对当前的拓扑进行扩容替换,否则进行缩容替换;对当前Topology中的Task索引进行重新计算;初始化newTopology,按照索引分配Task所在的Worker Node,等待原Topology数据处理完成之后再开始执行,新到达的数据会流入newTopology。本发明自动进行、系统无需暂停和对用户透明。
📄 2017101455987
📂 G06F16_901
👤 浙江工业大学
📅 2017-03-13