本发明公开了基于云边协同的时延敏感型智能服务快速响应方法,基于双延迟深度确定性策略算法,实现对卷积核分割与服务器资源分配的联合优化,其核心思想是将每个边缘服务器中的计算资源进行分区,每个区域内的资源只用以推理某个卷积神经网络中某个卷积层的某一部分;一个场景中基于同一类别卷积神经网络的所有智能服务被置于一个队列中,且根据优先级决定不同服务的推理顺序;每个智能服务对应的卷积神经网络中,各卷积层都被分割成多个部分,实现卷积神经网络在不同服务器上的并行推理;整个算法具备卷积核分割合理、资源分配精确、高优先级服务请求优先处理的特征,能满足高任务负载场景中时延敏感型智能服务的快速响应需求。
📄 2023110179869
📂 H04L67_61
👤 南京信息工程大学
📅 2023-08-14
本发明提供一种数据分发服务通信中间件的服务质量策略作用方法,针对传统通信中间件通信节点的难以控制数据交付、数据生命周期等通信中的问题,基于数据分发服务技术规范,设计了数据分发服务服务质量策略作用流程,设计了针对不同服务质量策略需求的QOS模块,发布订阅过程中实现了实体分区、分组、用户识别等功能;数据传输过程中实现样本数据到达顺序、重发历史数据、不同优先级实体数据发送、样本数据的存储、实体状态的监听、基于时间的样本过滤、所有权实体过滤、数据交付等功能。本发明克服传统通信模型的传输模式单一,耦合性强等困难,简化了上层分布式应用的设计工作,为分布式实时数据传输提供良好的通信控制。
📄 2023102735745
📂 H04L67_61
👤 电子科技大学
📅 2023-03-20