咨询电话:13280638997
传真:0533-3110363
邮箱:kefu@shizifang.com
摘 要:本发明公开了一种基于内存计算框架Spark的性能优化和参数配置方法,通过先确定Spark应用程序类型以及影响不同类型的Spark性能参数,随机组合配置参数得到训练集,将训练集通过LightGBM算法建立配置参数模型,通过贝叶斯优化算法搜索LightGBM算法的超参数最优组合,进一步使得配置模型选择出最优配置参数。本发明不要求用户理解Spark运行机制、参数意义作业和取值范围,以及应用程序类型特点和输入集的情况下,能为用户找到运行在不同集群环境下不同类型应用程序的最优配置参数,较之前的参数配置方法更加简单明了方便。
著 录 项:
专利/申请号: | CN201911241267.9 | 专利名称: | 基于内存计算框架Spark的性能优化和参数配置方法 |
申请日: | 2019-12-06 | 申请/专利权人 | 重庆邮电大学 |
专利类型: | 发明 | 地址: | 重庆市南岸区南山街道崇文路2号 |
专利状态: | 已下证 查询审查信息 | 分类号: | G06F9/50搜分类 计算机硬件 R P SPA搜索 |
公开/公告日: | 2022-07-01 | 转让价格: | 面议 |
公开/公告号: | CN111176832B | 交易状态: | 等待洽谈 搜索相似专利 |
交易方 | 企业 | 个人 |
买家 | 营业执照副本复印件(需盖公章) | 身份证复印件(签字) |
专利转让委托书(需盖公章)一式两份 | 专利转让委托书(需签字)一式两份 | |
专利转让协议(需盖公章)一式两份 | 专利转让协议(需签字)一式两份 | |
卖家 | 营业执照副本复印件(需盖公章) | 身份证复印件(需申请人签字) |
解除代理委托书(需盖公章)一式两份(如专利通过代理机构申请) | 解除代理委托书(需签字)一式两份(如专利通过代理机构申请) | |
专利转让协议(需盖公章)一式两份 | 专利转让协议(需签字)一式两份 | |
专利请求书或手续合格通知书、授权通知书复印件 | 专利请求书或手续合格通知书、专利授权通知书复印件 | |
专利证原件(若授权下证) | 专利证原件(若授权下证) |
日期 | 法律信息 | 备注 |
2022/07/01 | 授权 | |
2020/06/16 | 实质审查的生效 | IPC(主分类): G06F 9/50 专利申请号: 201911241267.9 申请日: 2019.12.06 |
2020/05/19 | 公开 |