发明专利 已授权

一种面向RAG的嵌入服务弹性部署方法

📄 申请号:CN202511368928.X 📄 发布日:2026/08/18

著录项目信息

申请日
2025-09-24
公开号
CN120872615B
公开日
2025-11-28
申请人
南京信息工程大学
法律状态
已下证
专利类型
发明
主分类号
IPC 分类号

技术画像

所属领域

应用场景

大语言模型应用, 人工智能推理服务, 云服务, 数据中心, 知识库管理

摘要

本发明公开了一种面向RAG的嵌入服务弹性部署方法,属于计算机资源配置技术领域。该方法首先获取适用于RAG场景的嵌入模型并构建嵌入服务,通过自动化资源分析批量测试不同资源配置参数,筛选出满足服务质量要求的最优资源配置;其次集成RPS监控与动态批处理机制,结合GPU资源碎片化优化算法与三级候选GPU调度策略;随后根据推理请求负载触发混合扩缩容机制,形成协同调度;最终通过轮询机制分发推理请求并持续优化服务性能。本发明通过自动化资源分析、GPU资源碎片化优化与混合扩缩容策略的协同作用,可显著提升GPU资源利用率与嵌入服务的性能,有效支撑RAG场景下高并发、低延迟的推理需求。

常见问题

这项专利是否已经下证?

是的,该专利已下证,法律状态为“已下证”,公开号: CN120872615B

购买这项专利需要经过哪些流程?

平台提供担保交易、全程代办转让手续。买家可委托平台代购,平台协助完成权属尽调、合同签署、国家知识产权局著录项目变更等流程。

该专利的转让价格是多少?

当前标价为议价,可委托平台代购或预约谈判。

权利要求书 (12项) 说明书 附图

……

……

图1
图2
图3

法律状态时间线

相似专利推荐 AI 驱动 · 同领域

暂无同领域相似专利推荐
议价
不含过户费

📋 交易方式: 委托待转让 📌 交易状态: 在售 👁️ 浏览次数:19 ❤️ 收藏人数:93 📋 项目申报: 未申报

资金托管 权属尽调 包过户
🏢 淄博智来知识产权服务有限公司
✓ 企业认证✓ 手机绑定历史成交 2657件好评率 98.5%

📊 出价记录 (3条)
王**¥-10万
李** 企业¥-8万
陈**¥-3万
查看全部出价