登录
注册
开源
企业版
高校版
搜索
帮助中心
使用条款
关于我们
开源
企业版
高校版
私有云
模力方舟
AI 队友
登录
注册
12月21日就在北京,来看大模型推理 + 国产硬件生态 + 开源社区分享,一起搞技术、聊开源、领福利~~
代码拉取完成,页面将自动刷新
开源项目
>
人工智能
>
推理框架
&&
捐赠
捐赠前请先登录
取消
前往登录
扫描微信二维码支付
取消
支付完成
支付提示
将跳转至支付宝完成支付
确定
取消
Watch
不关注
关注所有动态
仅关注版本发行动态
关注但不提醒动态
66
Star
162
Fork
150
MindSpore
/
vllm-mindspore
代码
Issues
50
Pull Requests
117
Wiki
统计
流水线
服务
质量分析
Jenkins for Gitee
腾讯云托管
腾讯云 Serverless
悬镜安全
阿里云 SAE
Codeblitz
SBOM
我知道了,不再自动展开
更新失败,请稍后重试!
移除标识
内容风险标识
本任务被
标识为内容中包含有代码安全 Bug 、隐私泄露等敏感信息,仓库外成员不可访问
[Feature] vLLM-MindSpore插件特性支持列表---持续更新
置顶
ACCEPTED
#ICH1AN
Task-Tracking
zlq2020
成员
创建于
2025-06-23 11:15
# 特性支持 vLLM-MindSpore插件支持的特性功能与vLLM社区版本保持一致,特性描述和使用请参考[vLLM官方资料](https://docs.vllm.ai/en/latest/)。 以下是vLLM-MindSpore插件+vLLM 0.9.1版本特性支持状态(2025-09): | **功能** | **vLLM V0 Engine** | **vLLM V1 Engine** | |-----------------------------------|--------------------|--------------------| | Chunked Prefill | 支持 | 支持 | | Automatic Prefix Caching | 支持 | 支持 | | Multi step scheduler | 支持 | 已废弃 | | DeepSeek MTP | 支持 | 开发中 | | Async output | 支持 | 支持 | | Quantization | 支持 | 支持 | | LoRA | 支持 | 支持 | | Tensor Parallel | 支持 | 支持 | | Pipeline Parallel | 支持 | 支持 | | Expert Parallel | 支持 | 支持 | | Data Parallel | 不支持 | 支持 | | Prefill Decode Disaggregation | 暂无计划 | 开发中 | | Multi Modality | 支持 | 支持 | | Prompt adapter | 暂无计划 | 计划支持 | | Speculative decoding | 暂无计划 | 开发中 | | LogProbs | 支持 | 支持 | | Prompt logProbs | 计划支持 | 计划支持 | | Best of | 暂无计划 | 已废弃 | | Beam search | 计划支持 | 开发中 | | Guided Decoding | 暂无计划 | 计划支持 | | Pooling | 暂无计划 | 暂无计划 | | Enc-dec | 暂无计划 | 暂无计划 | | Reasoning Outputs | 支持 | 支持 | | Tool Calling | 部分支持 | 部分支持 | - 支持:功能已完全对标社区能力; - 部分支持:功能初步可用,功能泛化性还在继续开发优化中。 - 开发中:基础功能正在开发中,预计短期内可以支持。 - 计划支持:已列入开发计划中,具体时间可参见社区公告。 - 暂无计划: vLLM-Mindspore插件暂不打算支持vLLM V0中的某些功能, 开发重心优先放在v1版本功能。 - 不支持/已废弃:vLLM不支持或已废弃的功能,建议使用其他方案代替。
# 特性支持 vLLM-MindSpore插件支持的特性功能与vLLM社区版本保持一致,特性描述和使用请参考[vLLM官方资料](https://docs.vllm.ai/en/latest/)。 以下是vLLM-MindSpore插件+vLLM 0.9.1版本特性支持状态(2025-09): | **功能** | **vLLM V0 Engine** | **vLLM V1 Engine** | |-----------------------------------|--------------------|--------------------| | Chunked Prefill | 支持 | 支持 | | Automatic Prefix Caching | 支持 | 支持 | | Multi step scheduler | 支持 | 已废弃 | | DeepSeek MTP | 支持 | 开发中 | | Async output | 支持 | 支持 | | Quantization | 支持 | 支持 | | LoRA | 支持 | 支持 | | Tensor Parallel | 支持 | 支持 | | Pipeline Parallel | 支持 | 支持 | | Expert Parallel | 支持 | 支持 | | Data Parallel | 不支持 | 支持 | | Prefill Decode Disaggregation | 暂无计划 | 开发中 | | Multi Modality | 支持 | 支持 | | Prompt adapter | 暂无计划 | 计划支持 | | Speculative decoding | 暂无计划 | 开发中 | | LogProbs | 支持 | 支持 | | Prompt logProbs | 计划支持 | 计划支持 | | Best of | 暂无计划 | 已废弃 | | Beam search | 计划支持 | 开发中 | | Guided Decoding | 暂无计划 | 计划支持 | | Pooling | 暂无计划 | 暂无计划 | | Enc-dec | 暂无计划 | 暂无计划 | | Reasoning Outputs | 支持 | 支持 | | Tool Calling | 部分支持 | 部分支持 | - 支持:功能已完全对标社区能力; - 部分支持:功能初步可用,功能泛化性还在继续开发优化中。 - 开发中:基础功能正在开发中,预计短期内可以支持。 - 计划支持:已列入开发计划中,具体时间可参见社区公告。 - 暂无计划: vLLM-Mindspore插件暂不打算支持vLLM V0中的某些功能, 开发重心优先放在v1版本功能。 - 不支持/已废弃:vLLM不支持或已废弃的功能,建议使用其他方案代替。
评论 (
2
)
登录
后才可以发表评论
状态
ACCEPTED
TODO
ACCEPTED
WIP
VALIDATION
DONE
CLOSED
REJECTED
负责人
未设置
标签
未设置
项目
未立项任务
未立项任务
里程碑
未关联里程碑
未关联里程碑
Pull Requests
未关联
未关联
关联的 Pull Requests 被合并后可能会关闭此 issue
分支
未关联
分支 (36)
标签 (3)
master
ms_inferrt
r0.4.1_ms_2.8.0_joint_test
r0.4.1
hybrid-v2
r0.5.0
br_infer_boom_1115
qwen3_omni_dev
v0.10.2
r0.4.0
revert-merge-1161-r0.4.0
develop
revert-merge-1133-ms_inferrt
model-external
revert-merge-1067-ms_inferrt
beam-search-dev
br_infer_boom
br_feature_glm4v
r0.3.0
r0.3.0.rc1
master_qwen3_next
refactor-hybrid
r0.3.0_qwen3_next
duo-dev
0.9.1-dev
0.8.3-develop-bak
develop-refactor
pangu-pro-moe-bak
pangu-pro-moe
cpp-dev
duo-qwq-dev
r0.2
v0.8.3-dev
r0.1_opt
r0.1
r0.1.1
v0.4.0
ms_inferrt_v0.1.0
v0.3.0
开始日期   -   截止日期
-
置顶选项
不置顶
置顶等级:高
置顶等级:中
置顶等级:低
优先级
不指定
严重
主要
次要
不重要
预计工期
(小时)
参与者(1)
Python
1
https://gitee.com/mindspore/vllm-mindspore.git
git@gitee.com:mindspore/vllm-mindspore.git
mindspore
vllm-mindspore
vllm-mindspore
点此查找更多帮助
搜索帮助
Git 命令在线学习
如何在 Gitee 导入 GitHub 仓库
Git 仓库基础操作
企业版和社区版功能对比
SSH 公钥设置
如何处理代码冲突
仓库体积过大,如何减小?
如何找回被删除的仓库数据
Gitee 产品配额说明
GitHub仓库快速导入Gitee及同步更新
什么是 Release(发行版)
将 PHP 项目自动发布到 packagist.org
评论
仓库举报
回到顶部
登录提示
该操作需登录 Gitee 帐号,请先登录后再操作。
立即登录
没有帐号,去注册