首页
/ Kubeflow KFServing中vLLM模型部署问题解析与解决方案

Kubeflow KFServing中vLLM模型部署问题解析与解决方案

2025-06-16 12:19:00作者:韦蓉瑛

问题背景

在使用Kubeflow KFServing部署vLLM大语言模型服务时,用户遇到了两个主要的技术问题:YAML格式解析错误和API接口调用问题。本文将详细分析这些问题产生的原因,并提供完整的解决方案。

YAML格式问题分析

最初用户按照文档提供的YAML配置部署InferenceService时,遇到了"did not find expected '-' indicator"错误。这个错误是由于YAML格式不规范导致的,具体表现为:

  1. 容器参数部分的缩进不正确
  2. 列表项缺少正确的"-"标识符
  3. 某些字段的层级关系不明确

正确的YAML配置

经过调整后,有效的YAML配置如下:

apiVersion: serving.kserve.io/v1beta1
kind: InferenceService
metadata:
  namespace: kserve-test
  name: bloom
spec:
  predictor:
    containers:
    - args:
      - --port
      - "8080"
      - --model
      - "/mnt/models"
      command:
      - python3
      - -m
      - vllm.entrypoints.api_server
      env:
      - name: STORAGE_URI
        value: pvc://task-pv-claim/bloom-560m
      image: docker.io/kserve/vllmserver:latest
      imagePullPolicy: IfNotPresent 
      name: kserve-container
      resources:
        limits:
          cpu: "5"
          memory: 20Gi
          nvidia.com/gpu: "1"
        requests:
          cpu: "5"
          memory: 20Gi
          nvidia.com/gpu: "1"

关键修正点包括:

  • 确保所有列表项以"-"开头并正确缩进
  • 参数和值作为独立的列表项
  • 保持一致的缩进层级

模型存储配置

在配置模型存储时,可以使用PVC(Persistent Volume Claim)方式:

env:
- name: STORAGE_URI
  value: pvc://task-pv-claim/bloom-560m

这表示模型文件存储在名为"task-pv-claim"的持久卷中,路径为"bloom-560m"。

API接口调用问题

最初用户尝试了多种API端点都返回404错误,包括:

  • /v1/models/bloom-560m:predict
  • /v2/models/bloom-560m/generate
  • /v1/completions

经过测试发现,标准的vLLM API服务器只支持/generate端点。正确的调用方式为:

curl -v -H "Host: ${SERVICE_HOSTNAME}" -H "Content-Type: application/json" \
    http://${INGRESS_HOST}:${INGRESS_PORT}/generate \
    -d '{"prompt": "San Francisco is a" }'

成功响应示例:

{"text":["San Francisco is a medium-sized family donating site with nonprofits, churches, Catholic organizations and business"]}

高级配置:支持OpenAI协议

如果需要支持OpenAI兼容的API协议,应该使用不同的入口点:

command:
- python3
- -m
- vllm.entrypoints.openai.api_server

这样配置后,服务将支持标准的OpenAI API端点,如/v1/completions等。

模型文件准备

对于需要在PVC中准备模型文件的情况,可以使用初始化容器来完成。以下是一个完整的示例:

apiVersion: v1
kind: PersistentVolumeClaim
metadata: 
  name: vlmm-gpt2-claim
  namespace: vllm-gpt2
spec: 
  accessModes: 
    - ReadWriteOnce
  resources: 
    requests: 
      storage: 10Gi

apiVersion: v1
kind: Pod
metadata: 
  name: setup-gpt2-binary
  namespace: vllm-gpt2
spec: 
  volumes: 
    - name: model-volume
      persistentVolumeClaim: 
        claimName: vlmm-gpt2-claim
  containers: 
    - name: download-model
      image: registry.access.redhat.com/ubi9/python-311:latest
      command: ["sh"]
      args: [ "-c", "pip install --upgrade pip && pip install --upgrade huggingface_hub && python3 -c 'from huggingface_hub import snapshot_download\nsnapshot_download(repo_id=\"gpt2\", local_dir=\"/mnt/models/gpt2\", local_dir_use_symlinks=False)'"]
      volumeMounts: 
        - mountPath: "/mnt/models/"
          name: model-volume

这个配置会从Hugging Face Hub下载GPT-2模型并保存到PVC中,后续可以在InferenceService中引用。

总结

在Kubeflow KFServing中部署vLLM大语言模型服务时,需要注意以下几点:

  1. YAML格式必须严格符合规范,特别是列表项的表示和缩进
  2. 默认的vLLM API服务器只支持/generate端点
  3. 如需OpenAI协议支持,需使用openai.api_server入口点
  4. 模型文件可以通过PVC方式挂载,并使用初始化容器准备
  5. 资源请求和限制需要根据模型大小合理配置

通过以上解决方案,用户可以成功在KFServing环境中部署和调用vLLM支持的大语言模型服务。

登录后查看全文
热门项目推荐

项目优选

收起
openHiTLS-examplesopenHiTLS-examples
本仓将为广大高校开发者提供开源实践和创新开发平台,收集和展示openHiTLS示例代码及创新应用,欢迎大家投稿,让全世界看到您的精巧密码实现设计,也让更多人通过您的优秀成果,理解、喜爱上密码技术。
C
52
461
kernelkernel
deepin linux kernel
C
22
5
openHiTLSopenHiTLS
旨在打造算法先进、性能卓越、高效敏捷、安全可靠的密码套件,通过轻量级、可剪裁的软件技术架构满足各行业不同场景的多样化要求,让密码技术应用更简单,同时探索后量子等先进算法创新实践,构建密码前沿技术底座!
C
349
381
nop-entropynop-entropy
Nop Platform 2.0是基于可逆计算理论实现的采用面向语言编程范式的新一代低代码开发平台,包含基于全新原理从零开始研发的GraphQL引擎、ORM引擎、工作流引擎、报表引擎、规则引擎、批处理引引擎等完整设计。nop-entropy是它的后端部分,采用java语言实现,可选择集成Spring框架或者Quarkus框架。中小企业可以免费商用
Java
7
0
openGauss-serveropenGauss-server
openGauss kernel ~ openGauss is an open source relational database management system
C++
131
185
RuoYi-Vue3RuoYi-Vue3
🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
873
517
Cangjie-ExamplesCangjie-Examples
本仓将收集和展示高质量的仓颉示例代码,欢迎大家投稿,让全世界看到您的妙趣设计,也让更多人通过您的编码理解和喜爱仓颉语言。
Cangjie
336
1.09 K
ohos_react_nativeohos_react_native
React Native鸿蒙化仓库
C++
179
264
cherry-studiocherry-studio
🍒 Cherry Studio 是一款支持多个 LLM 提供商的桌面客户端
TypeScript
607
59
note-gennote-gen
一款跨平台的 Markdown AI 笔记软件,致力于使用 AI 建立记录和写作的桥梁。
TSX
83
4