搜索你想找的开源项目

输入名称、用途或关键词,也可粘贴 GitHub 仓库链接
全部技能

google-cloud-solution-guided-gke-ai-migration

指导将现有 AI 推理工作负载迁移到 GKE 自托管推理,使用 gcloud 和 kubectl。

适合什么时候用

你已在 Cloud Run、Gemini API 或虚拟机上运行推理,需要 GKE 部署方案、清单文件和流量切换步骤。

举个例子

你对 AI 说

使用 google-cloud-solution-guided-gke-ai-migration 把我 Cloud Run 上的 Llama 3 70B 服务迁移到 A100 GPU 的 GKE。

你会拿到
  • 显存与硬件选型
  • vLLM 部署与网关清单
  • 模型暂存 Job 清单

它会怎么做

  • 按发现、设计、实施、验证四个阶段推进。
  • 默认使用 vLLM,经内部网关暴露,并用 Cloud Storage FUSE 暂存模型。
  • 将进度写入 migration-state.md,便于后续继续。