利用 Cloud Run 部署和扩缩 AI 模型

About this course

AI 推理是指利用经过训练的机器学习模型，通过应用其学习到的模式，对新的、未见过的数据进行预测的过程。本课程专为有兴趣在 Cloud Run 上快速部署 AI 推理服务的开发者、数据科学家和机器学习工程师而设计。对于熟悉基于云的无服务器应用部署解决方案，但可能没有使用 Google Cloud 无服务器产品运行 AI 推理经验的学员来说，本课程非常有用。 本课程包含使用 GPU 部署 AI 推理模型，以及将生成式 AI 应用与数据存储服务集成的示例。

What you will learn

• 使用 Cloud Run GPU 运行 AI 推理。
• 在 Cloud Run 上部署轻量级语言模型，用于 AI 推理。
• 优化 Cloud Run 上的模型部署，以提高性能和成本效益。
• 将 Cloud Run AI 推理服务与 Google Cloud 上的数据库服务集成。