通过真实案例学习设计生产就绪的AI系统：涵盖LLMs、AI代理、Kafka、Kubernetes及大规模机器学习。
您将会学到
- 通过将业务需求转化为可扩展架构来设计生产就绪的AI系统。
- 使用LLMs、RAG、AI代理、向量数据库、Kafka、Redis和Kubernetes构建现代AI应用程序。
- 分析涉及可扩展性、可靠性、延迟、吞吐量及成本优化的实际工程权衡。
- 设计在生产环境中使用的机器学习、自然语言处理和计算机视觉系统。
- 评估并选择适合AI平台、推理系统、数据管道和分布式服务的正确架构模式。
- 将复杂的AI产品分解为可扩展的系统组件，并自信地沟通架构决策。
- 了解领先科技公司如何设计和扩展服务于成千上万乃至数百万用户的AI系统。
- 使用结构化的工程框架应对AI系统设计和机器学习系统设计面试问题。
课程要求
- 掌握软件工程的基础知识，例如编程、API、数据库、缓存和应用程序部署，将帮助您更好地从本课程中获益。
- 建议对人工智能和机器学习有基本了解，涵盖 LLMs、NLP、计算机视觉或现代 AI 应用。
- 本课程主要关注架构和系统设计方面的讨论，而非具体实现，因此学习者应具备理解技术工作流程、工程权衡及生产系统概念的能力。
课程描述
大多数工程师能够构建AI应用程序。 但很少有工程师能设计出可扩展的AI系统。 随着AI应用的增长，企业需要不仅了解模型和API，还了解生产AI系统的架构、可扩展性、可靠性和基础设施的工程师。
本课程完全专注于AI系统设计，教你现代AI产品是如何在真实世界环境中进行架构、扩展和优化的。 通过实践案例研究，你将学习到如LLM、RAG、AI代理、Kafka、Redis、Kubernetes、向量数据库、FastAPI和Databricks等技术是如何协同工作以支持企业级AI应用程序。还将学习机器学习、监督学习、非监督学习、半监督学习、自然语言处理和计算机视觉系统中使用的架构模式。
无论你是转向AI工程领域，准备AI系统设计面试，还是构建由AI驱动的产品，本课程都将帮助你像高级AI工程师和AI架构师那样思考。
你将学到什么
- 从需求到架构设计端到端的AI系统
- 设计适用于生产环境的可扩展机器学习系统
- 理解监督学习系统的架构模式
- 在规模上设计非监督学习和聚类系统
- 学习如何在生产中部署半监督学习系统
- 使用现代AI架构设计自然语言处理应用
- 理解计算机视觉系统设计和推理流程
- 构建可扩展的LLM和生成式AI应用
- 设计可用于生产的RAG系统
- 理解向量数据库和语义搜索
- 架构AI代理和多代理系统
- 学习基于Kafka的事件驱动架构
- 使用Redis设计缓存系统
- 理解针对AI工作负载的Kubernetes
- 学习批处理和实时推理架构
- 为延迟、可靠性和成本优化AI系统
- 评估现实世界的工程权衡
- 自信地应对AI系统设计面试
真实的AI系统设计案例研究
包括谷歌点击率预测系统、HubSpot用户聚类系统、Facebook内容审核系统等多个案例，每个案例都集中在架构决策、可扩展性挑战、基础设施设计等方面。
为什么这门课程与众不同
大多数AI课程关注于提示工程、框架教程、聊天机器人项目和API集成，而本课程专注于AI系统设计、生产AI架构、可扩展性和可靠性、分布式系统、基础设施设计以及现实世界的工程思维。
重要提示
这是一个以架构为中心的课程，不包括编程项目、模型训练练习或部署实验室。相反，重点完全放在系统设计、架构图、工程权衡和生产AI思维上。
此课程面向哪些人
- 期望从软件工程领域转型的工程师，了解如何架构和扩展生产级人工智能系统。
- 人工智能工程师和机器学习工程师希望进一步提升其人工智能系统设计和架构能力，超越模型开发阶段。
- 后端工程师正在运用 LLMs、RAG、AI 代理、向量数据库以及现代 AI 基础设施来开发 AI 赋能的应用程序。
- 准备参加 AI 系统设计、机器学习系统设计或高级工程面试的工程师们。
- 负责设计可扩展 AI 平台和大型企业 AI 解决方案的技术架构师与工程领导者。
- 已掌握软件开发基础的开发者，希望了解现实世界中 AI 产品的设计、优化及规模化运营方法。
课程收获
本课程适合软件工程师转行至AI工程、AI和ML工程师、开发AI产品的后端工程师、准备AI系统设计面试的工程师、设计AI平台的技术架构师等人群。完成课程后，你将能够设计可用于生产的AI系统，理解现实世界中的AI基础设施，并做出更好的架构决策。如果你想要超越AI教程并理解现实世界中的AI系统是如何架构和扩展的，这门课程非常适合你。