刘晖：AIGC大模型算力平台建设实践

刘晖注册讲师 169查看

课程概要

培训时长 : 2天

课程价格 : 扫码添加微信咨询

课程分类 : 人工智能

课程编号 : 16843

联系老师

适用对象

课程介绍

一、课纲 2天

01生成式AI的算力需求与挑战

02生成式AI的算力服务器开发背景

03生成式AI的算力服务器发展历程

04生成式AI的算力服务器设计指南

4.1 设计原则

4.1.1 应用导向原则

4.1.2 多元开放原则

4.1.3 绿色高效原则

4.1.4 统筹设计原则

4.2 设计指南

4.2.1 多维协同设计

节点层面：

（1）系统架构

（2）OAM模块

（3）UBB基板

（4）硬件设计

（5）散热设计

（6）系统管理

（7）故障诊断

（8）软件平台

集群层面：

（1）集群网络与存储

（2）整机柜

（3）液冷

（4）制冷

（5）运维

4.2.2 全面系统测试

（1）结构测试

（2）散热测试

（3）稳定性测试

（4）软件兼容性测试

4.2.3 性能测评调优

（1）基础性能测试

（2）互连性能测试

（3）模型性能测试

（4）模型性能调优

二、授课方式

理论讲授：通过讲解和演示，使学员掌握课程内容；

实践操作：提供实际操作和实践的机会，使学员能够亲自动手进行实践；

案例分析：通过案例分析，使学员了解课程内容的应用前景和实际效果；

互动讨论：鼓励学员提问、分享经验和见解，促进知识交流与碰撞。

刘晖老师的其他课程

• 刘晖：AI 大模型需要什么样的数据: AI 大模型需要什么样的数据一、课纲 1天第一章 AI 大模型需要什么样的数据集数据将是未来AI 大模型竞争的关键要素数据集如何产生他山之石#1：海外主要大语言模型数据集数据集#1：维基百科数据集#2：书籍数据集#3：期刊数据集#4：WebText（来自Reddit 链接）数据集#5：Common crawl/C4 其他数据集他山之石#2：海外主要多模态数据集类别#1：语音+文本类别#2：图像+文本类别#3：视频+图像+文本类别#4：图像+语音+文本类别#5：视频+语音+文本他山之石#3：海外主要大模型数据集由何方发布高质量语言数据和图像数据或将耗尽，合成数据有望生成大模型数据第二章数字中国战略助力中国AI 大模型数据基础发展中国AI 大模型数据集从哪里来中国大模型如何构建数据集#1：LLM中国大模型如何构建数据集#2：多模态大模型中国开源数据集#1：大语言模型数据集中国开源数据集#2：多模态模型数据集国内数据要素市场建设逐步完善，助力优质数据集生产流通数据交易环节：数据交易所发展进入新阶段，缓解中文数据集数量不足问题数据加工环节：数据服务产业加速发展，助力中文数据集质量提升AI 时代数据的监管与隐私保护问题数据产业链数据生产环节数据处理环节二、授课方式理论讲授：通过讲解和演示，使学员掌握课程内容；实践操作：提供实际操作和实践的机会，使学员能够亲自动手进行实践；案例分析：通过案例分析，使学员了解课程内容的应用前景和实际效果；互动讨论：鼓励学员提问、分享经验和见解，促进知识交流与碰撞。

• 刘晖：AI 大模型企业是如何炼成的 --深度解析各AI大模型企业: 第一部分：海外大模型：科技巨头自主研发，积极联盟AI 初创公司如何形成“数据-模型-应用”的飞轮是AI 大模型企业成功关键微软&OpenAI 领先，谷歌追赶，Meta 防御性开源，英伟达转型算力云服务.科技巨头正通过其云计算部门，积极寻求与AI 初创公司的合作OpenAI：全球领先的AI 初创企业发展历程：从非营利开端到向营利性全面转型团队：年轻、背景豪华且高度聚焦技术算力：强大的算力支撑GPT 释放大模型潜能模型：坚持GPT 技术路径，持续探索生成式AI 潜力应用：以产品为导向形成数据飞轮，逐步构建生态圈谷歌：LLM 领域的奠基者发展历程：从AI 技术研发的领军者到产业化进程的推动者团队：Google DeepMind 汇集谷歌AI 领域人才算力：TPU 系列芯片和新一代超级计算机支撑AI 大模型训练和创新框架：领先的自研深度学习平台TensorFlow 模型：各技术路线的模型储备丰富，多模态大模型实现人机交互领域突破应用：积极布局生成式AI 应用以迎接挑战英伟达：AI 时代的芯片领路者发展历程：英伟达的二十年辉煌史团队：灵魂人物引导产业变革，数次收购完善业务版图商业模式：深度绑定台积电走OEM 模式，轻装上阵重视研发投入硬件迭代：训练/推理芯片性能参数持续领先对手软件：CUDA 构建完整生态，CUDA-X AI 结构拉开巨大差距Meta：AI 和元宇宙双轮并驱发展历程：全球最大社交媒体巨头拥抱元宇宙和AIGC 团队：AI 人才汇聚，旨在创建AIGC 顶级产品团队算力：拥有全球最快AI 超级计算机AI RSC，推出自研AI 芯片MTIA框架：PyTorch——深度学习领域最受欢迎的框架之一模型：布局生成式AI，开源语言、视觉等大模型AWS：全球卓越的云服务平台发力AIGC 市场发展历程：全球领先的云服务平台强势入局AIGC 算力：提供最具成本效益的生成式Al 云基础设施框架：一站式机器学习平台Amazon SageMaker 助力AIGC 模型：推出Titan 大模型及中立托管平台Bedrock产品：免费向个人开放AI 编程助手Amazon CodeWisperer Anthropic：OpenAI 前核心成员创建的人工智能安全与研究公司Anthropic 前期以科研为重心，研究AI 模型的安全问题加快商业化脚步，推出ChatGPT 的有力对手Claude Anthropic 加速融资以支撑AI 模型训练和部署第二部分：国内大模型：互联网巨头和已有充分积累的初创公司百度：昆仑芯+飞桨平台+文心大模型，构建广泛应用端生态团队：百度CTO 王海峰领衔，技术大牛带队算力：两代自研通用AI 芯片“昆仑”支持大模型落地框架：产业级深度学习平台“飞桨”为大模型构建提供有力支撑文心大模型：“基础+任务+行业”大模型三层体系全面满足产业应用需求应用：大模型生态逐步构建，推动AI 落地产业阿里巴巴：通义大模型构建大一统模型，所有产品将接入通义千问阿里达摩院：孕育阿里巴巴人工智能的技术沃土算力：自研芯片含光800 和倚天710 提供高性价比算力支持框架：统一易用的分布式深度学习训练框架EPL 支撑“大一统”模型构建通义大模型：基于AI 统一底座的层次化体系应用：赋能产品应用增效，推出模型即服务共享平台腾讯：算力集群+混元大模型，赋能自身业务生态降本增效团队：混元助手项目组由大牛带队，3 位PM 顶梁，聚集跨事业群精英算力：自研三款芯片和搭建算力集群以满足AI 大模型训练需求混元大模型：依托低成本算力和自研底座构建，模型可直接落地应用应用：赋能自身业务生态降本增效，广告类应用效果出众华为：昇腾芯片+MindSpore+盘古大模型，B 端应用场景落地可期领导者：华为云AI 首席科学家田奇算力：以自研AI 芯片昇腾作为根基，打造AI 产业平台框架：深度学习框架MindSpore 和一站式AI 开发平台ModelArts 提升模型开发效率盘古大模型：赋能千行百业的三阶段体系应用：行业大模型逐步落地，B 端场景应用可期商汤：SenseCore 大装置+日日新大模型算力：基于AI 大装置SenseCore，以AI 模型赋能四大业务.日日新大模型：构建面向AGI 的核心能力，驱动垂直行业降本增效应用：MaaS 模式可能成为重要新趋势智谱AI：依托清华大学技术成果，打造高性能千亿级普惠大模型团队：核心成员与清华大学联系紧密模型：智谱AI 致力于打造高性能千亿级普惠大模型二、授课方式理论讲授：通过讲解和演示，使学员掌握课程内容；实践操作：提供实际操作和实践的机会，使学员能够亲自动手进行实践；案例分析：通过案例分析，使学员了解课程内容的应用前景和实际效果；互动讨论：鼓励学员提问、分享经验和见解，促进知识交流与碰撞。

• 刘晖：AI 大模型对通信行业影响几何: 一·课纲 0.5天AI 大模型对通信行业拉动几何？光模块&交换机：新一轮流量应用革命开启第一大变量：服务器网卡数量剧增第二大变量：数据中心网络架构变革光模块展望：23 年呈现前低后高，24 年或全面爆发数通新平台导入在即，产业升级逻辑清晰交换机：数通需求驱动增长，新一代交换芯片蓄势待发AI 服务器：量价齐升，国产崛起大模型算力需求大，AI 服务器量价齐升效应显著海外制裁有望加速国产AI 服务器快速崛起IDC 及配套设备：算力底座，新方案加速渗透运营商：算力网络主导者，对内提效对外赋能二、授课方式理论讲授：通过讲解和演示，使学员掌握课程内容；实践操作：提供实际操作和实践的机会，使学员能够亲自动手进行实践；案例分析：通过案例分析，使学员了解课程内容的应用前景和实际效果；互动讨论：鼓励学员提问、分享经验和见解，促进知识交流与碰撞。

刘晖：AIGC大模型算力平台建设实践

课程概要

适用对象

课程介绍

刘晖老师的其他课程

相关课程

添加企业微信