刘晖:《新技术普及:ChatGPT与大模型技术及应用》培训大纲
刘晖 注册讲师 245查看
课程概要
培训时长 : 2天
课程价格 : 扫码添加微信咨询
课程分类 : 专业技术
课程编号 : 16852
面议联系老师
适用对象
-
课程介绍
刘晖老师的其他课程
- • 刘晖:《ChatGPT、AI大模型与算力网络技术及应用》培训大纲
- 培训主要内容:本课程采用模块化教学方法,总体架构主要包括以下8个教学模块:模块一:概念篇-ChatGPT概念诠释及技术发展模块二:架构篇-ChatGPT系统架构及工作流程模块三:技术篇-ChatGPT关键技术及原理详解模块四:AIGC篇-AIGC概念与关键能力及创作模块五:大模型-ChatGPT与AIGC通用大模型模块六:应用篇-ChatGPT/AIGC应用场景案例模块七:算力篇-ChatGPT算力需求及算力网络模块八:产业篇-AIGC/GPT产业发展及商业模式培训内容及时间安排:3天,6小时/天授课时间授课内容授课时长第一天上午模块一:概念篇-ChatGPT概念诠释及技术发展1小时模块二:架构篇-ChatGPT系统架构及工作流程2小时下午模块三:技术篇-ChatGPT关键技术及原理详解3小时课程小结、答疑、交流讨论与互动环节0.5小时第二天上午模块四:AIGC篇-AIGC概念与关键能力及创作2小时模块五:大模型-ChatGPT与AIGC通用大模型(1)1小时下午模块五:大模型-ChatGPT与AIGC通用大模型(2)3小时课程小结、答疑、交流讨论与互动环节0.5小时第三天上午模块六:应用篇-ChatGPT/AIGC应用场景案例2小时模块七:算力篇-ChatGPT算力需求及算力网络(1)1小时 下午模块七:算力篇-ChatGPT算力需求及算力网络(2)2小时模块八:产业篇-AIGC/GPT产业发展及商业模式1小时课程总结、答疑、交流讨论与互动环节0.5小时培训对象:课程详细大纲:培训主题详细内容模块一:概念篇-ChatGPT概念诠释及技术发展1.ChatGPT概念诠释及技术发展1.1什么是ChatGPT?(技术视角、OpenAI、维基百科的定义)1.2 ChatGPT技术核心要点诠释1.3 问题:如何理解ChatGPT?-理解ChatGPT的关键点1.3.1 ChatGPT是如何工作的?1.3.2 ChatGPT的训练数据来源于何处?1.3.3 ChatGPT如何进行模型预训练?1.3.4 ChatGPT是如何自动生成文本的?1.3.5 ChatGPT如何准确回答问题?1.3.6 ChatGPT如何按照人类思维回答问题?1.4问题:ChatGPT的主要技术有哪些?1.5 ChatGPT的主要特点有哪些?1.6ChatGPT的最大创新点是什么?1.7ChatGPT优化对话语言模型的优化目标是什么?1.8ChatGPT与普通聊天机器人的区别是什么?1.9 GPT-4的概念及关键技术1.9.1什么是GPT-4?GPT-4的核心要点诠释1.9.2什么是多模态生成模型?GPT-4如何实现跨模态融合?1.9.3 GPT-4的关键技术有哪些?1.9.4 GPT-4的预训练模型是什么?(预训练语言模型、预训练图像模型、预训练音频模型、预训练视频模型)1.9.5 GPT-4如何进行模型预训练?1.9.6 GPT-4如何根据图形、音频、视频等自动生成文本?1.9.7 GPT-4对于ChatGPT实现哪些方面能力的提升?1.9.8 GPT-4与GPT系列内容窗口对比1.9.9 GPT-4与ChatGPT的比较1.9.10 GPT-4技术与ChatGPT有哪些不同点?1.10ChatGPT/GPT-4存在的问题与不足是什么?1.11ChatGPT/GPT-4界面及网址1.12ChatGPT/GPT-4的基本功能与高级功能1.13 ChatGPT/GPT-4和AIGC的关系是什么?1.14 ChatGPT/GPT-4、AIGC和元宇宙的关系是什么?1.15 ChatGPT/GPT-4对推动元宇宙的商用落地与快速发展有何影响?1.16ChatGPT/GPT-4的产生、发展及影响1.16.1 ChatGPT/GPT-4的产生1.16.2 ChatGPT/GPT-4的发展历程(GTP-1,GTP-2,GTP-3, ChatGPT, GTP-4)1.16.3 ChatGPT/GPT-4的研究现状1.16.4 ChatGPT/GPT-4的产生与发展对人类社会将带来什么影响?1.16.5 ChatGPT/GPT-4对哪些职业和工作产生挑战和影响?1.17 ChatGPT/GPT-4对我们的启示有哪些?1.18如何从ChatGPT/GPT-4的技术方案中学习有价值的东西?1.19 如何运用基于人工智能的ChatGPT/GPT-4技术方案赋能行业智慧应用与商用落地和快速发展?模块二:架构篇-ChatGPT系统架构及工作流程 2. ChatGPT的系统架构及工作流程2.1 ChatGPT的总体技术路线是什么?2.1.1自然语言处理+搜索引擎集成架构2.1.2 GPT3.5+大型语言模型(LLM)+强化学习微调训练模型架构2.1.3 ChatGPT实现的关键要素有哪些?2.2 构建ChatGPT系统架构需要考虑哪些关键问题?2.2.1 ChatGPT技术架构的关键点是什么?2.2.2 ChatGPT预训练模型有哪些?2.2.3 ChatGPT预训练数据集有哪些?2.2.4 ChatGPT如何进行模型预训练?2.2.5 ChatGPT进行模型训练的步骤有哪些?2.3 ChatGPT的工作流程-理解ChatGPT架构的基础2.3.1 有监督微调(SFT)2.3.2 奖励模型(RM)训练2.3.3 PPO模型强化学习2.3.4 基于人类反馈的强化学习-RLHF2.3.5 例子:ChatGPT语言处理的工作流程语言处理数据流转流程:输入文本、语言识别、情感分析、信息抽取、命名实体识别、句子相似性处理、文本分类、全文搜索、文本生成、上下文管理、问题解答、输出文本2.4 GPT-4的系统架构及工作流程2.4.1 GPT-4实现的关键要素有哪些?2.4.2构建GPT-4系统架构需要考虑哪些关键问题?2.4.3 GPT-4的技术路线是什么?2.4.4 GPT-4的系统架构及组成2.4.5 GPT-4系统架构的关键点是什么?2.4.6 GPT-4的工作原理及工作流程2.4.7 GPT-4预训练模型有哪些?2.4.8 GPT-4预训练数据集有哪些?2.4.9 GPT-4如何进行模型预训练?2.4.10 GPT-4进行模型训练的步骤有哪些?2.4.11 GPT-4的工作流程2.5 ChatGPT/GPT-4的系统架构-Transformer架构2.51什么是Transformer?2.5.2 Transformer模型的作用2.5.3 Transformer总体架构及组成(1)输入部分,(2)输出部分,(3)编码器部分,(4)解码器部分2.5.4 Encoder-Decoder编码器-解码器框架2.5.5 输入部分的实现(1)文本嵌入层及作用,(2)位置编码器及作用2.5.6编码器部分的实现(1)掩码张量,(2)注意力机制,(3)多头注意力机制,(4)前馈全连接层,(5)规范化层,(6)子层连接结构,(7)编码器层,(8)编码器2.5.7解码器部分的实现(1) 解码器层,(2)解码器2.5.8 输出部分的实现(1)线性层,(2)softmax层2.5.9模型构建2.6案例分析:使用Transformer构建语言模型2.7 GPT3.5预训练模型架构2.8 大型语言模型(LLM)架构2.9 强化学习微调训练模型架构-RLHF架构2.10 ChatGPT/GPT-4应用系统架构及组成-端边网云(水平分割)2.10.1 ChatGPT/GPT-4应用终端(PC机、智能手机、PAD等)2.10.2 边缘计算(边缘算力)2.10.3 互联网/移动互联网2.10.4 云(超级计算机、超级算力)-云数据中心(Microsoft Azure、国资云(国家云)、天翼云、移动云、沃云、华为云、百度云、阿里云、腾讯云等)2.11 ChatGPT/GPT-4系统架构优化及应用推广模块三:技术篇-ChatGPT关键技术及原理详解 3. ChatGPT关键技术及原理详解3.1 ChatGPT/GPT-4的关键技术体系3.2 ChatGPT/GPT-4的技术基础-AI:人工智能3.2.1机器学习- ML3.2.2深度学习3.2.3 神经网络3.2.4自然语言处理-NLP3.2.5 人工智能生成内容-AIGC3.3 ChatGPT/GPT-4的关键技术-Transformer技术3.3.1什么是Transformer?3.3.2 Encoder-Decoder技术3.3.3 Transformer分类模型3.3.4 Transformer算法-GTP3.5预训练模型3.3.5预训练模型-自然语言理解3.3.6预训练模型-长序列建模3.3.7预训练模型-模型优化3.3.8 Transformer算法流程3.3.9 问题:Transformer算法的改进及主要优点是什么?3.4 ChatGPT的关键技术-GPT:预训练生成模型3.5 ChatGPT的关键技术-LLM:大型语言模型3.6 ChatGPT的关键技术-RLHF:基于人类反馈的强化学习3.7 ChatGPT的关键技术-数据标注3.8 GPT-4的关键技术3.8.1多模态生成模型及关键技术3.8.2预训练语言模型及关键技术3.8.3预训练图像模型及关键技术3.8.4预训练音频模型及关键技术3.8.5预训练视频模型及关键技术3.8.6多模态融合关键技术模块四:AIGC篇-AIGC概念与关键能力及创作4.AIGC概念诠释与关键能力及创作工具4.1AIGC的概念及关键能力4.1.1 什么是AIGC?4.1.2 AIGC的类型4.1.3 AIGC的关键能力4.2 AIGC的关键技术4.2.1人工智能生成文本4.2.2人工智能生成图形、图像4.2.3人工智能生成音频4.2.4人工智能生成视频4.3 AIGC的体系架构及组成4.4 AIGC的应用场景4.5 AIGC创作工具介绍模块五:大模型-ChatGPT与AIGC通用大模型5.ChatGPT与AIGC通用大模型5.1通用大模型应用现状与发展5.2国外主要通用大模型分析5.2.1Transformer语言模型架构及功能5.2.2微软旗下OpenAI大模型架构及功能5.2.3谷歌大模型架构及功能5.2.4Meta大模型架构及功能5.2.5英伟达大模型架构及功能5.2.6其他公司或机构布局5.3我国主要通用大模型分析5.3.1国内大模型发展5.3.2华为盘古大模型架构及功能5.3.3科大讯飞星火大模型架构及功能5.3.4百度文心大模型架构及功能5.3.5腾讯混元大模型架构及功能5.3.6阿里通义大模型架构及功能5.3.7其他公司或机构布局模块六:应用篇-ChatGPT/AIGC应用场景案例6. ChatGPT基本功能及使用体验6.1 ChatGPT的基本功能及特征6.2 ChatGPT的基本功能-语言处理功能及描述文本生成、文本补全、文本分类、文本校正、诗歌生成、内容创建、问答、翻译、摘要、改写、情感分析、聊天机器人等6.3 ChatGPT的高级功能-高端应用功能及描述编写和调试计算机程序、程序修改、模拟Linux系统、企业策划、方案设计、项目咨询、文学创作、撰写演讲提纲、撰写分析报告、金融分析、工业自动化、医学诊断、教育、供应链管理、销售和营销、法律应用、科学研究等。6.4 ChatGPT使用体验及效果评估7. ChatGPT/AIGC应用场景案例7.1 ChatGPT/GPT-4/AIGC应用总体思路:运用ChatGPT/GPT-4/AIGC技术方案及思想赋能行业数智化转型及落地实施7.2 ChatGPT/GPT-4/AIGC应用场景及行业领域分析7.3案例: ChatGPT+机器人场景应用方案及布局7.3.1 ChatGPT生成式预训练模型升级各行业机器人7.3.2 ChatGPT+行业机器人赋能行业应用7.4 案例:ChatGPT聊天机器人+智慧家庭应用方案及布局7.4.1 ChatGPT聊天机器人精心陪伴老人7.4.2 ChatGPT聊天机器人陪伴儿童成长7.5案例:基于ChatGPT聊天机器人的智能客服应用7.6 案例:ChatGPT/GPT-4+工业场景应用方案及布局7.6.1 ChatGPT/GPT-4+生成式预训练模型+专家系统融合应用7.6.2 ChatGPT/GPT-4+生成式预训练模型优化专家系统7.6.3 ChatGPT/GPT-4预训练优化模型提高产品质检效率6.6.4 ChatGPT/GPT-4预训练优化模型提高设备预测性维护的能力7.6.5 ChatGPT/GPT-4预训练优化模型提高设备精准故障定位的能力7.7ChatGPT/GPT-4+农业场景应用方案及布局7.8 ChatGPT/GPT-4+医疗场景应用方案及布局7.9 ChatGPT/GPT-4+教育场景应用方案及布局7.10 ChatGPT/GPT-4+金融场景应用方案及布局7.11 ChatGPT/GPT-4+展览宣传场景应用方案及布局7.12 ChatGPT/GPT-4+新媒体场景应用方案及布局模块七:算力篇-ChatGPT算力需求及算力网络 8. 算力篇-ChatGPT算力需求及算力网络8.1 人工智能(AI)复杂算法的算力需求分析8.1.1 人工智能不同算法的算力需求分析8.1.2 ChatGPT/GPT-4算力需求分析8.1.3 ChatGPT/GPT-4算力需求举例8.2算力的概念及量纲8.3 算力的分类8.3.1基础算力(基于CPU芯片)8.3.2 智能算力(基于AI芯片,包括GPU/DPU/FPGA/ASIC芯片等)8.3.3 超算算力(超级计算机、计算集群)8.3.4 量子算力(量子计算机)8.4 算效的概念8.5 综合算力(算力+存力+运力)8.6算力应用场景8.7 算力部署策略-“东数西算”工程8.7.1“东数西算”的概念8.7.2 “东数西算”的应用场景8.7.3 “东数西算”的数据处理8.7.4 “东数西算”工程总体架构(8大枢纽中心、10大数据中心集群)8.7.5数据中心业务类型8.7.6数据中心集群建设规模8.7.7 “东数西算”工程建设方案:联接力+运力+算力+智力8.8算力部署方案-算力网络8.8.1 算力网络的定义及技术特点8.8.2 算力网络与现有通信网络的区别8.8.3 算力网络的工作原理及业务流程8.8.4 算力网络的标准架构与接口8.8.5 算力网络系统架构与组成8.8.6 算力网络的建设方案8.9 基于“东数西算”工程的ChatGPT/GPT-4部署策略-安全、高可靠运行等8.9.1 西部数据中心-ChatGPT/GPT-4大模型建模与训练8.9.1 东部数据中心-ChatGPT/GPT-4推理服务等8.10 基于“算力网络”的ChatGPT/GPT-4部署策略-海量数据处理、超级算力、高可靠、低时延、安全等模块八:产业篇-AIGC/GPT产业发展及商业模式 9. AIGC/GPT产业发展及投资分析9.1 AIGC/GPT产业生态构建与参与角色9.2 AIGC/GPT涉及的上下游产业链分析9.2.1 算力相关产业分析(AI芯片/GPU/DPU/FPGA/ASIC芯片等,服务器、数据中心、云计算、边缘计算等)9.2.2 算法服务相关产业分析9.2.3 算力网络相关产业分析9.2.4自然语言处理(NLP)相关产业分析9.2.5人工智能生成内容(AIGC)相关产业分析9.2.6数据标注相关产业分析9.2.7 AIGC/GPT下游应用场景相关产业分析(智能客服、搜索引擎、图像、文字、代码生成等)9.2.8 AIGC/GPT产业发展的切入点及路径分析9.2.9 AIGC/GPT对我国AI技术和产业发展的示范效应分析9.2.10 AIGC/GPT产业发展市场前景分析9.3 AIGC/GPT产业投资机会及方向分析9.4 我国AIGC/GPT相关上市公司核心竞争力及投资分析10. AIGC/GPT商业模式及商机挖掘10.1 AIGC/GPT商业模式架构-MaaS(模型即服务)10.1.1 什么是MaaS(模型即服务)?10.1.2 MaaS(模型即服务)架构10.1.3 MaaS(模型即服务)架构基座-大模型10.1.4 MaaS(模型即服务)整体产业架构10.1.5 MaaS(模型即服务)商业模式的核心:“模型→单点工具(如ChatGPT)→应用场景”的服务路径10.2 AIGC/GPT的商业模式10.2.1 订阅制收费模式-直接收费10.2.2 通过API接口提供技术服务-赋能收费(根据API的使用量和质量级别收取费用)(1)提供大模型服务-赋能行业应用(2)许可证销售服务10.3 案例:Hugging Face商业模式10.3.1 AutoTrain模式10.3.2 Interface API & Infinity模式10.3.3 Private Hub模式10.3.4 Expert Support模式10.3 AIGC/GPT的商机挖掘-赋能行业应用
- • 刘晖:ChatGPT 引发的大模型时代变革
- 一、课纲 1天1 CHATGPT 引发人工智能投资热潮1.1CHATGPT是什么?1.2 CHATGPT 技术和传统的AI有什么区别?1.3 CHATGPT 将给行业带来哪些机会?1) 语音识别与自然语言处理行业快速发展2) 激活产业链2 数据要素资源基础,满足大模型训练需求2.1 政策引导数据要素确权使用,扫清人工智能发展障碍2.2 大数据管理能力需求提升 2.3 数据标注,是AI模型的基础2.4 案例解析1) 星环科技:平台、数据库集一身的数据要素稀缺标的2) 海天瑞声:人工智能基础数据服务提供商,产品矩阵不断丰富3 CHATGPT带来的变革-大模型算法3.1 大模型时代的引言:DoUBLE DESCENT(双下降)现象3.2 首要关键技术:TRANSFORMER模型3.3 GPT快速迭代,从GPT1.0迅速步入3.5时代." 3.4国内外 AI大模型项目百舸争流.3.5案例解析1) 商汤科技2) 科大讯飞3) 云从科技4) 依图科技5) 旷视科技4算力与网络是大模型运行的必要条件4.1大模型发展,算力需求激增4.2 GPU/GPGPU/FPGA多路线支持算力4.3 高带宽网络是对人工智能算力的重要支撑4.4 量子计算有望成为AI算力突破的"神助攻"4.5 案例解析1) 海光信息:国产CPU与GPGPU重要参与者2) 复旦微电:FPGA受益算力增长3) 中际旭创:全球光模块龙头迎来800G时代4) 联特科技:欧美中低速WDM主流供应商,数通光模块“黑马5) 天孚通信:光通信精益制造代表,光引擎、激光雷达成长速度快6) 国质量子:量子计算机已实现原型机搭建7) 浪潮信息:国内领先AI服务器厂商5 从元宇宙到大制造,大模型应用领域不断丰富5.1“生成式 A1在互联网及元宇宙应用1)“生成式 AI”在智能客服领域的潜在应用 2)“生成式AI"在搜索引擎领域的潜在应用5.2 AI赋能制造业转型升级,智能制造浪潮兴起1) 智能装备产业百花齐放,工业机器人与高端数控机床空间广阔2) 智能工厂是实现智能制造的载体,协作机器人与智能仓储物流是工厂新星5.3 AI 赋能工业互联网,打造高效率设备管理和生产流程5.4 人工智能功力汽车智能化1) 智能驾驶:从驾驶辅助到自动驾驶2) 智能座舱:从出行工具到出行管家二、授课方式理论讲授:通过讲解和演示,使学员掌握课程内容;实践操作:提供实际操作和实践的机会,使学员能够亲自动手进行实践;案例分析:通过案例分析,使学员了解课程内容的应用前景和实际效果;互动讨论:鼓励学员提问、分享经验和见解,促进知识交流与碰撞。
- • 刘晖:AI技术能力提升
- 【课程大纲】新一代人工智能内涵及概念新一代人工智能结合了多个学科的优势,具有更高的水平,以提高人的智力能力活动为主要目标,并融入日常生活。新一代人工智能最独特的优势在于能够解决不确定性问题,是开放型的人工智能。新一代人工智能是基于与出现重大变化的信息新环境和发展新目标。新一代人工智能产业的涉猎面很广,能够与三大产业融合发展,与实体经济互相融合,产生互补性创新,驱动经济发展。新一代人工智能研究现状及发展趋势(一)人工智能简要发展历程第一次浪潮:人工智能诞生并快速发展,但技术瓶颈难以突破第二次浪潮:模型突破带动初步产业化,但推广应用存在成本障碍.第三次浪潮:信息时代催生新一代人工智能,但未来发展存在诸多隐忧(二)新一代人工智能的主要驱动因素1、人机物互联互通成趋势,数据量呈现爆炸性增长2、数据处理技术加速演进,运算能力实现大幅提升3、深度学习研究成果卓著,带动算法模型持续优化4、资本与技术深度耦合,助推行业应用快速兴起(三)新一代人工智能主要发展特征1、大数据成为人工智能持续快速发展的基石2、文本、图像、语音等信息实现跨媒体交互3、基于网络的群体智能技术开始萌芽4、自主智能系统成为新兴发展方向5、人机协同正在催生新型混合智能形态人工智能使能技术人工智能应用的基础原理(一)新一代人工智能的技术演进1、从原有的 CPU 架构,转变为 GPU 并行运算架构2、从单一算法驱动,转变为数据、运算力、算法复合驱动3、从封闭的单机系统,转变为快捷灵活的开源框架4、从学术研究探索导向,转变为快速迭代的实践应用导向(二)新一代人工智能技术体系1、云计算:基础的资源整合交互平台2、大数据:提供丰富的分析、训练与应用资源3、机器学习:持续引导机器智能水平提升4、模式识别:从感知环境和行为到基于认知的决策5、人机交互:支撑实现人机物交叉融合与协同互动(三)国内外技术对比分析1、发达国家基础平台布局完善,国内仍缺乏自主核心技术2、发达国家在机器学习和人机交互领域具备先发优势,国内企业存在技术差距与人才短板3、国内外模式识别研究水平基本处于同一起跑线,重点聚焦于语音识别与图像识别人工智能应用的一般方法(一)新一代人工智能的产业边界(二)基础层1、智能传感器:智能转型引领行业发展2、智能芯片:初创企业蓄势待发3、算法模型:通过开源构建生态已是大势所趋(三)技术层…1、语音识别:正在步入应用拉动的快速增长阶段2、图像视频识别:在安防监控市场具有巨大增长潜力3、文本识别:全面进入云端互联时代(四)应用层1、智能机器人2、智能金融3、智能压疗4、智能安防5、智能驾驶6、智能搜索7、智能教育8、智能人居
添加企业微信
1V1服务,高效匹配老师
欢迎各种培训合作扫码联系,我们将竭诚为您服务