让一部分企业先学到真知识!

叶梓:基于人工智能的内容生成(AIGC)

叶梓老师叶梓 注册讲师 365查看

课程概要

培训时长 : 6天

课程价格 : 扫码添加微信咨询

课程分类 : 人工智能

课程编号 : 9966

面议联系老师
-

适用对象

理工科本科及以上,且至少了解一门编程语言。

课程介绍

【课程简介】

无论是火遍全网的AI绘画,还是震惊世人的ChatGPT,都属于AIGC(基于人工智能的内容生成)这一概念。AIGC并不是一个全新的概念,它最早出现在深度学习模型“对抗生成网络”GAN的应用中,被誉为“21世纪最强大的算法模型之一” ,后续发展起来的扩散模型,以及自然语言领域BERT、GPT等都是典型的AIGC模型。

本课程以AIGC发展历程为主线,由浅入深介绍了AIGC相关模型的技术和应用场景,可以作为AIGC领域学习者的入门到进阶级课程。

【课程时长】

6天(6小时/天)

【课程对象】

理工科本科及以上,且至少了解一门编程语言。

【课程大纲】(培训内容可根据客户需求调整)

时间内容案例实践与练习

Day1上午

综述与准备

 

AIGC综述

  1. AIGC的概念
  2. AIGC的应用场景
  3. AIGC的知识地图

 

准备工作

  1. 概念与术语
  2. Python(Anaconda)的安装
  3. Pycharm的安装与使用
  4. Jupyter Notebook的安装与使用
  5. Tensorflow与pytorch的安装
  6. Opencv、Sklearn工具包的运用

 

案例实践:

  1. Anaconda安装
  2. Pip install的技巧
  3. Tensorflow-GPU的安装
  4. pytorch的安装
  5. Jupyter Notebook的使用
  6. Opencv的基本例子

Day1下午

基础模型

 

基础的基础:神经网络

  1. 人工神经元及感知机模型
  2. Sigmoid激活函数
  3. 前向神经网络的架构
  4. 梯度下降
  5. 误差反向传播详解

 

基础的基础:性能评价指标(5)

  1. 精确率;
  2. P、R与F1
  3. ROC与AUC
  4. 对数损失
  5. 泛化性能评价:k折验证验证

案例实践:

  1. 手算神经网络BP算法
  2. 只用numpy,手推BPNN

 

http://images.cnblogs.com/cnblogs_com/LeftNotEasy/WindowsLiveWriter/1_1270E/image_22.png

Day2上午

深度学习基础

深度学习基础

  1. 连接主义的兴衰
  2. 深度学习与神经网络的区别与联系
  3. 目标函数与激励函数
  4. 学习步长
  5. 权重初始化
  6. 权重衰减(Weight Decay)
  7. 梯度下降的方法
  8. 避免过适应

 

图像处理基础:用于分类的CNN

  1. 图像分类概述
  2. AlexNet
  3. ZF-Net
  4. 卷积层的误差反向传播
  5. 池化层的误差反向传播
  6. VGG(5层变为5组)
  7. 迁移学习
  8. GoogLenet和Inception模块
  9. 模型退化与ResNet
  10. DenseNet(充分利用特征)
  11. 最新的efficientnet

 

案例实践:

  1. 通过深度BP网络实现手写数字的识别
  2. 各种梯度下降方法的实战效果
  3. Batch normalization的实战效果
  4. VGG各层的可视化展现
  5. 迁移学习:识别猫和狗
  6. Resnet用于图像分类

https://static.leiphone.com/uploads/new/article/740_740/201708/5993e5d975da3.png?imageMogr2/format/jpg/quality/90

https://upload.wikimedia.org/wikipedia/commons/thumb/3/32/Rosenbrock_function.svg/300px-Rosenbrock_function.svg.png

Day2下午

图像生成模型

 

VAE

GAN

早期图像生成模型:VAE

  1. 图像生成模型
  2. AE
  3. VAE
  4. DAE

 

图像生成经典模型:GAN

  1. 生成对抗网络(GAN)
  2. KL散度与JS散度
  3. 改进的GAN:DCGAN
  4. 加上约束:infoGAN
  5. 根本上解决:Wasserstein GAN
  6. Zoo of GAN

案例实践:

  1. GAN生成的数字
  2. VAE生成的数字
  3. babyGAN:特朗普的孩子?
  4. styleGAN:查无此人

 

电子计算器

中度可信度描述已自动生成小孩的照片

描述已自动生成

Day3上午

图像分类 CNN

 

图像分类CNN

自然语言处理基础(1)

  1. 语言模型
  2. Bi-Gram与N-Gram
  3. 机械分词与统计分词
  4. 词性标注
  5. 命名实体识别
  6. 情感分析

 

自然语言生成基础:RNN

  1. RNN基本原理
  2. LSTM、GRU
  3. 双向循环神经网络
  4. 编码器与解码器结构
  5. seq2seq模型
  6. Attention
  7. 图片->文字的生成:NIC

 

案例实践:

  1. jieba的分词效果
  2. 交易数据的预测;
  3. 《绝代双骄》人物关系分析
  4. SnowNLP:褒义的中性词
  5. Show and tell模型效果

图表, 气泡图

描述已自动生成

Day4上午

自然语言处理

 

 

自然语言生成基础:词向量

  1. W2V:CBOW
  2. W2V:skip-gram
  3. W2V:Hierachical Softmax
  4. W2V:Negative Sampling

 

自然语言生成进阶:Transformer

  1. 所需的仅仅是“注意力”
  2. Transformer中的block
  3. 自注意力机制
  4. 多头注意力
  5. 位置编码(抛弃RNN)
  6. Batch Norm与Layer Norm
  7. 解码器的构造

 

案例实践:

  1. 藏头诗生成;
  2. 《绝代双骄》分析
  3. SnowNLP:褒义的中性词
  4. Word2vec代码解读
  5. 手撕Transformer

形状

描述已自动生成图示

描述已自动生成

Day4下午

预训练模型基础

 

自然语言生成进阶:BERT

  1. BERT整体架构
  2. Masked-LM
  3. Next Sentence Prediction
  4. 改造下游任务
  5. WordPiece作为输入
  6. 哪些改进起作用?

 

自然语言生成进阶:GPT

  1. “独角兽”的威力
  2. GPT的内部架构
  3. 基于Transformer的改造
  4. 自注意力机制的改进
  5. GPT的应用场景
  6. GPT-3
  7. 最新的GPT-3.5

 

基于图像补全的模型:MAE

  1. iGPT
  2. Vision Transformer(ViT)
  3. BEiT
  4. MAE令人惊奇的效果
  5. MAE详解

案例实践:

  1. BERT代码解读
  2. BERT下游任务的改造
  3. 让GPT写一篇散文
  4. GPT会做小学应用题吗?
  5. MAE的效果

 

Day5上午

强化学习

强化学习基础

  1. agent的属性
  2. 马尔科夫奖励/决策过程
  3. exploration and exploitation
  4. 状态行为值函数
  5. Bellman期望方程
  6. 最优策略

 

强化学习经典方法

  1. 策略迭代与价值迭代
  2. 蒙特卡洛法
  3. 时序差分法
  4. DP、MC、TD的关系

 

案例实践:

  1. 格子世界
  2. 谷底的小车
  3. 倒立摆
  4. blackjack

Day5下午

深度强化学习

深度强化学习

  1. 值函数的参数化表示
  2. 值函数的估计过程
  3. 深度学习与强化学习的结合
  4. 基础的DQN 方法
  5. Double DQN
  6. Prioritized Replay
  7. Dueling Network

 

基于信赖域的深度强化学习

  1. 信赖域系方法背景
  2. 信赖域系方法发展路线图
  3. TRPO方法
  4. PPO方法

 

案例实践:

  1. 井字棋
  2. 笨鸟先飞:DQN

Day6上午

最新生成模型

 

扩散模型(图像生成最新模型)综述

1、扩散模型与GAN、VAE的关系

2、扩散模型常用算法

3、扩散模型的应用领域

 

扩散模型之DDPM

1、整体流程

2、前向与还原步骤

3、训练与采样过程

4、模型结构

5、实验效果

 

扩散模型之DDIM

1、前提条件

2、优化推理与优化前置条件

4、实验效果

 

扩散模型之CLIP

1、基本概念

2、模型架构

3、实验效果

 

案例实践:

  1. DDPM的效果
  2. CLIP的效果

Day6下午

最新生成模型及chatGPT

 

扩散模型之DALLE-2

1、整体架构

2、PIROR模块与DECODER模块

4、效果对比

 

扩散模型之Stable-Diffusion

1、整体架构

2、潜在表达得生成模型

3、条件化机制

4、实验效果

 

chatGPT(自然语言生成最新模型)

1、技术背景

2、主要特点

3、ChatGPT的训练过程

4、InstructGPT与PPO

5、WebGPT和CICERO

6、chatGPT的应用领域

7、chatGPT引发的讨论

案例实践:

  1. 异想天开的DALL-E 2
  2. 匪夷所思的chatGPT
  3. 其他生成模型效果演示

 

叶梓老师的其他课程

• 叶梓:ChatGPT原理与实践
【课程简介】本课程旨在通过实际案例展示ChatGPT相关模型的具体应用场景及实践技巧,从而帮助学习者深入了解和掌握ChatGPT的概念和更广泛的应用,深入理解其工作方式,包括其基础知识、核心算法和实现方式,掌握其在各行业领域中的应用情况等。该课程适合于对ChatGPT技术感兴趣的学习者,从初学者到进阶者均可受益。经过本课程的学习,获得相关技术实战经验,通过一系列的实践案例提高利用chatGPT解决实际问题能力。【课程时长】2天(6小时/天)【课程对象】理工科本科及以上,且至少了解一门编程语言。【课程大纲】(培训内容可根据客户需求调整)Day1上午Transformer基础1、你需要的仅仅是“注意力”2、Transformer中的block3、自注意力机制4、多头注意力5、位置编码(抛弃RNN)6、Batch Norm与Layer Norm7、解码器的构造初代GPT“独角兽”的威力GPT的内部架构基于Transformer的改造自注意力机制的改进GPT的演进1、GPT22、GPT33、GPT3.5案例实践与练习Day1下午强化学习基础马尔科夫奖励/决策过程状态行为值函数Bellman方程DP、MC、TD三者的关系策略梯度方法信赖域系方法背景PPO方法chatGPT的原理介绍1、指示学习与InstructGPT2、相关数据集3、有监督微调(SFT)4、从人类反馈中RL的思路5、奖励建模(RM)6、PPO案例实践与练习Day2上午训练自用的chatGPT1、基于chatGLM的微调2、LoRA3、Prefix Tuning4、P-Tuning5、Prompt Tuning6、权重量化7、构建训练数据集羊驼系列大模型1、LLaMA2、Alpaca3、BELLE4、RedPajama 数据集Day2下午chatGPT及其各种仿制品1、chatGPT的实测效果2、文心一言与文心一格3、ChatGPT的其他平替4、ChatExcel5、ChatPDFchatGPT的领域应用1、IT领域2、金融、保险领域3、医疗卫生领域4、教育领域
• 叶梓:Python、知识图谱与深度学习培训
【课程简介】人工智能的浪潮正在席卷全球,各种培训课程应运而生,但真正能让学员系统、全面掌握知识点,并且能学以致用的实战课程并不多见。本课程包含基于python的数据分析、深度学习、知识图谱和的重要概念及常用算法(决策树、关联规则、聚类、贝叶斯网络、神经网络、支持向量机、隐马尔科夫模型、遗传算法、CNN、RNN、GAN等),以及人工智能领域当前的热点。通过8天的系统学习、案例讲解和动手实践,让学员能初步迈入机器学习、深度学习和知识图谱的知识殿堂。【课程收益】掌握Python开发技能;掌握深度学习工具:TensorFlow、Keras、pytorch等;掌握基于python的数据分析知识;掌握数据挖掘与机器学习进阶知识;掌握深度学习的理论与实践;掌握知识图谱基本知识;为学员的后续项目应用提供针对性的建议。【课程特点】本课程力图理论结合实践,强调从零开始,重视动手实践;课程内容以原理讲解为根本,以应用落地为目标。课程通过大量形象的比喻和手算示例来解释复杂的机器学习理论,既能将原理充分讲懂讲透,也避免了繁复而枯燥的公式推导。【课程对象】计算机相关专业本科;或理工科本科,且至少熟悉一门编程语言。【主讲专家】叶梓,博士、高级工程师。2005年上海交通大学计算机专业博士毕业,主研方向为数据挖掘、机器学习、人工智能等。现为某大型上市软件企业的人工智能团队技术负责人。曾主持设计并搭建上海市卫计委卫生大数据平台、无锡市卫生大数据平台,在大数据、人工智能应用等方面有着丰富的工程实践经验。先后在SCI或EI期刊上发表论文4篇,在中文核心期刊上发表论文近20篇,并被百度学术收录。2011年获中国医院协会科技创新一等奖。【学员基础】具备初步的IT基础知识【课程大纲】(培训内容可根据客户需求调整) 时间内容案例实践与练习Day1上午基于python的实验环境 实验环境搭建anaconda包的安装pip install的技巧通过anaconda配置多个环境Jupyter Notebook的使用绘图工具包matplotlibopencv的安装Tensorflow的安装Pytorch的安装paddlepaddle的安装 案例实践:python安装opencv安装与验证Tensorflow安装与验证Pytorch安装与验证paddlepaddle安装与验证 Day1下午Python基础 Python开发概述Python的基本语法引入外部包常用的数据结构定义函数Python中的面向对象编程文件读写访问数据库 数据预处理数据清理规范化模糊集粗糙集无标签时:PCA有标签时:Fisher线性判别数据压缩(DFT、小波变换) 回归与时序分析线性回归非线性回归logistics回归 案例实践:PCA的实验DFT的实验回归的实验 Day2上午基于python的数据分析 决策树模型分类和预测熵减过程与贪心法ID3C4.5其他改进方法决策树剪枝 聚类监督学习与无监督学习K-means与k-medoids层次的方法基于密度的方法基于网格的方法孤立点分析 案例实践:决策树的实验鸢尾花数据的聚类手肘法分析NBA球队的最佳聚类个数各种聚类方式的图形化展示 Day2下午基于python实现的经典算法 关联规则频繁项集支持度与置信度提升度Apriori性质连接与剪枝 性能评价指标(5)精确率;P、R与F1ROC与AUC对数损失泛化性能评价:k折验证验证 案例实践:超市购物篮——关联规则分析朴素贝叶斯案例:皮马印第安人患糖尿病的风险Day3上午知识图谱概念 知识图谱综述自然语言处理概念回顾知识表示与知识抽取面向非结构化的数据知识抽取实体消歧与链接图数据库介绍实体对齐方法知识融合知识推理、搜索与知识问答 早期知识图谱概念知识推理本体推理方法本体推理工具语义搜索RDF与RDFSOWL与OWL2SPARQL 实践:Neo4j的安装知识推理模型 Day3下午知识图谱存储 知识图谱存储知识存储模型图数据库选型Neo4j开发环境部署Neo4j-可视化操作Neo4j-CQL语法基础Neo4j-完整案例操作实战Neo4j系统管理Python与Neo4j的集成 实践:Neo4j的安装Neo4j的基本操作基于Neo4j的查询Python与Neo4j的集成Day4上午知识图谱自动抽取 知识图谱自动抽取面向文本的知识抽取DeepDive关系抽取实践开放域关系抽取实体消歧与链接知识规则挖掘知识图谱表示学习 基于DL的知识图谱自动抽取基于深度学习的实体识别基于深度学习的属性链接 实践:基于百科数据的知识抽取知识抽取的DL模型 Day4下午KBQA完整体系 KBQA完整体系知识问答系统知识问答系统基本流程知识问答系统主流方法开源的问答系统基于知识图谱问答系统 综合案例完整的基于KG的问答系统(KBQA)Day5上午深度学习基础 BP神经网络人工神经元及感知机模型Sigmoid激活函数前向神经网络的架构梯度下降误差反向传播详解 支持向量机“双螺旋”问题基本模型与惩罚项求解对偶问题核函数:映射到高维从二分类到多分类用于连续值预测的支持向量机 案例实践:皮马印第安人糖尿病风险:验证多种模型绘制ROC并计算AUC手算神经网络BP算法只用numpy,手推BPNN Day5下午深度学习基础与CNN 深度学习基础连接主义的兴衰深度学习与神经网络的区别与联系目标函数与激励函数学习步长权重初始化权重衰减(Weight Decay)梯度下降的方法:Adagrad \ RMSprop \ Adam避免过适应 图像分类CNN图像分类概述AlexNet与ZF-Net卷积层的误差反向传播池化层的误差反向传播VGG(5层变为5组)迁移学习GoogLenet和Inception模块模型退化与ResNetDenseNet(充分利用特征)最新的efficientnet 案例实践:SVM实现人脸识别应用通过深度BP网络实现手写数字的识别各种梯度下降方法的实战效果Batch normalization的实战效果 案例实践:VGG各层的可视化展现迁移学习:识别猫和狗Resnet用于图像分类  Day6上午目标检测 二阶段目标检测目标检测项目介绍R-CNNSPPNET(全图卷积、SPP层)Fast-RCNN(多任务)Faster-RCNN(RPN)R-FCN 一阶段目标检测(2)SSDYOLO-v1(一切都是回归)YOLO -v2(9000)YOLO -v3(多尺度)YOLO -v4YOLO -v5 案例实践:基于Faster-RCNN的通用目标检测示例改造成“血细胞识别”系统 Day6下午图像分割与NLP初步 图像分割(3)全卷积网络(FCN)上采样的三种实现方式膨胀卷积CRFDeepLab V1~V3 自然语言处理初步(2)语言模型Bi-Gram与N-Gram机械分词与统计分词词性标注命名实体识别情感分析;案例实践:基于YOLO v3的通用目标快速检测示例基于YOLO v3的视频检测基于YOLO v5的目标检测DeepLab的示例 Day7上午RNN与W2V  循环神经网络(1)RNN基本原理LSTM、GRU双向循环神经网络编码器与解码器结构seq2seq模型AttentionNIC模型 词向量(3)W2V:CBOWW2V:skip-gramW2V:Hierachical SoftmaxW2V:Negative Sampling 案例实践:股票交易数据的预测;藏头诗生成;《绝代双骄》中,谁和小鱼儿最相似?SnowNLP:褒义的中性词Word2vec代码解读  Day7下午预训练模型基础 Transformer所有你需要的仅仅是“注意力”Transformer中的block自注意力机制多头注意力位置编码(抛弃RNN)Batch Norm与Layer Norm解码器的构造 BERTBERT整体架构Masked-LMNext Sentence Prediction改造下游任务WordPiece作为输入哪些改进起作用? 案例实践:手推TransformerBERT代码解读BERT下游任务的改造 Day8上午GPT、GAN GPT“独角兽”的威力GPT的内部架构基于Transformer的改造自注意力机制的改进GPT的应用场景最新的GPT-3 GAN生成对抗网络(GAN)KL散度与JS散度改进的GAN:DCGAN加上约束:infoGAN根本上解决:Wasserstein GAN案例实践:实现一个对话机器人让GPT写一篇散文 案例实践:计算机想象的数字特朗普的孩子 Day8下午强化学习  强化学习初步agent的属性马尔科夫奖励/决策过程exploration and exploitation状态行为值函数Bellman期望方程最优策略策略迭代与价值迭代蒙特卡洛时序差分法 深度强化学习值函数的参数化表示值函数的估计过程深度学习与强化学习的结合基础的DQN 方法Double DQNPrioritized ReplayDueling Network 案例实践:格子世界机器人走迷宫谷底的小车倒立摆笨鸟先飞:DQN  【授课环境】讲课环境要能上网
• 叶梓:Python深度学习与知识图谱培训 (基础部分)
【课程简介】人工智能的浪潮正在席卷全球,各种培训课程应运而生,但真正能让学员系统、全面掌握知识点,并且能学以致用的实战课程并不多见。本课程包含基于python的数据分析、深度学习的重要概念及常用算法(决策树、关联规则、聚类、贝叶斯网络、神经网络、支持向量机、隐马尔科夫模型、遗传算法、CNN等),以及人工智能领域当前的热点。通过3天的系统学习、案例讲解和动手实践,让学员能初步迈入机器学习、深度学习的知识殿堂。【课程收益】掌握Python开发技能;掌握深度学习工具:TensorFlow、Keras、pytorch等;掌握基于python的数据分析知识;掌握数据挖掘与机器学习进阶知识;掌握深度学习的基础理论与实践;【课程特点】本课程力图理论结合实践,强调从零开始,重视动手实践;课程内容以原理讲解为根本,以应用落地为目标。课程通过大量形象的比喻和手算示例来解释复杂的机器学习理论,既能将原理充分讲懂讲透,也避免了繁复而枯燥的公式推导。【课程对象】计算机相关专业本科;或理工科本科,且至少熟悉一门编程语言。【主讲专家】叶梓,博士、高级工程师。2005年上海交通大学计算机专业博士毕业,主研方向为数据挖掘、机器学习、人工智能等。现为某大型上市软件企业的人工智能团队技术负责人。在大数据、人工智能应用等方面有着丰富的工程实践经验。先后在SCI或EI期刊上发表论文4篇,在中文核心期刊上发表论文近20篇,并被百度学术收录。【学员基础】具备初步的IT基础知识【课程大纲】(培训内容可根据客户需求调整)时间内容案例实践与练习Day1上午基于python的实验环境 实验环境搭建anaconda包的安装pip install的技巧通过anaconda配置多个环境Jupyter Notebook的使用绘图工具包matplotlibopencv的安装Tensorflow的安装Pytorch的安装paddlepaddle的安装 案例实践:python安装opencv安装与验证Tensorflow安装与验证Pytorch安装与验证paddlepaddle安装与验证 Day1下午Python基础 Python开发概述Python的基本语法引入外部包常用的数据结构定义函数Python中的面向对象编程文件读写访问数据库 数据预处理数据清理规范化无标签时:PCA有标签时:Fisher线性判别数据压缩(DFT、小波变换) 回归与时序分析线性回归非线性回归logistics回归 案例实践: 元组、列表、字典、集合PCA的实验DFT的实验回归的实验Day2上午基于python的数据分析 决策树模型分类和预测熵减过程与贪心法ID3C4.5其他改进方法决策树剪枝 聚类监督学习与无监督学习K-means与k-medoids层次的方法基于密度的方法基于网格的方法孤立点分析 案例实践:决策树的实验鸢尾花数据的聚类手肘法分析NBA球队的最佳聚类个数各种聚类方式的图形化展示 Day2下午基于python实现的经典算法 关联规则频繁项集支持度与置信度提升度Apriori性质连接与剪枝 性能评价指标(5)精确率;P、R与F1ROC与AUC对数损失泛化性能评价:k折验证验证 案例实践:超市购物篮——关联规则分析皮马印第安人患糖尿病的风险Day3上午深度学习基础 BP神经网络人工神经元及感知机模型Sigmoid激活函数前向神经网络的架构梯度下降误差反向传播详解 支持向量机“双螺旋”问题基本模型与惩罚项求解对偶问题核函数:映射到高维从二分类到多分类用于连续值预测的支持向量机 案例实践:皮马印第安人糖尿病风险:验证多种模型绘制ROC并计算AUC手算神经网络BP算法只用numpy,手推BPNNSVM实现人脸识别应用  Day3下午深度学习基础与CNN 深度学习基础连接主义的兴衰深度学习与神经网络的区别与联系目标函数与激励函数学习步长权重初始化权重衰减(Weight Decay)梯度下降的方法:Adagrad \ RMSprop \ Adam避免过适应 图像分类CNN图像分类概述AlexNet与ZF-NetVGG(5层变为5组)迁移学习GoogLenet和Inception模块模型退化与ResNetDenseNet(充分利用特征)最新的efficientnet 案例实践:通过深度BP网络实现手写数字的识别各种梯度下降方法的实战效果Batch normalization的效果 案例实践:VGG各层的可视化展现迁移学习:猫狗大战Resnet用于图像分类【授课环境】讲课环境要能上网

添加企业微信

1V1服务,高效匹配老师
欢迎各种培训合作扫码联系,我们将竭诚为您服务