刘晖：生成式大模型安全与隐私

一、课纲   

1 生成式大模型的发展之路

1.1. ChatGPT 和GPT4 的前身

1.1.1 GPT1 

1.1.2 GPT2 

1.1.3 GPT3

1.1.4 GPT3.5

1.1.5 InstructGPT

1.1.6 Google Bert

1.2. ChatGPT 和GPT4 

1.2.1 ChatGPT

1.2.2 GPT4

1.3. ChatGPT 和GPT4 之后发布的模型

1.3.1 Facebook：LLaMa

1.3.2 Stanford：Alpaca

1.3.3 百度：文心一言

1.3.4 阿里：通义千问

1.3.5 清华：ChatGLM

2 生成式大模型引发的变革

2.1. 应用1：助力人机交互

2.2. 应用2：助力信息资源管理

2.3. 应用3：助力科学研究

2.4. 应用4：助力内容创作

3 生成式大模型存在的安全问题

3.1. 生成式大模型的数据安全

3.1.1 生成式大模型使用过程中显式的隐私信息泄露

3.1.2 生成式大模型使用过程中隐式的隐私信息泄露

3.2. 生成式大模型的使用规范

3.2.1 生成式大模型被用于虚假和恶意信息/软件编写

3.2.2 生成式大模型违反当地法律法规

3.2.3 生成式大模型没有预警机制

3.2.4 生成式大模型安全优化不涉及灰色地带

3.3. 生成式大模型的可信和伦理问题

3.3.1 生成式大模型的可信问题

3.3.2 生成式大模型的伦理问题

3.4. 生成式大模型的产权问题

3.4.1 生成式大模型生成作品的著作权问题

3.4.2 生成式大模型生成作品的侵权

3.4.3 生成式大模型生成作品的维权

3.5. 生成式大模型的模型安全

3.5.1 模型窃取攻击

3.5.2 数据窃取攻击

3.5.3 对抗攻击

3.5.4 后门攻击

3.5.5 Prompt 攻击

3.5.6 数据投毒

4 生成式大模型存在的安全与隐私建议

4.1. 保护数据隐私的建议

4.2. 模型安全问题的建议

4.3. 模型合规性问题的建议

5 AGI 的展望和安全规划

二、授课方式

理论讲授：通过讲解和演示，使学员掌握课程内容；

实践操作：提供实际操作和实践的机会，使学员能够亲自动手进行实践；

案例分析：通过案例分析，使学员了解课程内容的应用前景和实际效果；

互动讨论：鼓励学员提问、分享经验和见解，促进知识交流与碰撞。