课时01

微调、提示词工程、RAG 均为提高大模型质量的技术手段

更新时间：2024-08-22

课时02

传统大模型训练（微调）流程

更新时间：2024-08-22

课时03

微调与 RAG 区别、微调的优势

更新时间：2024-08-22

课时04

指令数据集构造方式

更新时间：2024-08-22

课时05

PEFT 与传统微调区别、PEFT 不同方法

更新时间：2024-08-22

课时06

模块导入与加载数据集

更新时间：2024-08-23

课时07

分词器的加载与使用

更新时间：2024-08-23

课时08

构建训练所需样本格式

更新时间：2024-08-23

课时09

调用封装好的函数对数据预处理

更新时间：2024-08-23

课时10

加载模型、统计模型参数量

更新时间：2024-08-23

课时11

Bitfit 算法实现

更新时间：2024-08-23

课时12

配置训练参数、创建训练器及训练

更新时间：2024-08-23

课时13

查看显存在程序执行过程中的变化

更新时间：2024-08-23

课时14

理解 Soft Prompt Learning

更新时间：2024-08-26

课时15

Task-Specific Soft Prompt

更新时间：2024-08-26

课时16

Virtual Tokens 的初始化

更新时间：2024-08-26

课时17

Virtual Tokens 的训练

更新时间：2024-08-26

课时18

高效的多任务 Serving

更新时间：2024-08-26

课时19

Prompt Tuning 的特性及优缺点

更新时间：2024-08-26

课时20

实战创建 config 和 peft 模型

更新时间：2024-08-27

课时21

输入文本作为初始化参数以及训练

更新时间：2024-08-27

课时22

使用模型进行推理

更新时间：2024-08-27

课时23

加载已有 checkpoint 进行模型推理

更新时间：2024-08-27

课时24

理解 P-Tuning

更新时间：2024-08-29

课时25

设置 PromptEncoderConfig 与查看 PromptEncoder 源码

更新时间：2024-08-29

课时26

P-Tuning 模型训练和推理

更新时间：2024-08-29

课时27

掌握 Prefix-tuning 原理

更新时间：2024-08-29

课时28

Prefix-tuning 只会影响 MHA 中的 K 和 V

更新时间：2024-08-29

课时29

Prefix-tuning 配置以及模型训练

更新时间：2024-08-29

课时30

LoRA 的设计思想是学习 ΔW

更新时间：2024-08-30

课时31

Low-Rank 低秩分解与上线时的模型融合

更新时间：2024-08-30

课时32

LoRA 配置与模型训练

更新时间：2024-08-30

课时33

用一张图总结讲过的 PEFT 方法

更新时间：2024-09-02

课时34

理解 IA3

更新时间：2024-09-02

课时35

IA3 代码实战

更新时间：2024-09-02

课时36

自定义模型的 PEFT 微调

更新时间：2024-09-02

课时37

多适配器的加载

更新时间：2024-09-02

课时38

多适配器间切换

更新时间：2024-09-02

课时39

禁用适配器以得到原始模型输出

更新时间：2024-09-02

课时40

适配器与大模型的 merge 融合

更新时间：2024-09-03