首页
新闻资讯
免费课程
AI办公
AIGC
视频剪辑
新媒体运营
UI/UE设计
JAVA
嵌入式开发
首页
新闻资讯
免费课程
AI办公
AIGC
视频剪辑
新媒体运营
UI/UE设计
JAVA
嵌入式开发
登录
注册
登录
注册
AI大模型微调课
第86任务： 05使用deepspeed命令进行ZeRO2和ZeRO1训练
查看课程
任务列表
第1任务： 01课程安排解读及前置知识说明
第2任务： 02机器学习概述
第3任务： 03机器学习常见算法
第4任务： 04本章总结及作业、笔记
第5任务： 01深度学习概述
第6任务： 02神经网络的结构及关键部分详解
第7任务： 03实战案例
第8任务： 04本章总结及作业要求
第9任务： 01卷积神经网络概述
第10任务： 02卷积神经网络结构和工作原理
第11任务： 03循环神经网络
第12任务： 04本章总结及作业
第13任务： 01Seq2Seq模型原理详解
第14任务： 02Transformer模型详解
第15任务： 03Attention机制
第16任务： 04本章总结及知识回顾
第17任务： 01语言模型及发展历程简介
第18任务： 02语言模型发展历程详解
第19任务： 03常用预训练方法简介
第20任务： 04BERT模型及其原理、GPT模型及其原理
第21任务： 05本章总结及知识回顾
第22任务： 01本地环境介绍及云平台操作演示
第23任务： 02Hugging Face及Transformers库简介
第24任务： 03ModelScope介绍及AutoDL下载模型演示
第25任务： 04大模型加载及调用演示详解
第26任务： 05本章总结
第27任务： 01大模型本地化部署(上)
第28任务： 02大模型本地化部署(下)
第29任务： 03量化推理实战
第30任务： 04部署及实战总结
第31任务： 01通用大模型介绍
第32任务： 02垂直领域大模型介绍
第33任务： 03大模型微调应用场景（上）
第34任务： 04大模型微调应用场景（下）及小结
第35任务： 01Fine-Tuning原理
第36任务： 02大模型微调方法
第37任务： 03微调实战案例：模型下载及数据预处理
第38任务： 04微调实战案例：模型构建、训练及验证
第39任务： 01T5类大模型简介及案例演示
第40任务： 02GPT类大模型简介及案例演示
第41任务： 03GLM类大模型简介及案例演示
第42任务： 04本章总结及模型架构详解
第43任务： 01指令微调原理与案例
第44任务： 02PEFT微调原理
第45任务： 03BERT模型的全参微调回顾
第46任务： 04PEFT微调BERT模型实战（上）
第47任务： 05PEFT微调BERT模型实战（下）
第48任务： 01 GPT系列模型回顾
第49任务： 02 GPT-2模型微调实战-模型加载及介绍
第50任务： 04 本章总结
第51任务： 03 GPT-2模型微调实战-模型微调
第52任务： 01LLaMA-Factory概述
第53任务： 02LLaMA-Factory安装实战及核心功能讲解
第54任务： 03LLaMA-Factory全参微调实战
第55任务： 04本章总结
第56任务： 01LLaMA-Factory的数据格式
第57任务： 02LLaMA-Factory的LoRA微调实战（上）
第58任务： 03LLaMA-Factory的LoRA微调实战（中）
第59任务： 04LLaMA-Factory的LoRA微调实战（下）
第60任务： 01 SWIFT框架概述及框架安装
第61任务： 02 SWIFT框架自我认知实战-初始模型推理演示
第62任务： 03 SWIFT框架自我认知实战-微调及推理验证
第63任务： 04 本章总结
第64任务： 01预训练数据集构建流程介绍
第65任务： 02数据集预处理及预训练环境搭建
第66任务： 03预训练实战
第67任务： 04本章总结及问题解答
第68任务： 01SFT知识回顾
第69任务： 02SFT数据集构建流程
第70任务： 03SFT微调实战（上）
第71任务： 04SFT微调实战（下）
第72任务： 01 RLHF和DPO原理介绍
第73任务： 02 偏好数据集构建流程
第74任务： 03 RLHF微调实战演示
第75任务： 04 DPO微调实战演示
第76任务： 05 本章总结
第77任务： 01 MMLU测评介绍
第78任务： 02 PPO和DPO实战补充讲解
第79任务： 03 MMLU测评实战演示
第80任务： 04 CMMLU测评介绍及实战演示
第81任务： 05 C-Eval测评介绍及实战演示
第82任务： 06 本章总结
第83任务： 01deepspeed概述
第84任务： 02deepspeed配置
第85任务： 03使用deepspeed命令进行ZeRO3训练与模型测评
第86任务： 05使用deepspeed命令进行ZeRO2和ZeRO1训练
第87任务： 06使用deepspeed命令进行ZeRO2-offload训练
第88任务： 05使用deepspeed命令进行ZeRO2和ZeRO1训练
第89任务： 07通过配置文件使用deepspeed
第90任务： 08本章总结
第91任务： 01 Llama3模型架构详解
第92任务： 02 数据预处理-格式转换
第93任务： 03 分布式微调实操-lora微调
第94任务： 04 分布式微调实操-全参微调尝试
第95任务： 05 本章总结
第96任务： 01Llama3架构等知识回顾
第97任务： 02微调代码详解
第98任务： 03微调代码实操-推理代码编写
第99任务： 04微调代码实操-微调代码编写及本章总结
第100任务： 03多模态大模型微调实战演示及本章总结
第101任务： 01 多模态大模型特点及架构回顾
第102任务： 02 并行微调实操-第一次ZeRO3微调
第103任务： 03 并行微调实操-第二次ZeRO3微调
第104任务： 04 并行微调实操-ZeRO2微调及评估
第105任务： 05 本章总结
第106任务： 01 人工智能及DeepSeek
第107任务： 02 DeepSeek发展脉络
第108任务： 03 模型创新点解读
第109任务： 01 Ollama可视化本地部署及环境介绍
第110任务： 02 模型部署
第111任务： 03 前端展示
第112任务： 04 Deepseek生产环境部署方案
第113任务： 05 vLLM推理云部署
第114任务： 01 大模型微调概述
第115任务： 02 框架安装及模型下载
第116任务： 03 自我认知微调实战演示
第117任务： 01 DeepSeek微调概述
第118任务： 02 微调框架安装及模型下载
第119任务： 03 基于LLaMA Factory的DeepSeek微调
第120任务： 04 基于Unsloth的DeepSeek微调
第121任务： 01 大模型蒸馏概述
第122任务： 02 实验环境介绍及安装
第123任务： 03 模型蒸馏实战演示
