課程描述INTRODUCTION
· 高層管理者· 中層領(lǐng)導(dǎo)· 其他人員
日程安排SCHEDULE
課程大綱Syllabus
AI大模型公開課
一、培訓(xùn)特色
1.理論與實踐相結(jié)合、案例分析與實驗穿插進行;
2.專家精彩內(nèi)容解析、學(xué)員專題討論、分組研究;
3.通過全面知識理解、專題技能掌握和安全實踐增強的授課方式。
二、培訓(xùn)目標
1.整體掌握大模型理論知識;
2.了解自注意力機制、Transformer模型、BERT模型;
3.掌握GPT1、GPT2、GPT3、chatGPT原理與實戰(zhàn);
4.了解LLM應(yīng)用程序技術(shù)棧和提示詞工程Prompt Enginerring;
5.了解國產(chǎn)大模型ChatGLM;
6.了解Sora大模型技術(shù)優(yōu)勢;
7.掌握語言理解與字幕生成及其應(yīng)用;
8.掌握圖像生成和應(yīng)用實操;
9.了解應(yīng)用場景與潛力分析;
10.了解大模型企業(yè)商用項目實戰(zhàn)。
三、日程安排
第一天
預(yù)備知識
第一節(jié):大模型理論知識
1、初探大模型:起源與發(fā)展
2、GPT模型家族:從始至今
3、大模型_GPT_ChatGPT的對比介紹
4、大模型實戰(zhàn)-大模型2種學(xué)習(xí)路線的講解
5、 大模型最核心的三項技術(shù):模型、微調(diào)和開發(fā)框架
6、 0penAl GPT系列在線大模型技術(shù)生態(tài)
7、0penAl文本模型A、B、C、D四大模型引擎簡介
8、0penAl語音模型Whisper與圖像型DALL·E模型介紹
9、最強Embedding大模型text-embedding-ada模型介紹
10、全球開源大模型性能評估榜單
11、中文大模型生態(tài)介紹與GLM 130B模型介紹
12、ChatGLM模型介紹與部署門檻
13、ChatGLM開源生態(tài):微調(diào)、多模態(tài),WebUI等項目簡介
預(yù)備知識
第二節(jié):自注意力機制、Transformer模型、BERT模型RNN-LSTM-GRU等基本概念
編碼器、解碼器
自注意力機制詳解
Transformer
Mask Multi-Head Attention
位置編碼
特定于任務(wù)的輸入轉(zhuǎn)換
無監(jiān)督預(yù)訓(xùn)練、有監(jiān)督 Fine-tuning
BERT思路的理解
BERT模型下游任務(wù)的網(wǎng)絡(luò)層設(shè)計
BERT的訓(xùn)練
HuggingFace中BERT模型的推斷
基于上下文的學(xué)習(xí)
代碼和案例實踐:
基本問答系統(tǒng)的代碼實現(xiàn)
深入閱讀理解的代碼實現(xiàn)
段落相關(guān)性代碼實現(xiàn)
第一節(jié):
GPT1、GPT2、GPT3、chatGPT原理與實戰(zhàn)監(jiān)督微調(diào)(SFT)模型、
指示學(xué)習(xí)和提示學(xué)習(xí)
簡單提示、小樣本提示、基于用戶的提示
指令微調(diào)
RLLHF技術(shù)詳解(從人類的反饋中學(xué)習(xí))
聚合問答數(shù)據(jù)訓(xùn)練獎勵模型(RM)
強化學(xué)習(xí)微調(diào)、PPO、
InstructGPT遵循用戶意圖使用強化學(xué)習(xí)方案
Instruct Learning vs. Prompt Learning
ChatGPT增加增加了Chat屬性
AI 系統(tǒng)的新范式
GPT1-GPT2-GPT3-InstructGPT的-chatGPT的技術(shù)關(guān)系
代碼和案例實踐:
使用chatGPT打造你的私人聊天助理
演示提示詞技巧,翻譯器潤色器、JavaScript 控制臺?、Excel Sheet
網(wǎng)站定制chatgpt-web
第二節(jié):
Embedding模型實戰(zhàn)大模型技術(shù)浪潮下的Embedding技術(shù)定位
Embedding技術(shù)入門介紹
從Ono-hot到Embedding
Embedding文本衡量與相似度計算
OpenAl Embedding模型與開源Embedding框架
兩代OpenAl Embedding模型介紹
text-embedding-ada-002模型調(diào)用方法詳解
text-embedding-ada-002模型參數(shù)詳解與優(yōu)化策略
借助Embedding進行特征編碼
Embedding結(jié)果的可視化展示與結(jié)果分析
【實戰(zhàn)】借助Embedding特征編碼完成有監(jiān)督預(yù)測
【實戰(zhàn)】借助Embedding進行推薦系統(tǒng)冷啟動
【實戰(zhàn)】借助Embedding進行零樣本分類與文本搜索
Embedding模型結(jié)構(gòu)微調(diào)優(yōu)化
借助CNN進行Embedding結(jié)果優(yōu)化
【企業(yè)級實戰(zhàn)】海量文本的Embedding高效匹配
第三節(jié):
LLM應(yīng)用程序技術(shù)棧和提示詞工程Prompt Enginerring設(shè)計模式:上下文學(xué)習(xí)
數(shù)據(jù)預(yù)處理/嵌入
提示構(gòu)建/檢索
提示執(zhí)行/推理
數(shù)據(jù)預(yù)處理/嵌入
Weaviate、Vespa 和 Qdrant等開源系統(tǒng)
Chroma 和 Faiss 等本地向量管理庫
pgvector 等OLTP 擴展
提示構(gòu)建/檢索
提示執(zhí)行/推理
新興的大語言(LLM)技術(shù)棧
數(shù)據(jù)預(yù)處理管道(data preprocessing pipeline)
嵌入終端(embeddings endpoint )+向量存儲(vector store)
LLM 終端(LLM endpoints)
LLM 編程框架(LLM programming framework)
LangChain的主要功能及模塊
Prompts: 這包括提示管理、提示優(yōu)化和提示序列化。
LLMs: 這包括所有LLMs的通用接口,以及常用的LLMs工具。
Document Loaders: 這包括加載文檔的標準接口,以及與各種文本數(shù)據(jù)源的集成。
Utils: 語言模型在與其他知識或計算源的交互
Python REPLs、嵌入、搜索引擎等
LangChain提供的常用工具
Indexes:語言模型結(jié)合自定義文本數(shù)據(jù)
Agents:動作執(zhí)行、觀測結(jié)果,
LangChain的代理標準接口、可供選擇的代理、端到端代理示例
Chat:Chat模型處理消息
代碼和案例實踐:
LLM大模型的使用
Prompts的設(shè)計和使用
第二天
第四節(jié):LangChain的使用構(gòu)建垂直領(lǐng)域大模型的通用思路和方法
(1) 大模型+知識庫
(2) PEFT(參數(shù)高效的微調(diào))
(3) 全量微調(diào)
(4) 從預(yù)訓(xùn)練開始定制
LangChain介紹
LangChain模塊學(xué)習(xí)-LLMs 和 Prompts
LangChain之Chains模塊
LangChain之Agents模塊
LangChain之Callback模塊
Embedding嵌入
自定義知識庫
知識沖突的處理方式
向量化計算可采用的方式
文檔加載器模塊
向量數(shù)據(jù)庫問答的設(shè)計
Lanchain競品調(diào)研和分析
Dust.tt/Semantic-kernel/Fixie.ai/Cognosis/GPT-Index
LlamaIndex介紹
LlamaIndex索引
動手實現(xiàn)知識問答系統(tǒng)
代碼和案例實踐:
動手實現(xiàn)知識問答機器人
LangChain文本摘要
PDF文本閱讀問答
第五節(jié):
國產(chǎn)大模型ChatGLM新一代GLM-4模型入門介紹
智譜Al Mass開放平臺使用方法03GLM在線大模型生態(tài)介紹
CharGLM、CogView. Embedding模型介紹
GLM在線知識庫使用及模型計費說明
GLM模型API一KEY獲取與賬戶管理方法
GLM模型SDK調(diào)用與三種運行方法
GLM4調(diào)用函數(shù)全參數(shù)詳解
GLM4 Message消息格式與身份設(shè)置方法
GLM4 tools外部工具調(diào)用方法
GLM4 Function calling函數(shù)封裝12GLM4接入在線知識庫retrieval流程
GLM4接入互聯(lián)網(wǎng)web_search方法
【實戰(zhàn)】基于GLM4打造自動數(shù)據(jù)分析Agent
【實戰(zhàn)】基于GLM4的自然語言編程實戰(zhàn)
【實戰(zhàn)】基于GLM4 Function call的用戶意圖識別
【實戰(zhàn)】基于GLM4的長文本讀取與優(yōu)化
第六節(jié):
Sora大模型技術(shù)優(yōu)勢什么是Sora
Sora視頻生成能力
Sora技術(shù)獨特之處
統(tǒng)一的視覺數(shù)據(jù)表示
視頻壓縮網(wǎng)絡(luò)
擴散型變換器模型
視頻壓縮與潛在空間
第七節(jié):
語言理解與字幕生成及其應(yīng)用使用圖像和視頻作為提示詞
動畫DALL·E圖像
擴展生成的視頻
視頻到視頻編輯
連接視頻
字幕生成
重字幕技術(shù)
GPT技術(shù)應(yīng)用
第三天
第八節(jié):
圖像生成和應(yīng)用實操新興的仿真功能
長期連續(xù)性和物體持久性
角色和物體的一致性
視頻內(nèi)容的連貫性
與世界互動
簡單影響行為模擬
模擬數(shù)字世界
第九節(jié):
應(yīng)用場景與潛力分析電影與娛樂產(chǎn)業(yè)
游戲開發(fā)
教育與培訓(xùn)
廣告與營銷
科學(xué)研究與模擬
生成數(shù)據(jù)
畢業(yè)生職位分類案例研究
提示函數(shù)
FunctionCalling
提示工程在模型上的應(yīng)用
AI聊天社交應(yīng)用
CallAnnie
NewBing
AI輔助文章創(chuàng)作
迅捷AI寫作
ChibiAI
AI辦公智能助手
GrammaAI
AI藝術(shù)領(lǐng)域創(chuàng)作
第十節(jié):
大模型企業(yè)商用項目實戰(zhàn)講解使用大模型實現(xiàn)推薦系統(tǒng)(商用案例)
使用大模型實現(xiàn)汽車在線銷售系統(tǒng)
企業(yè)自然語言sql生成(企業(yè)內(nèi)部系統(tǒng)使用)
AI大模型公開課
轉(zhuǎn)載:http://www.nywlwx.com/gkk_detail/299782.html