【課程簡介】

課時(shí)：200h

上課形式：線上

【適合人群】

軟件工程師

懂至少一門編程語言，通過學(xué)習(xí)，在實(shí)際項(xiàng)目中應(yīng)用大模型技術(shù)提升產(chǎn)品的智能化水平。

產(chǎn)品經(jīng)理

結(jié)合 A 工具，為業(yè)務(wù)賦能。

人工智能愛好者

對(duì)AI有強(qiáng)烈的興趣，想提升對(duì)A1的認(rèn)知，用輔助提升幫貢效率。

算法工程師

了解機(jī)器學(xué)習(xí)/深度學(xué)習(xí)基本概念的在職算法工程師，有助于更深入地理解大模型的原理、應(yīng)用和開發(fā)技術(shù)。

創(chuàng)意工作者

通過學(xué)習(xí)AI技術(shù)，他們可以將自己的創(chuàng)意與AI技術(shù)相結(jié)合，創(chuàng)作出更具創(chuàng)新性和藝術(shù)性的作品。

【培訓(xùn)目標(biāo)】

【課程階段】

核心內(nèi)容：

從網(wǎng)站里提取早期NLP發(fā)展知識(shí)，著重講解傳統(tǒng)NLP 算法在文本處理中的應(yīng)用，如詞法分析、句法分析等。介紹機(jī)器學(xué)習(xí)、深度學(xué)習(xí)基礎(chǔ)概念，以及深度學(xué)習(xí)框架PyTorch和TensorFlow 的基礎(chǔ)使用，讓學(xué)員初步掌握工具操作。

課程收益：

了解 AI技術(shù)發(fā)展源頭，搭建起基礎(chǔ)技術(shù)認(rèn)知，能夠運(yùn)用基礎(chǔ)工具和算法開展簡單文本處理任務(wù)，為深入學(xué)習(xí)大模型做好鋪墊。

核心內(nèi)容：

圍繞網(wǎng)站中的 Transformer 架構(gòu)、GPT 系列、BERT 模型展開深入剖析，包括模型結(jié)構(gòu)、訓(xùn)練機(jī)制等。學(xué)習(xí)0penAl的發(fā)展規(guī)劃，探究模型發(fā)展背后的戰(zhàn)略布局。講解開源社區(qū)(如 Hugging Face)在模型開發(fā)和應(yīng)用中的角色，開展基于開源資源的模型搭建與微調(diào)實(shí)踐。

課程收益：

透徹理解主流模型工作原理，把握模型發(fā)展趨勢學(xué)會(huì)利用開源資源高效開發(fā)模型，提升模型開發(fā)能力，融入模型開發(fā)的開源生態(tài)。

核心內(nèi)容：

大模型開發(fā)實(shí)戰(zhàn)內(nèi)容，開展基于ChatGPT的智能翻譯助手開發(fā)，以及大模型插件開發(fā)等實(shí)踐。在自然語言處理和計(jì)算機(jī)視覺領(lǐng)域，結(jié)合實(shí)際場景進(jìn)行應(yīng)用開發(fā)，如智能客服系統(tǒng)、圖像識(shí)別應(yīng)用等，強(qiáng)調(diào)多模態(tài)數(shù)據(jù)融合應(yīng)用。

課程收益：

積累豐富的大模型應(yīng)用開發(fā)經(jīng)驗(yàn)，掌握實(shí)際項(xiàng)目開發(fā)流程，能夠開發(fā)出創(chuàng)新性的大模型應(yīng)用，滿足企業(yè)對(duì)大模型應(yīng)用的實(shí)際需求。

核心內(nèi)容：

學(xué)習(xí)大模型核心硬件選型，了解硬件對(duì)模型訓(xùn)練和應(yīng)用的影響。深入研究從0到1訓(xùn)練私有大模型的方法，如DPO、PPO訓(xùn)練方法，分析Auto-GPT等前沿模型。探討大模型倫理安全、新興技術(shù)結(jié)合應(yīng)用。

課程收益：

具備從硬件到軟件全方位開發(fā)大模型的能力，掌握訓(xùn)練私有大模型技術(shù)，緊跟前沿技術(shù)動(dòng)態(tài)，增強(qiáng)在前沿大模型技術(shù)領(lǐng)域的競爭力。

【課程大綱】

早期 NLP 與機(jī)器學(xué)習(xí)基礎(chǔ)：

早期NLP 技術(shù)，如規(guī)則引擎用于詞性識(shí)別、詞干提取，有限狀態(tài)自動(dòng)機(jī)進(jìn)行文本分詞和模式匹配，依存語法和短語結(jié)構(gòu)語法分析句子結(jié)構(gòu)與文本分類。

機(jī)器學(xué)習(xí)各類算法，包括監(jiān)督學(xué)習(xí)(線性回歸、邏輯回歸、決策樹)、無監(jiān)督學(xué)習(xí)(K-Means 聚)、半監(jiān)督學(xué)習(xí)的原理與應(yīng)用場景。

深度學(xué)習(xí)基礎(chǔ)與框架入門：

深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，如前饋神經(jīng)網(wǎng)絡(luò)、激活函數(shù)作用，反向傳播算法計(jì)算過程。

PyTorch 和 TensorFlow 深度學(xué)習(xí)框架，包括張量操作、計(jì)算圖原理，搭建手寫數(shù)字識(shí)別CNN模型，模型訓(xùn)練參數(shù)設(shè)置、優(yōu)化器使用及評(píng)估指標(biāo)分析。

主流模型架構(gòu)剖析：

Transformer架構(gòu)，涵蓋多頭注意力機(jī)制計(jì)算、位置編碼方式，編碼器、解碼器結(jié)構(gòu)及應(yīng)用原理。

GPT 系列架構(gòu)演進(jìn)、自監(jiān)督學(xué)習(xí)應(yīng)用，BERT 預(yù)訓(xùn)練任務(wù)及下游任務(wù)微調(diào)方法。

開源生態(tài)與工具應(yīng)用：

OpenAl發(fā)展歷程、技術(shù)商業(yè)戰(zhàn)略，了解行業(yè)發(fā)展趨勢。

Hugging Face模型庫與Transformers庫使用，基于開源工具進(jìn)行文本分類模型微調(diào)與部署。

大模型應(yīng)用開發(fā)實(shí)戰(zhàn)：

ChatGPT AP| 申請與 Python 調(diào)用，開發(fā)智能翻譯助手并優(yōu)化提示工程。

大模型插件開發(fā)，包括插件概念、開發(fā)流程，實(shí)現(xiàn)知識(shí)圖譜查詢插件，進(jìn)行個(gè)性化推薦插件開發(fā)與用戶數(shù)據(jù)分析。

多模態(tài)應(yīng)用開發(fā)，如文本與圖像、語音融合方法，開發(fā)多模態(tài)智能客服系統(tǒng)并優(yōu)化性能。

私有模型訓(xùn)練與硬件選型

GPU、TPU 性能特點(diǎn)與適用場景，硬件參數(shù)對(duì)模型訓(xùn)練的影響及配置建議。

DPO、PPO 訓(xùn)練方法原理與流程，數(shù)據(jù)收集、預(yù)處理及模型訓(xùn)練全流程，模型初始化與訓(xùn)練效果優(yōu)化。

前沿技術(shù)探索：

Auto-GPT 架構(gòu)與自主決策機(jī)制，分析前沿模型發(fā)展。

量子計(jì)算在大模型訓(xùn)練中的應(yīng)用，探討新興技術(shù)融合。

大模型倫理安全問題與解決方法，提升風(fēng)險(xiǎn)意識(shí)。

行業(yè)案例與知識(shí)整合：

金融、醫(yī)療、教育領(lǐng)域大模型應(yīng)用案例分析，進(jìn)行需求分析、技術(shù)選型、部署及優(yōu)化經(jīng)驗(yàn)總結(jié)。

課程重點(diǎn)知識(shí)梳理，小組經(jīng)驗(yàn)分享，整合知識(shí)體系。

行業(yè)專家分享新發(fā)展趨勢與人才需求，把握行業(yè)動(dòng)態(tài)。

職業(yè)規(guī)劃與銜接：

個(gè)性化職業(yè)發(fā)展規(guī)劃制定，明確職業(yè)方向。

簡歷撰寫、面試技巧培訓(xùn)與就業(yè)推薦，做好就業(yè)準(zhǔn)備。

【環(huán)境展示】

環(huán)境展示

環(huán)境介紹

【機(jī)構(gòu)簡介】

清徠智能專注于人工智能技術(shù)應(yīng)用與人才培養(yǎng)，核心團(tuán)隊(duì)來自清華大學(xué)北京大學(xué)等高等院校，具備深厚的AI技術(shù)背景與產(chǎn)業(yè)經(jīng)驗(yàn)。

清徠智能是中國軟件行業(yè)協(xié)會(huì)認(rèn)證的人工智能開發(fā)工程師認(rèn)證機(jī)構(gòu)，致力于鏈接企業(yè)、學(xué)員、培訓(xùn)機(jī)構(gòu)，提供培訓(xùn)、認(rèn)證、資源對(duì)接一體化服務(wù)。