1.點(diǎn)擊下面按鈕復(fù)制微信號
點(diǎn)擊復(fù)制微信號
珀菲特企業(yè)管理
Karen /鄭老師
KEY WORDS OF Corporate Training
聯(lián)系我們:
13382173255(Karen鄭老師)
課程大綱| Course Outline
一、課程開篇:Deepseek與AI時(shí)代的操作系統(tǒng)(30分鐘)
1. Deepseek的定位與價(jià)值
o AI時(shí)代的"開源操作系統(tǒng)":如何理解這一概念?
o 對比傳統(tǒng)操作系統(tǒng):從資源管理到AI驅(qū)動的智能化升級
o Deepseek的核心能力:多模態(tài)支持、長上下文理解、行業(yè)場景適配
2. 為什么選擇Deepseek私有化部署?
o 數(shù)據(jù)安全與合規(guī)性需求
o 企業(yè)級定制化場景(金融、醫(yī)療、政務(wù)等)
o 成本優(yōu)化與長期可控性
二、AI大模型部署方式全景解析(30分鐘)
1. 主流部署模式對比
o 公有云API調(diào)用 vs 私有化部署 vs 混合部署
o 算力需求與成本分析(TCO模型)
2. 私有化部署關(guān)鍵技術(shù)棧
o 硬件層:GPU集群/NPU加速卡
o 框架層:DeepSpeed、vLLM、TensorRT-LLM
o 運(yùn)維層:Kubernetes + Prometheus監(jiān)控體系
三、Deepseek部署案例深度剖析(30分鐘)
1. 典型場景與解決方案
o 案例1:企業(yè)內(nèi)部知識庫系統(tǒng)
§ 需求:文檔智能檢索+多輪對話
§ 部署架構(gòu):Deepseek-MoE 7B + FAISS向量數(shù)據(jù)庫
o 案例2:金融風(fēng)控實(shí)時(shí)決策系統(tǒng)
§ 需求:低延遲(<200ms)推理+合規(guī)審計(jì)
§ 方案:Deepseek-33B量化版 + Triton推理服務(wù)器
2. 典型性能優(yōu)化技巧
o 動態(tài)批處理(Dynamic Batching)配置
o FP8量化與模型蒸餾
o 顯存優(yōu)化策略(PagedAttention技術(shù)解析)
四、硬件配置與產(chǎn)品選型指南(15分鐘)
模型規(guī)模 |
典型場景 |
推薦配置 |
代表產(chǎn)品 |
Deepseek-7B |
邊緣端/輕量級任務(wù) |
單卡A10/A30 (24GB顯存) |
浪潮NF5468M6 幻境科技大模型知識推理一體機(jī) |
Deepseek-33B |
企業(yè)級服務(wù) |
8*A100 80GB + NVLink互聯(lián) |
華為Atlas 800 幻境科技大模型知識推理一體機(jī) |
Deepseek-130B |
超大規(guī)模集群 |
32*H100 + InfiniBand網(wǎng)絡(luò) |
阿里云神龍+靈駿集群 |
注:國產(chǎn)化替代方案(昇騰910B+華為CANN工具鏈)
五、手把手實(shí)操:從零部署Deepseek模型(60分鐘)
1. 環(huán)境準(zhǔn)備階段
o 硬件檢查:nvidia-smi + dcgm監(jiān)控
o 基礎(chǔ)環(huán)境:Docker + NVIDIA Container Toolkit
o 對非深度研發(fā)用戶,可直接體驗(yàn)大模型推理一體機(jī)預(yù)裝環(huán)境
2. 模型部署全流程:
o # Step1: 獲取模型權(quán)重:git clone https://github.com/deepseek-ai/Deepseek-7B
o # Step2: 啟動量化轉(zhuǎn)換:python quantize.py --model_path ./ckpt --quant_type int4
o # Step3: Triton服務(wù)部署:docker run -gpus all -v /model_repo:/models tritonserver --model-repository=/models
o 對非深度用戶,可直接體驗(yàn)大模型推理一體機(jī)預(yù)裝模型
3. 性能調(diào)優(yōu)實(shí)戰(zhàn)
o 壓力測試:locust模擬并發(fā)請求
o 顯存分析:Nsight Systems性能剖析
o 日志監(jiān)控:ELK Stack搭建觀測體系
o 對非深度用戶,可直接體驗(yàn)大模型推理一體機(jī)預(yù)裝功能
六、問答與總結(jié)(15分鐘)
1. 常見問題解答,如:
o 如何解決OOM(顯存溢出)問題?
o 國產(chǎn)CPU/GPU適配方案
o 模型微調(diào)與持續(xù)學(xué)習(xí)鏈路設(shè)計(jì)
2. 課程總結(jié)
o 私有化部署的三大關(guān)鍵成功要素
o Deepseek生態(tài)發(fā)展路線圖解讀
附錄:學(xué)習(xí)資源包
1. 官方部署白皮書(含Benchmark數(shù)據(jù))
2. GitHub代碼倉庫快速訪問指南
3. 硬件采購清單與供應(yīng)商聯(lián)系方式
4. 企業(yè)級部署Checklist(安全/合規(guī)/性能)
講師背景| Introduction to lecturers
ChatGPT與人工智能實(shí)戰(zhàn)專家-尹智老師
(荷蘭Utrecht大學(xué)MBI, 大數(shù)據(jù)&AI專家,人工智能布道師)
背景介紹:
? 上海人工智能技術(shù)協(xié)會特聘首席咨詢顧問
? 上海人工智能研究院專家講師
? 上海市人工智能技術(shù)協(xié)會青少年AI教育首席專家
? 上海市元宇宙產(chǎn)業(yè)發(fā)展專家咨詢委員會專家
? 上海市電競協(xié)會首席AI專家
? 臨港產(chǎn)業(yè)大學(xué)客座教授
? 原商湯科技智能產(chǎn)業(yè)研究院首席架構(gòu)師
? Oracle Master企業(yè)架構(gòu)師
? 原惠普企業(yè)服務(wù)新形態(tài)IT首席架構(gòu)師
實(shí)戰(zhàn)經(jīng)驗(yàn):
尹智先生是上海人工智能技術(shù)協(xié)會特聘首席咨詢顧問,上海人工智能研究院專家講師,上海市元宇宙產(chǎn)業(yè)發(fā)展專家咨詢委員會專家,合肥元宇宙產(chǎn)業(yè)協(xié)會副會長單位負(fù)責(zé)人,貴州大數(shù)據(jù)專家委員會委員,臨港產(chǎn)業(yè)大學(xué)客座教授。曾任商湯科技智能產(chǎn)業(yè)研究院首席架構(gòu)師,德勤Oracle CX首席架構(gòu)師,惠普企業(yè)新形態(tài)IT首席架構(gòu)師,Oracle Master企業(yè)架構(gòu)師。
尹智老師專注在人工智能戰(zhàn)略和架構(gòu)規(guī)劃、元宇宙產(chǎn)業(yè)規(guī)劃及落地,數(shù)字化客戶體驗(yàn), 以及AI及大數(shù)據(jù)驅(qū)動的新形態(tài)ICT架構(gòu)規(guī)劃和咨詢落地,有超過18年在中國大陸和荷蘭的職業(yè)經(jīng)驗(yàn)。先后服務(wù)過世界頂級的通訊和網(wǎng)絡(luò)設(shè)備及方案商,世界頂級的咨詢和審計(jì)服務(wù)公司和企業(yè)軟件公司。
授課風(fēng)格:
尹智老師的課程深入淺出,視野宏大,案例研究豐富,分析精彩,講解幽默風(fēng)趣,用企業(yè)和政府的語言,把抽象的人工智能和元宇宙理論知識與產(chǎn)業(yè)轉(zhuǎn)化、政府?dāng)?shù)字化變革融會貫通,講得通俗易懂,看得見,摸得著,用得上,深受好評。
尹智老師的講課自我要求:“不講正確的廢話”,“所有聽眾都要聽得懂”,“內(nèi)容原創(chuàng)”,“不僅講“What”,更講“Why”和“How””
《通用人工智能曙光:ChatGPT和AI大模型的源起,發(fā)展和落地應(yīng)用》
《AI大模型賦能的5G+ 元宇宙產(chǎn)業(yè)應(yīng)用》
《人工智能時(shí)代的企業(yè)大數(shù)據(jù)技術(shù)和架構(gòu)》
《AI大模型時(shí)代的金融數(shù)字化轉(zhuǎn)型和人工智能賦能應(yīng)用》
《深入淺出數(shù)字化戰(zhàn)略和企業(yè)架構(gòu):框架和應(yīng)用》
《數(shù)字新基建:智能計(jì)算中心承載的人工智能模型和應(yīng)用》
《人工智能時(shí)代的數(shù)字科技在雙碳全生命周期管理中的應(yīng)用模式和實(shí)踐》
《元宇宙+ 電競:人工智能時(shí)代的數(shù)實(shí)融合新形態(tài)虛擬體育》
《人工智能和AI大模型落地工作坊:從業(yè)務(wù)分析到技術(shù)架構(gòu)落地設(shè)計(jì)》
甲骨文、商湯科技、惠普、中國銀行,寧波銀行,匯豐銀行,瑞士銀行、廣東電信、江西移動、廣西移動、湖北移動、湖南電信、蘇寧云商、慧聰網(wǎng)、匯醫(yī)在線等
院校,科研機(jī)構(gòu):復(fù)旦大學(xué)、清華大學(xué)、上海交通大學(xué)、上海人工智能研究院、上海理工大學(xué)、上海體育學(xué)院、中國傳媒大學(xué)、同濟(jì)大學(xué)、武漢大學(xué)、浙江大學(xué)等。
政企集團(tuán):上海市經(jīng)信局、湖畔創(chuàng)研中心、廣東機(jī)場集團(tuán)、阿里云創(chuàng)新中心、臨港集團(tuán)、成都新經(jīng)濟(jì)局、江西省政府、揚(yáng)州市政府、合肥市政府、中南建筑設(shè)計(jì)院、銀川市政府、云南市政府、深圳交管局、成都金牛區(qū)、武漢洪山區(qū)、中石油、云南中煙、北汽集團(tuán)、上海鐵路局、南京大數(shù)據(jù)局、河南能源集團(tuán)、神華集團(tuán)、平安集團(tuán)、中國國航等
Service Procedure
Service Advantages
我們擁有幾百家各類企業(yè)的項(xiàng)目咨詢基礎(chǔ)、多行業(yè)數(shù)據(jù)庫、多年的行業(yè)經(jīng)驗(yàn),并對企業(yè)進(jìn)行深度研究和剖析,總結(jié)出一系列深入的觀點(diǎn)和經(jīng)驗(yàn)。
我們的咨詢方案的設(shè)計(jì)過程秉承“知行合一”的理念,既具備理論知識,又重視項(xiàng)目的實(shí)操性。經(jīng)過多年的經(jīng)驗(yàn),我們積累了豐富的案例庫,涉及18個領(lǐng)域,近千個案例,并將案例與咨詢項(xiàng)目完美結(jié)合。
我們的咨詢團(tuán)隊(duì)分布于各大領(lǐng)域,擁有多年的業(yè)內(nèi)從業(yè)經(jīng)驗(yàn),具備豐富的企業(yè)管理實(shí)操經(jīng)驗(yàn)。在定制咨詢方案前,我們會為客戶匹配多位業(yè)內(nèi)咨詢師,供客戶進(jìn)行比對選擇,根據(jù)客戶需求及問題,定制化地設(shè)計(jì)咨詢方案,確保項(xiàng)目的順利進(jìn)行。
ABOUT PERFECT CONSULTANT
We are? Talent training and intelligent manufacturing solutions provider.
What we do ?Provide organizational performance improvement and talent learning development business.
Customers:Each year, we serves more than 1000 enterprises (including fortune 500 enterprises, joint venture factories, state-owned enterprises, rapidly developing private enterprises and industry-leading enterprises).
10年更懂你
中大型企業(yè)共同選擇
累計(jì)培訓(xùn)學(xué)員
現(xiàn)有公開課
現(xiàn)有內(nèi)訓(xùn)課
現(xiàn)有在線課程
輻射城市
OFFLINE BUSINESS
高層團(tuán)隊(duì)引導(dǎo)工作坊
中層管理內(nèi)訓(xùn)
基層管理內(nèi)訓(xùn)
人才梯隊(duì)建設(shè)咨詢項(xiàng)目
工廠運(yùn)營咨詢項(xiàng)目
TTT內(nèi)訓(xùn)師咨詢項(xiàng)目
領(lǐng)導(dǎo)力公開課
精益智造公開課
個人效能公開課
Video Information
【見證企業(yè)成長每一步】
AI效能提升 × HR實(shí)戰(zhàn)干貨 × 領(lǐng)導(dǎo)力精要,前沿管理智慧每周更新,
關(guān)注視頻號獲取全場景管理解決方案,讓卓越觸手可及!
企業(yè)視頻號
官網(wǎng)電話:400-008-4600;手機(jī)號:13382173255(Karen鄭老師);網(wǎng)站:www.perfectpx.com
PART OF TRAINED COMPANIES INCLUDED BUT NOT LIMITED TO
Copyright © 2006-2025 PerfectPX All rights reserved. 蘇州珀菲特企業(yè)管理顧問有限公司 版權(quán)所有 蘇ICP備11056827號-1 蘇公網(wǎng)安備 32050702010145號