培訓背景
隨著AI技術深度融入各行業,大模型、智能識別系統、AI供應鏈等面臨對抗樣本攻擊、數據泄露、模型劫持等新型安全風險。傳統安全防護手段已無法應對AI特有的攻擊路徑,亟需掌握AI大模型安全攻防核心技能的專業人才。
本課程通過“理論+實驗+對抗”模式,系統性講解AI大模型安全漏洞原理、攻擊手法及防御策略,覆蓋從模型開發到部署的全生命周期安全防護,幫助學員實現從“被動防御”到“主動對抗”的能力躍遷。
課程簡介
當前,人工智能蓬勃發展,AI大模型已成為推動各行業變革的關鍵力量,然而其安全隱患也隨之浮出水面。中培偉業特邀行業專家,精心打造了《AI大模型安全攻防實戰》課程,并在全國實施培訓,課程深入剖析AI大模型的架構原理,幫助學員透徹理解模型運作機制,進而系統梳理數據隱私泄露、模型竊取、對抗樣本攻擊等各類安全威脅及其背后原理。學員不僅能學習構造對抗樣本、實施模型竊取和數據投毒攻擊等實操技術,還將全面掌握數據加密、模型加固以及檢測對抗樣本等全流程防御策略,切實提升應對AI大模型安全挑戰的實戰能力。
參加培訓并通過考試學員,由中國信息化培訓中心頒發《AI安全攻防專家》職業技能培訓證書。該證書可作為專業技術人員職業能力考核的證明,以及專業技術人員崗位聘用、任職、定級和晉升職務的重要依據。
培訓對象
Ø 網絡安全專業人員
Ø 滲透測試人員
Ø 安全運維人員
Ø AI研發工程師
Ø AI系統運維人員
Ø 安全顧問和管理人員
Ø 算法工程師
Ø 數據科學家等
培訓收益
ü 掌握AI安全核心漏洞:
深入理解大模型提示詞注入、梯度泄露、供應鏈攻擊等前沿風險。
ü 攻防實戰能力提升:
通過實驗復現主流攻擊(如對抗樣本生成、模型逆向工程),設計針對性防御方案。
ü 合規與隱私保護:
學習AI數據脫敏、聯邦學習、差分隱私等技術,滿足GDPR等法規要求。
ü 紅藍對抗思維:
通過分組演練,模擬真實場景下AI系統攻防對抗,提升應急響應能力。
中培優勢
課程大綱
日程 | 主題 | 內容 |
第一天 AI大模型安全基礎攻防 |
大模型提示詞漏洞攻防 | Ø 理論:Prompt Injection分類(直接/間接/多模態) Ø 實驗:構造惡意提示詞注入,觸發模型輸出敏感內容 Ø 實驗:多模態提示詞(文本+圖像)繞過OCR檢測 |
敏感信息泄露與防護 | Ø 理論:模型元數據泄露原理(gguf/metadata解析) Ø 案例:System Prompt Leakage復現 Ø 實驗:利用工具提取模型元數據 Ø 實驗:設計防護策略封堵泄露漏洞 |
|
第二天供應鏈漏洞與進階攻擊 | 大模型供應鏈漏洞分析 | Ø 理論:供應鏈攻擊路徑(Ollama/Ray/Deepseek) Ø 案例:開源框架未授權漏洞導致模型劫持 Ø 實驗:利用Ollama漏洞植入后門模型 Ø 實驗:Deepseek未授權訪問漏洞復現 |
梯度泄露與對抗防御 | Ø 理論:梯度反推攻擊原理與數據逆向工程 Ø 案例:通過訓練梯度泄露用戶隱私數據 Ø 實驗:生成對抗樣本繞過AI檢測系統 Ø 實驗:設計梯度噪聲干擾防御方案 |
|
第三天綜合攻防與真實場景實戰 | RealWorld偽造攻擊 | Ø 理論:DeepFace/DeepVoice偽造技術原理 Ø 案例:生成高仿真人臉/語音欺騙身份驗證系統 Ø 實驗:使用DeepFace生成虛假人臉 Ø 實驗:合成語音繞過聲紋識別系統 |
IoT與AI融合漏洞利用 | Ø 理論:智能設備固件漏洞與AI模型聯動風險 Ø 案例:通過OCR漏洞劫持IoT設備控制權 |
|
紅藍對抗演練 | Ø 綜合實驗:分組模擬攻擊鏈(如多模態注入+供應鏈投毒) Ø 防御設計:制定全鏈路防護方案并驗證有效性 |
專家講師
高老師 CTO/資深技術顧問/信息安全專家
近十年IT互聯網運維服務管理與信息安全領域研究與從業經驗,主要從事運維服務管理規劃、運維架構、自動化體系建立和實施、信息安全風險評估、信息安全管理體系建立和實施等方面工作,具備豐富的IT服務管理和信息安全管理咨詢實踐經驗,尤其在金融、運營商、政府行業有豐富的項目實施經驗。目前主要專業領域集中于IT服務管理、IT風險管理與控制、信息安全等方面,曾服務的主要客戶有:中國金幣總公司、千方集團、行園汽車、德法利集團、中彩網等。
專業資質:
Ø CISP 注冊信息安全專業人員—系國家對信息安全人員資質的最高認可
Ø CISP-PTE 注冊信息安全專業人員—滲透測試工程師
Ø ISO27001 Foundation 國際信息安全管理體系標準
Ø ITLE 信息技術基礎架構庫認證—項目管理專家
Ø OSTA 全國計算機信息高新技術人員。