中培IT学院
AI大模型安全攻防实战

AI大模型安全攻防实战

授课方式:面授/直播/录播

课程时长:3天

面向对象:网络安全专业人员、渗透测试人员、安全运维人员、安全顾问和管理人员等

学习重点:掌握AI安全核心漏洞;攻防实战能力提升;合规与隐私保护;红蓝对抗思维

课程价格:¥5800.00

课程介绍 开班计划 课程大纲 往期课堂

课程介绍

【培训背景】

随着AI技术深度融入各行业,大模型、智能识别系统、AI供应链等面临对抗样本攻击、数据泄露、模型劫持等新型安全风险。传统安全防护手段已无法应对AI特有的攻击路径,亟需掌握AI安全攻防核心技能的专业人才。

本课程通过“理论+实验+对抗”模式,系统性讲解AI安全漏洞原理、攻击手法及防御策略,覆盖从模型开发到部署的全生命周期安全防护,帮助学员实现从“被动防御”到“主动对抗”的能力跃迁。

 

【培训收益】

1、掌握AI安全核心漏洞:

深入理解大模型提示词注入、梯度泄露、供应链攻击等前沿风险。

2、攻防实战能力提升:

通过实验复现主流攻击(如对抗样本生成、模型逆向工程),设计针对性防御方案。

3、合规与隐私保护:

学习AI数据脱敏、联邦学习、差分隐私等技术,满足GDPR等法规要求。

4、红蓝对抗思维:

通过分组演练,模拟真实场景下AI系统攻防对抗,提升应急响应能力。

 

【适合人群】

网络安全专业人员、渗透测试人员、安全运维人员、安全顾问和管理人员、学生和研究人员、AI研发工程师、算法工程师、数据科学家、AI系统运维人员。

 

【培训特色】

1.资深讲师授课,小班制教学;

2.理论与实践相结合、案例分析与行业应用穿插进行;

3.专家精彩内容解析、学员专题讨论、分组研究。

 

【授课专家】

高老师 CTO/资深技术顾问/信息安全专家

近十年IT互联网运维服务管理与信息安全领域研究与从业经验,主要从事运维服务管理规划、运维架构、自动化体系建立和实施、信息安全风险评估、信息安全管理体系建立和实施等方面工作,具备丰富的IT服务管理和信息安全管理咨询实践经验,尤其在金融、运营商、政府行业有丰富的项目实施经验。

目前主要专业领域集中于IT服务管理、IT风险管理与控制、信息安全等方面,曾服务的主要客户有:中国金币总公司、千方集团、行园汽车、德法利集团、中彩网等。

专业资质:

CISP 注册信息安全专业人员—系国家对信息安全人员资质的最高认可

CISP-PTE  注册信息安全专业人员—渗透测试工程师

ISO27001 Foundation 国际信息安全管理体系标准

ITLE 信息技术基础架构库认证—项目管理专家

OSTA 全国计算机信息高新技术人员。

 

【结业证书】

参加培训并通过考试的学员,由中国信息化培训中心颁发《AI安全攻防专家》职业技能培训证书。该证书可作为专业技术人员职业能力考核的证明,以及专业技术人员岗位聘用、任职、定级和晋升职务的重要依据。

AI安全攻防专家.jpg 

证书样本

开班计划

开课时间 授课形式 培训类型 上课城市 在线报名
2025-06-23 面授+直播 精品班 北京 在线报名
随报随学 录播 特惠班 IT云课 在线报名

课程大纲

AI大模型安全攻防实战培训班,标准公开课3天,每天6小时,企业内训可按需求定制。

课程安排如下:

日程

主题

内容

第一天

AI安全基础攻防

大模型提示词漏洞攻防

Ø 理论:Prompt Injection分类(直接/间接/多模态)

Ø 实验:构造恶意提示词注入,触发模型输出敏感内容

Ø 实验:多模态提示词(文本+图像)绕过OCR检测

敏感信息泄露与防护

Ø 理论:模型元数据泄露原理(gguf/metadata解析)

Ø 案例:System Prompt Leakage复现

Ø 实验:利用工具提取模型元数据

Ø 实验:设计防护策略封堵泄露漏洞

第二天供应链漏洞与进阶攻击

大模型供应链漏洞分析

Ø 理论:供应链攻击路径(Ollama/Ray/Deepseek)

Ø 案例:开源框架未授权漏洞导致模型劫持

Ø 实验:利用Ollama漏洞植入后门模型

Ø 实验:Deepseek未授权访问漏洞复现

梯度泄露与对抗防御

Ø 理论:梯度反推攻击原理与数据逆向工程

Ø 案例:通过训练梯度泄露用户隐私数据

Ø 实验:生成对抗样本绕过AI检测系统

Ø 实验:设计梯度噪声干扰防御方案

第三天综合攻防与真实场景实战

RealWorld伪造攻击

Ø 理论:DeepFace/DeepVoice伪造技术原理

Ø 案例:生成高仿真人脸/语音欺骗身份验证系统

Ø 实验:使用DeepFace生成虚假人脸

Ø 实验:合成语音绕过声纹识别系统

IoT与AI融合漏洞利用

Ø 理论:智能设备固件漏洞与AI模型联动风险

Ø 案例:通过OCR漏洞劫持IoT设备控制权

红蓝对抗演练

Ø 综合实验:分组模拟攻击链(如多模态注入+供应链投毒)

Ø 防御设计:制定全链路防护方案并验证有效性


往期课堂

暂无信息