优选专业
职位描述
岗位职责:
研究大语言模型(LLM)、多模态模型的潜在安全风险(如Prompt注入、隐私泄露、有害内容生成、模型逆向等);
开发针对模型推理、训练阶段的攻击技术(对抗样本生成、后门植入、数据投毒等);
设计新型防御方案(鲁棒性增强、异常检测、安全对齐、动态防御机制);
多模态安全体系构建:研究跨文本、图像、语音的多模态攻击向量(如跨模态对抗攻击、多模态数据污染);
构建融合多模态特征的安全检测系统,开发针对AIGC内容的水印、溯源技术;探索视觉-语言模型(VLM)的对抗防御策略与可解释性分析
任职要求:
硕士及以上学历,计算机科学/网络安全/人工智能相关专业;AI安全领域经验,精通大模型架构(Transformer/BERT/GPT系列);
熟练掌握对抗机器学习技术:FGSM/PGD攻击、防御蒸馏、对抗训练等;具备多模态模型实战经验(CLIP/Stable Diffusion/DALL-E等)
精通Python,熟悉主流AI框架(PyTorch/TensorFlow/JAX)
熟悉模型逆向,对抗攻击,数据投毒,模型鲁棒性增强,输入输出过滤和安全对齐技术(RLHF/宪法AI)
在NeurIPS/ICLR/CCS等顶会发表AI安全相关论文;参与过主流大模型安全评估项目(如MITRE ATLAS框架);有CTF/AI安全竞赛获奖经历;熟悉OWASP Top 10 for LLM等安全标准
研究大语言模型(LLM)、多模态模型的潜在安全风险(如Prompt注入、隐私泄露、有害内容生成、模型逆向等);
开发针对模型推理、训练阶段的攻击技术(对抗样本生成、后门植入、数据投毒等);
设计新型防御方案(鲁棒性增强、异常检测、安全对齐、动态防御机制);
多模态安全体系构建:研究跨文本、图像、语音的多模态攻击向量(如跨模态对抗攻击、多模态数据污染);
构建融合多模态特征的安全检测系统,开发针对AIGC内容的水印、溯源技术;探索视觉-语言模型(VLM)的对抗防御策略与可解释性分析
任职要求:
硕士及以上学历,计算机科学/网络安全/人工智能相关专业;AI安全领域经验,精通大模型架构(Transformer/BERT/GPT系列);
熟练掌握对抗机器学习技术:FGSM/PGD攻击、防御蒸馏、对抗训练等;具备多模态模型实战经验(CLIP/Stable Diffusion/DALL-E等)
精通Python,熟悉主流AI框架(PyTorch/TensorFlow/JAX)
熟悉模型逆向,对抗攻击,数据投毒,模型鲁棒性增强,输入输出过滤和安全对齐技术(RLHF/宪法AI)
在NeurIPS/ICLR/CCS等顶会发表AI安全相关论文;参与过主流大模型安全评估项目(如MITRE ATLAS框架);有CTF/AI安全竞赛获奖经历;熟悉OWASP Top 10 for LLM等安全标准
公司简介
上海人工智能实验室,作为国际级人工智能新型研究机构,与全球理想主义者并肩前行,共探智能科学的未来。
VIP·学生版
会员5大特权,免费使用
竞争力分析
免费
AI改简历
免费
简历模版
免费
职业测评
免费
尊贵身份标识
免费
立即开通
智联安全提示
立即举报![]()
用人单位若存在以下违法行为,请您提高警惕,立刻报警或者向平台举报: 1.强迫或者要求您投资入股、购买虚拟货币(如比特币)、转账、汇款等 2.要求您提供担保人、担保金或者以其他名义向您收取财物 3.以招聘名义向您牟取任何不正当利益(财产权益、人身权益) 4.扣押您的身份证件或者其他证件 5.要求您添加微信、QQ进行转账、汇款 6.其他损害您合法权益的行为等



