大语言模型攻击发现与对抗技术研究

1. 深耕大模型底层原理与推理机制，开展安全攻防研究与风险挖掘； 2. 系统性研究提示对抗、越狱、指令劫持等AI应用安全威胁； 3. 针对对话交互与多智能体协作等形态，开展红队攻击测试与漏洞挖掘； 4. 研发推理侧轻量化防御方案及智能体权限管控等对抗技术； 5. 跟进前沿攻防技术，构建攻击样本库、检测模型及评测体系。

1. 获得本科及以上学历，计算机科学、网络空间安全、人工智能、自动化、数学、物理等相关专业； 2. 扎实掌握大模型基础知识，熟悉相关建模工具并具备优秀的学习与应用能力； 3. 在CCS、NDSS、S&P、USENIX等网络安全领域顶级学术会议有论文发表记录，或曾深度参与具有同等研究深度的科研或实践项目； 4. 熟练使用AI编程及协作工具，具备较强的创新意识，能够利用AI技术快速实现能力构建； 5. 具备系统化的信息安全素养与业务问题抽象能力，拥有良好的自驱力、责任心及探索精神。