AI安全防护治理专家-安全与风控
字节跳动
岗位职责
1、AI使用识别与资产梳理:识别企业内部各类AI Agent、Copilot、MCP Server、插件化工具、自研RAG应用和AI自动化工作流,梳理其使用场景、负责人、接入方式、数据访问范围、运行环境和权限边界,建立AI资产清单和风险分级机制;
2、AI Agent行为分析与风险识别:分析AI Agent在Prompt输入、上下文引用、工具调用、API调用、文件访问、网络连接、本地命令执行和身份权限使用中的行为风险,识别敏感数据访问、危险工具调用、越权操作、异常自动化执行和潜在数据外传行为;
3、AI安全检测能力建设:基于端点、网络、身份、云、SaaS、应用日志和AI Runtime日志,建设AI场景检测规则,覆盖未授权AI使用、Prompt Injection、敏感数据泄露、Agent Tool Abuse、MCP异常调用、异常文件/网络访问、本地命令执行等风险;
4、AI安全响应与处置闭环:建立AI安全告警分级、调查和响应流程,支持高风险AI访问阻断、Agent工具调用限制、Agent执行暂停、高风险插件或MCP Server下线、Token、API Key回收,并推动事件复盘和治理改进;
5、AI Runtime可观测能力建设:推动Prompt、Response、Tool Call、Agent Action、MCP调用、身份权限、文件访问、网络访问等关键日志接入安全分析平台,提升AI风险的可发现、可检测、可调查和可审计能力。
任职要求
1、具备3年以上安全工程、安全运营、检测响应、EDR/XDR、SIEM、云安全、应用安全、数据安全或安全架构相关经验;
2、熟悉企业安全检测与响应体系,理解日志采集、规则检测、告警分析、事件调查和响应闭环;
3、理解GenAI、LLM、RAG、AI Agent、Copilot、Plugin、Function Calling、MCP等基本概念和安全风险;
4、了解Prompt Injection、Jailbreak、RAG Poisoning、数据泄露、Agent Tool Abuse等AI安全风险;
5、具备安全检测规则设计、日志分析、事件溯源或威胁建模能力,能够基于进程、文件、网络、身份、SaaS、云和应用日志分析AI相关风险行为;
6、具备良好的跨团队沟通和文档能力,能够推动研发、IT、SOC、数据安全和业务团队协作落地。
加分项:
1、有AI Security、LLM Security、Agent Security、AI Red Team或Shadow AI治理经验;
2、有EDR/XDR/SIEM检测工程、威胁狩猎或应急响应经验;
3、熟悉浏览器扩展、IDE插件、MCP Server、AI Agent框架或SaaS AI功能的安全风险;
4、熟悉Python、Go、JavaScript/TypeScript、SQL、KQL、Sigma、YARA或检测规则开发;
5、熟悉MITRE ATLAS、OWASP LLM Top10、OWASP Agentic Application Security;
6、有企业内部Copilot、RAG系统、Agent平台或AI自动化工具的建设/安全评估经验。