从一次离职看AI公司的安全文化

最近，曾在OpenAI参与GPT-4o研发、后转入Anthropic的预训练研究员雅各布·考克森宣布辞职，并警告两家公司正争相开发能自我改进的超级智能，且未坦诚内部对AI的恐惧。消息提到，他的离职并非孤例，OpenAI的安全团队近年已有半数成员离开。对正在考虑加入AI大模型公司的你来说，这提醒我们：技术实力之外，公司的安全文化是否与你的价值观契合，直接影响职业体验与长期发展。

面试前：从公开资料捕捉安全信号

评估一家公司的安全文化，可以从公开信息入手。首先，查看公司官网的安全博客或技术论文，看他们是否主动讨论AI对齐、红队测试等话题，还是仅停留在口号层面。其次，关注高层在公开场合的发言——比如CEO在访谈中如何回应AI风险问题，是坦诚承认不确定性，还是回避或轻描淡写。另外，留意安全团队的人员流动：如果核心安全研究员频繁离职，且离职后公开表达担忧，这往往是内部文化的重要信号。考克森的警告正属于此类，值得求职者认真对待。

面试中：用提问探测真实态度

面试是双向选择，你可以通过提问来了解公司的安全实践。例如，询问“公司对AI安全的具体政策是什么？安全团队在模型开发中有多大话语权？”或“能否分享一次因安全考虑而推迟或修改产品功能的案例？”这类问题能帮你判断安全是否被真正纳入流程，而非事后补救。还可以问“高层对超级智能等前沿风险的态度是什么？”——如果对方闪烁其词，或表示“这不是我们现阶段考虑的问题”，你可能需要警惕。考克森的经历表明，即使两家顶尖公司也可能在压力下忽视内部恐惧，因此你的提问要具体，并观察对方的回答是否坦诚。

入职后：观察内部信号与个人匹配

即使面试顺利，入职初期也要留意内部信号。比如，安全团队是否直接向CTO汇报，还是被边缘化？当安全建议与开发进度冲突时，管理层如何取舍？同事们在闲聊中是否敢公开表达对AI风险的担忧，还是噤若寒蝉？这些细节能反映真实文化。同时，评估公司的技术路线是否与你的专业方向匹配：如果你擅长模型对齐，但公司资源全投向能力扩展，你可能会感到价值难以发挥。考克森从OpenAI转到Anthropic，又最终离开，说明即使换公司也可能遇到类似困境。因此，建议你在入职前明确自己的风险偏好——是愿意在激进路线中推动安全，还是更倾向保守环境——并以此筛选机会。

最后，一个实际可做的建议：在面试后，尝试联系该公司前员工（如通过LinkedIn），礼貌询问他们对公司安全文化的真实感受。他们的回答往往比官方宣传更接近真相。