字节跳动旗下前沿AI实验室Seed近日宣布成立专门负责大模型安全与对齐的部门。该部门由严林负责，直接向Seed负责人吴永辉汇报。原Responsible AI团队及部分Chat团队成员将整体转入新部门。
新部门核心任务是提升智能体模型的安全性，确保AI行为符合人类意图和安全约束。重点防范化学、生物、放射、核等高风险领域可能带来的技术滥用问题。这是国内首个单独设立大模型安全与对齐部门的AI实验室。
Seed团队表示，安全与对齐是大模型发展的核心命题。通过建立专门团队，将系统性强化对AI系统的安全评估和风险防控能力。该部门将专注于技术方案研发、安全测试体系构建以及伦理规范制定。
字节跳动在AI安全领域持续加码，此次组织架构调整显示其对技术风险防控的重视程度。随着大模型应用场景不断扩展，安全对齐能力将成为决定技术发展高度的关键因素。
