字节跳动 Seed 近日发出内部邮件，字节宣布将成立“Seed Model-Alignment&Preparedness”部门，跳动由严林负责，单独大模汇报给 Seed 负责人吴永辉。设立原 Responsible AI 团队及部分 Chat 团队成员将转入新部门。型安

据悉，全对齐部该部门的字节设立旨在加强安全与对齐方向的投入，对齐的跳动核心是让模型的行为与人类意图和安全约束保持一致，从而提升 Agent Model（智能体模型）安全能力，单独大模以及防范 CBRN（化学、设立生物、型安放射、全对齐部核）等前沿能力风险。字节

大模型安全风险正日益凸显，跳动智能体逃逸引发的单独大模网络攻击等事件频繁发生。此前，国内大模型研究团队的安全与对齐工作大多被纳入到公司整体的安全合规体系中，字节跳动 Seed 则是国内首家单独成立安全与对齐部门的前沿 AI 实验室。

Seed 团队内部判断，随着模型能力越来越强、应用场景越来越复杂，安全与对齐已不只是风险防范，而是决定模型能否规模化应用的核心能力。

据了解，Seed 安全与对齐部门将围绕模型规范制定、安全评估体系建设、对齐训练、防护系统搭建和风险监控等方向持续投入，并加强与外部研究机构和第三方评测的公开合作，最终使前沿模型在安全与授权约束内有效完成任务，随着模型能力和自主性增强，持续降低滥用及行为偏离风险，建立面对未知风险的全面安全体系。

雷峰网 雷峰网(公众号：雷峰网)

• ·炎炎夏日送清凉 凝心聚力促振兴
• ·教育部：严格落实学生健康体检制度和每学期2次视力监测制度
• ·宝马与北京环球合作被曝结束，网友猜测比亚迪或小米接盘
• ·8月四川省煤炭价格917.83元/吨，环比上涨0.7%
• ·海沃德29分字母哥33+12 雄鹿仅2人上双不敌爵士
• ·国网武汉供电公司：电表“焕新”破解老旧私房片区用电难题
• ·郭云强开展“大走访大调研大服务大解题”活动：以助企实效赋能经济稳进提质
• ·欧洲杯带动中国商品热销
• ·国网邯郸市峰峰矿区供电公司：开展主变“互换”作业
• ·2023年全国奶产量同比增长6.3%
• ·2026巴黎车展观察：中国车企挤满欧洲主场，但真正的考验才刚开始
• ·我省首季住房公积金贷款同比增长9.82%
• ·莫雷托：莱奥的续约并非提高薪资总额，而是改善工资结构
• ·欧洲杯带动中国商品热销
• ·要买空气能，先看四季沐歌
• ·青浦又一家森林咖啡店开业，跨越2400公里的风味连接