字节跳动就实习生破坏大模型训练事件作出澄清

近日,“字节跳动大模型训练被实习生攻击” 的消息在网络上引发广泛关注和热议。10 月 19 日下午,字节跳动针对此事发布了《关于 “实习生破坏大模型训练” 的事实澄清》。

此前,多个微信群曾流传消息称,某头部大厂的大模型训练被实习生入侵,注入了破坏代码,导致其训练成果不可靠,可能需要重新训练,且遭到入侵的代码注入了 8000 多张卡,带来的损失可能超过千万美元。经证实,该头部大厂正是字节跳动。

字节跳动在声明中表示,确有商业化技术团队实习生发生严重违纪行为,但网传信息存在部分夸大及失实情况。涉事实习生恶意干扰了商业化技术团队研究项目的模型训练任务,但并不影响商业化的正式项目及线上业务,也不涉及字节跳动大模型等其他业务。同时,网传的 “涉及 8000 多卡、损失上千万美元” 的说法严重夸大。

经核实,涉事人一直在商业化技术团队实习,并没有 ailab 实习经历,其社交媒体个人简介及部分媒体报道存在错误。该实习生已在 8 月被公司辞退,公司也将其行为同步给了行业联盟和所在学校,交由校方处理。

据悉,此次事件发生在今年 6 月,起因是该实习生对团队资源分配不满,故使用攻击代码破坏团队的模型训练任务。这一事件的发生,也暴露出了企业在技术训练中的安全管理问题,包括权限隔离、共用代码的审计等方面可能存在的漏洞。

目前,该事件仍在进一步发酵中,引发了业界对于大模型安全性以及企业内部管理的深入思考。