视说新语丨张欣怡团队开源Deepfake(深度伪造）攻防模型不止是对技术滥用的反击

近日，韩国曝出“深度伪造”（Deepfake）事件，被认为是采用新犯罪手段的“N号房”案件重现。一些犯罪群体利用社交媒体和工作环境中的照片进行非法合成，制作的虚假不雅内容，在社交媒体上广泛传播，参与用户多达22万人。受害者80%为女性，未成年人占比近六成。有多位韩国女性在中文社交平台发帖求助。“N号房2.0”“韩国deepfake”等词条迅速登上平台热搜榜。

此事引起中科院女工程师张欣怡的关注，她在微博发文《我要怎么证明“我”不是我》，并关联#韩国女性回应在中国社交平台求助#话题。还在一则视频中表示，在与团队商议后，将参加全球Deepfake攻防挑战赛的AI模型面向全球开源，让有需要的人免费使用来对抗deepfake，为每一个可能受到伤害的人提供保护。“我们不会停止对这类行为的追究，更不会放弃对技术的探索和完善。”在一条评论中她还提到，后续会尽快开发相关应用，降低大家的使用门槛。

或许同为女性，张欣怡更能共情女性面对“深伪”犯罪时的恐慌和无助，她的行动让“Girls help girls”具象化了。

但同时，也有一些不解的声音：韩国的事，和我们有什么关系？其实，此次韩国“新版N号房”事件反映出的是女性正成为Deepfake犯罪侵害的重要目标群体。早在2020年，网络安全研究机构Sensity在报告中就提到，在Telegram的应用中，至少有10.48万名女性“被裸体”，而在分发这些照片的7个频道中，累计用户超过10万。而今，随着大模型技术的发展，网络传播环境的日趋复杂，“深度伪造”门槛变得越来越低，Deepfake犯罪也在增加。而除了合成不雅视频或图片，Deepfake技术还被应用在诈骗、制作虚假新闻中，甚至一些国家的政客也成为不法分子制造虚假视频的对象。可见，Deepfake技术的滥用不仅对个人造成伤害，还可能对社会秩序和国家安全构成威胁，而这些风险是不分性别，不分国界的。

张欣怡及其团队开源Deepfake攻防模型，不仅是对Deepfake滥用的直接反击，也是对全球技术社区的一次鼓舞，鼓励更多的技术人员参与到对抗Deepfake恶意内容的行动中来。而将先进的技术用于社会公益，更展现了科技工作者的社会责任感，体现了科技向善的理念。

同时，这也是对未来技术伦理的一次深刻反思。在技术日益进步的今天，如何确保技术不被滥用，如何保护每个人的基本权利，是每一个科技工作者都需要思考的问题。张欣怡女士及其团队的行动，也为我们提供了值得借鉴的范例——通过开源合作、技术共享，共同构建一个更加安全、健康的数字世界。（海报新闻编辑 朱肖明）

来源：海报新闻