S8E03 | 后 Sora 时代的深度伪造 「AI换脸术」怎么防？

继 Open AI 发布了视频生成模型 Sora 之后，Google 最近又发布了 Vlogger，一个能通过一张照片生成 10 秒视频的模型。在我们惊叹 AIGC 技术快速发展的同时，网络黑产的攻击也依托技术迭代爆发式提效。自去年以来，线上深度伪造（Deepfake）技术攻击案例指数级上升，特别是在东南亚等基础设施与监管薄弱的地区，案发占比由不到百分之零点五飙升至五。 本期节目我们邀请到蚂蚁数科 ZOLOZ 的技术负责人姚伟斌（文景）来聊聊后 Sora 时代下我们普通人如何能够降低被攻击的风险，整个行业在 Sora 这样的产品出来之后，从产品层面他们是如何快速响应去设计新的产品，从行业角度来看，需要有什么共识才能避免痛定思痛以及未来的加密学在生物识别领域的调整与走向。 本期人物 姚伟斌（文景），蚂蚁数科 ZOLOZ 技术负责人 丁教 Diane，「声动活泼」联合创始人、「科技早知道」主播 主要话题 [04:18] Deepfake 深度伪造技术攻击案例与前两年相比数量呈指数型上升 [06:53] 个体消费者如何防范应用深度伪造技术的骗局？ [09:53] 警觉经济利益涉及，设置特定安全口令 [10:46] 重视日常风险的分散与备份 [13:00] 除人脸识别外「异军突起」的生物识别特征 [18:39] 当下处于加密学「道高一尺魔高一丈」的对抗阶段吗？ [20:18] 东南亚的防黑产技术类似中国 5 到 10 年前的数字化发展阶段 [21:18] 黑产攻击也在「数字化升级改造」 [23:43] 首先我们要理解黑产攻击的利益诉求 [24:45] 快捷体验与身份安全是一个相对矛盾的点 [27:08] 后 Sora 时代下 ZOLOZ 与防 Deepfake 黑产行业的共识和技术进步 [28:40] 挖掘批量化攻击背后的共性以快速响应 [30:26] 提倡政企合作建立可信签名机制 [31:12] ZOLOZ 建立的端云一体全链路防控体系 [34:02] 如何预防开源模型被不法分子利用 [34:48] 从 Cheapfake 到 Deepfake，ZOLOZ 2019 年开始的深度伪造技术研究 幕后制作 监制：丁教、Siti 后期：迪卡普里鑫，可特 运营：瑞涵 设计：饭团 商务合作 声动活泼商务合作咨询 支持我们，加入新一年的播客创新 2021 年我们发起了「声动胡同会员计划」，这是一个纯支持项目，支持「声动活泼」在播客内容上不断探索和创新。回顾 2023 年，得益于这些支持，「声动活泼」的每档节目都不断突破，不仅荣登苹果中国的年度热门节目榜单，还在 CPA 和喜马拉雅等平台都榜上有名。2024 年，我们也会继续创新，一档全新的投资类节目即将和大家见面，同时也会用更加创新的方式制作新一季「声音特稿」节目。 欢迎点击链接查看我们 2023 年收获和 2024 年内容计划。如果你认同或喜欢我们做的事情，也期待我们不断尝试并产生好内容，欢迎付费支持。 加入我们 声动活泼正在招聘全职「节目监制」、「节目营销」、「商业化项目管理」，查看详细讯息请 点击链接。如果你已准备好简历，欢迎发送至 [email protected]， 标题请用：姓名+岗位名称。 关于声动活泼 「用声音碰撞世界」，声动活泼致力于为人们提供源源不断的思考养料。 我们还有这些播客：声动早咖啡、声东击西、吃喝玩乐了不起、反潮流俱乐部、泡腾 VC、商业WHY酱、跳进兔子洞 欢迎在即刻、微博等社交媒体上与我们互动，搜索 声动活泼 即可找到我们。 期待你给我们写邮件，邮箱地址是：[email protected] 欢迎扫码添加声小音，在节目之外和我们保持联系。 Special Guest: 姚伟斌（文景）.