检测|深度伪造危害加剧技术检测为防范治理基础( 二 )

三、国内外政府相继出台监管政策为防范深度伪造技术所造成的危害，全球各国政府积极推进立法管制。比如美国的《2019年深度伪造报告法案》，欧盟的《通用数据保护条例》、《反虚假信息行为准则》和德国出台的《社交媒体管理法》等都对相关的内容进行了规制。
我国也针对深度伪造的问题出台了相关监管办法。2019年11月，网信办发布《网络音视频信息服务管理规定》，指出自2020年1月1日起，AI造假视频不得随意发布。其中相关规定主要有四条:“按照国家有关规定开展安全评估”、“以显著方式予以标识”非真实音频信息、不得利用AI造假技术发布虚假新闻、部署AI伪造音视频鉴别技术和健全辟谣机制等。
2020年5月，《中华人民共和国民法典》通过，其中人格权编明确界定“禁止利用信息技术手段伪造等方式侵害他人的肖像权和声音”，这一系列的政策措施为深度伪造技术划定了应用边界。
【检测|深度伪造危害加剧技术检测为防范治理基础】值得注意的是，2021年3月，针对部分语音社交软件和涉“深度伪造”技术的应用未履行安全评估程序，国家网信办、公安部指导各地网信部门、公安机关依法约谈了11家企业，督促其认真开展安全评估，完善风险防控机制和措施。不同于以往的事后监管，此次安全评估工作和约谈给有关的互联网新技术新应用提前划“红线”，“事前规制”有利于企业及时发现安全隐患，整改安全问题。
四、AI存在天然的“局限性”关于人工智能安全性的担忧，一方面需要依靠法律法规和政府监管来约束，另一方面，需要从源头加强安全评估，提升鉴别技术等能力，借助技术手段提前布局。
田天表示，以深度伪造为代表的安全问题，正是目前人工智能产业当前所面临的瓶颈。人工智能产业正经历从高速增长向高质量发展的转变，一方面产业期待进一步提升，金融、医疗等更复杂的高价值场景的应用需求不断增加，智能化场景从单一感知向多元认知发展；另一方面，各种安全问题的爆发，要求在追求性能效率的同时关注安全性的提升与保障。
针对于此，中科院院士、清华大学人工智能研究院院长、北京瑞莱智慧科技有限公司首席科学家张钹教授提出了“第三代人工智能”的概念，也就是安全、可靠、可信的人工智能。安全性将成为下一阶段人工智能发展必须的基础。
瑞莱智慧在此次大会上发布的DeepReal深度伪造内容检测平台，就是基于第三代人工智能所研发的能够高效、快速鉴别深度伪造内容的平台，将成为遏制深度伪造作恶的重要手段。
五、技术防范是深伪治理的基础北京瑞莱智慧科技有限公司副总裁唐家渝认为，深度伪造技术持续进化，网络数字内容多变、隐匿性强，监管难度大，因此开展主动技术防范与检测工作是必要的。
但他也表示，深度伪造技术检测工作当前面临两大难点，一是肉眼难以辨别，传统人工内容审核团队无法应对，二是深度伪造检测面临“强对抗性”，新型伪造方法层出不穷、网络传播环境复杂、算法模型存在结构性缺陷等。因此他建议，首先监管部门需要设立专业技术检测团队，其次检测工作需遵守动态平衡机制，技术能力需不断升级迭代。
瑞莱智慧RealAI基于第三代AI技术研发的DeepReal深度伪造内容检测平台，具备工业级检测性能，能够快速、精准地对多种格式与质量的图像进行真伪鉴别，实现输出判断结果、生成检测图像、提供检测报告等功能，具有响应快速、准确率高、算力节约等特点。
据唐家渝透露，在结果准确度方面，DeepReal在学术数据集和ZAO等主流方式生成的网络数据集中，已达到99%以上的准确率。而在实际应用中，DeepReal的检测准确率也已达到业界顶尖水平，远超Facebook此前举办的Deepfake检测挑战赛所公布的最好成绩。在检测速度方面，DeepReal可实现每帧画面的检测时间仅用时30毫秒。

检测|深度伪造危害加剧 技术检测为防范治理基础( 二 )

检测|深度伪造危害加剧技术检测为防范治理基础( 二 )