AI|马斯克要请中国“兄弟”当保镖？网友：谨防上当受骗！( 三 )

“换脸”混淆视听
之前，就有人结合AI换脸、AI变声，伪造一段虚假的奥巴马演讲视频。这段视频完全伪造的奥巴马演讲视频，无论是脸还是声音都是假的

文章图片

↑AI换脸视频
视频当中，奥巴马指斥特朗普是个“笨蛋” ，令人震惊。这段视频在国外引起了轰动，如果没有特别标注，恐怕很多人会信以为真。如果被不法分子利用，很有可能引起外交等方面的政治危机。
...
AI换脸技术应受到严格管控
使用AI换脸技术是犯法的吗？
2021年底，被网友戏称“法外狂徒”的罗老师专门开了一期课程，讲解了现如今AI换脸深度伪造是否会犯法的问题。
罗老师提到，美国有专门的法案“深度伪造责任法案”规定了多种法律处置手段，其中要求意图进行传播的人为深度伪造的视频或明知伪造的视频进行水印标记等。另外还制定了可能会承担的法律责任，最多可吃5年的牢饭。
在法律方面，近两年国内也推出了民法典，其中1019条规定“任何组织或个人不得利用信息技术伪造等方法侵害他人的肖像权” 。2019网信办广电总局推出网络音视频信息服务规定，同样要求标识义务、技术保障义务、停止传输义务，以及必要机制等多个方面。
另外，如果AI换脸内容被用来实施诈骗、恐吓等违法犯罪行为，必然是会触犯到刑法相关规定。
面对花样百出的换脸内容，国外网站已经早早下了“禁令” 。国外社群如Facebook在2021年1月祭出強硬措施，下架Deepfake影片，而Twitter也在2月进行了跟进。
回到国内网站来看，目前主流的视频平台Bilibili上仍有众多AI换脸视频，随便点开一期视频就是数十万以上的播放量，似乎颇受观众的欢迎。

文章图片

文章图片

仅有少部分近期发布的AI换脸视频中，对于疑似使用AI技术的视频进行了标识，提醒人们该视频有不真实性存在，避免观者被迷惑了双眼。
然而仍有不少未经过标注的AI换脸“漏网之鱼” ，同时明显的对原视频版权、人物肖像权造成了侵犯。

文章图片

回到“中国版马斯克”来看，我们能看到他抖音的个人简介上留有“虚拟照亮现实”几个关键字，有变相承认是采用了AI换脸技术，或许也是想借此来一定程度上规避法律问题。

文章图片

截至5月12日， “中国版马斯克”还没有公开承认AI换脸技术，不过因为某种原因，其微博账号遭到了禁言处理。