北京时间6月27日早间消息,据美国《财富》网站报道,Facebook正在制定一项监管政策,对 换脸 (DeepFake)视频加以规范。这种视频是用户采用人工智能(AI)深度合成技术来篡改视频内
北京时间6月27日早间消息,据美国《财富》网站报道,Facebook正在制定一项监管政策,对 换脸 (DeepFake)视频加以规范。这种视频是用户采用人工智能(AI)深度合成技术来篡改视频内容,以达到传播错误信息的目的,是Facebook面临的最新威胁。
但是,Facebook CEO马克 扎克伯格(Mark Zuckerberg)说,这是一个复杂的问题,因为公司不会删除假视频,但会让用户知道它不是真的。
我们需要非常谨慎, 扎克伯格本周三在科罗拉多州的阿斯彭创意节(Aspen Ideas Festival)上表示, 通过我们的服务,每天有超过100万条信息在系统中流动,我们希望确保以精确的方式加以认定。
在过去几年里,换脸视频已经成为公众关注焦点,因为它们有可能通过在人们的言论中插入词语来造成严重损害。虽然今天看上去这项技术还不够成熟,但在未来,该技术的质量有望不断提升,成为真实视频中不可分割的一部分。
人们担心这类换脸视频可触发战争、干扰选举,或者被用来敲诈勒索。
Facebook目前正在与人工智能专家讨论这一问题,对换脸视频进行监管规范。该公司将制定一项新的政策,将换脸视频与虚假信息分而治之。
上个月,针对用户发到Facebook平台的一段 佩洛西在新闻发布会上结结巴巴 的视频,该公司做出了一项饱受争议的决定。扎克伯格表示,该公司将把它标注为误导信息,以减缓它在社交网络上的传播速度。但一天过去了,Facebook尚未采取行动,导致该视频在千百万用户中间不断传播。扎克伯格说,反应缓慢属于 执行错误 ,但他补充说,不希望Facebook仅仅因为 不正确事实 而删除用户发布的内容。
我认为我们不应该采取过激行动,作为一家私人公司,我们不能因为帖子中存在一些事实上不正确的内容就阻止用户发言, 扎克伯格说。 对我来说,那样就走得太远了。
本月早些时候,一家科技初创公司的两位艺术家在Instagram上发布了一段有关马克 扎克伯格的换脸视频,令人非常不安,之后,Facebook开始对上述新政策进行测试。
想象一下,如果一个人完全控制着数十亿人的的数据 他们所有的秘密,他们的生活,他们的未来。 假的扎克伯格在换脸视频中说。 掌控数据,意味着掌控未来。
尽管该视频被允许保留在Instagram上,但扎克伯格表示,他认为有必要制定一项政策,以解决可能造成更严重伤害的换脸视频问题。例如,换脸视频可以模拟美国总统特朗普宣战。
随着技术的发展,政策也在不断演变, 扎克伯格说, 但我认为,应该谨慎对待这一问题,应该咨询专家,而不是草率或单方面行事。