浙江24小时

首页 > 正文

一夜爆红引发病毒式传播 换脸软件刷屏风险不容忽视

www.kunenaspanish.com2019-09-29

云南省人民检察院3天前我想分享

数据泄漏隐藏在一夜之间流行的病毒传播危险

变脸软件刷屏风险不容忽视

ZAO的一夜之间的受欢迎程度引起了人们对AI Face Change Software的广泛关注,但对于过度收集用户个人信息的怀疑也引起了人们的广泛质疑。 9月1日,该软件的微信共享链接停止访问,但由此引发的隐私和安全争议仍在继续,关于人工智能未来趋势的讨论正变得越来越激烈。

技术一直是一把双刃剑。如何使技术进步服务于人类社会和经济的发展,是全社会需要考虑的重要问题。为此,我们的报纸今天发布了一份专题报告,梳理了人工智能发展带来的相关法律问题和科技伦理风险,请关注它。

在隐私政策中,ZAO收集了大量用户的隐私信息,包括人像和面部识别功能等生物识别信息,身份证,军官证,护照,驾驶执照,社会保险卡,居留卡等身份信息。个人敏感信息,如芝麻信贷。

对于用户而言,ZAO面部更改服务的最大风险在于收集用户的面部数据。 ZAO承担的个人信息安全义务包括制定完整合法的隐私政策,向用户展示收集和使用个人信息的目的,方式和范围,并建立完善的个人信息安全保护措施。

ZAO的出现意味着AI深度变脸技术的门槛大大降低。当相关的伪造视频和视频被非法分子使用时,将给国家安全,新闻和舆论,公安,刑事审判,政府通信等领域带来许多不可预测的风险。

我们的记者赵莉

8月30日晚,ZAO是一款改变面貌的软件,其口号是“Just one photo,在世界上发挥最大作用”,在社交平台上引发病毒传播。

9月3日,ZAO用户隐私协议对媒体公开报道和用户曝光不规范,存在数据泄露风险等数据安全风险。北京莫莫科技有限公司工业和信息化部网络安全管理局莫莫科技相关负责人进行了采访。

在采访中,网络安全管理局要求莫莫科技严格按照国家法律法规和有关主管部门的要求组织自查和整改,依法收集和使用用户个人信息,规范协议,并加强网络数据和用户。个人信息安全保护。同时,有必要进一步加强对新技术和新业务的安全评估,采取有效措施,积极防范因使用自身业务平台使用电信网络欺诈所带来的潜在风险。

用户协议存在争议

容易造成隐私泄露

在ZAO开始流行后不到24小时,由于隐私和安全问题,它引起了集体焦虑。

“有手机号码,面部图像和技术综合。犯罪分子可以与您和您的家人交谈。“用户对ZAO披露个人隐私的担忧反映在此用户评论中。

据了解,在隐私政策中,ZAO收集的用户隐私信息范围极广,包括生物识别信息,如肖像和面部识别功能,身份证,军官卡,护照,驾驶执照,社会保险卡,居留证等。和其他身份信息,以及芝麻信用等个人敏感信息。

9月1日,ZAO修改了争议的部分内容,主要表现在四个方面:删除了用户授权ZAO“不可撤销,永久,可转让和可再授权的权利”的权利;删除ZAO可以“全部或部分”修改“用户内容”;删除ZAO可以替换用户语音的规则;删除ZAO拥有的用户内容“版权所有者享有的所有版权产权和相邻权利,由版权法。“

但是,修订后的条款仍有争议。例如,授权对象是ZAO和ZAO用户。在这方面,中国政法大学通信法研究中心副主任朱伟认为,授权目标包括ZAO用户,其范围太大,没有单独的提示,所以它是容易混淆相关概念。

ZAO还在用户协议开始时添加了“特殊提示”。用户授权内容“仅用于为您上传/发布短视频,并使用技术在本地修改平台上的短视频以生成新的短视频。相关内容将严格按照相关法律法规保存在ZAO上,除了除非ZAO旨在改善ZAO提供的服务或获得您的进一步同意,否则ZAO不会以任何其他形式或目的使用上述内容。

9月1日下午,ZAO官方助理未经授权的微博账户发出消息称我们完全理解您对隐私的担忧。您的所有问题都已收到。如果我们不仔细考虑,我们会改变它们。这需要一点时间。

但这还不足以消除用户的关注。由于修订后的条款也未规定收集和使用用户信息的具体情况,如“为了改善ZAO提供的服务”中的“特别提示”,因此没有明确的服务清单需要改进。

在朱伟看来,事件发生后讨论了“隐私泄漏”,但自从网络安全法出台以来,人们倾向于推进安全防控。网络安全法不仅规范了事件发生后的披露和管理,还包括检查提供网络服务的平台,以确保数据安全和核心隐藏。私营部门能否达到相关标准。

除了侵权外,还有网友担心,由于人脸识别已经应用于支付方案,否则将面临信息泄漏导致账户被盗?

在这方面,支付宝安全中心于8月31日宣布,“无论面貌变化软件多么逼真,都不可能突破面子支付”,面部支付是基于3D人脸识别技术,面部识别之前,通过软件和硬件的组合检测,确定收集的面部是通过照片,视频还是软件模拟生成的,可以有效避免各种面部伪造造成的身份欺诈。

“支付面对面软件滥用威胁的问题是矛和盾的问题。许多面对付费的软件并非100%保证不被利用,但有很多方法可以大大降低风险。 “中国科学院神经科学博士刘耀文告诉《法制日报》记者,例如,视频是逐帧的。目前的人脸识别是深入认识。录制视频时,眼睛与图片不同,图片不闪烁。此外,还可以通过左转和右转的某种行为来确定它是否存在。 “当然,一些面向付费的软件将具有地理和技术安全的优势,但一些不安全的支付不能那么严格。”

此外,ZAO仍然存在肖像权和版权等知识产权风险。例如,用户在“更改面部”之前未获得星级授权。法律界人士认为,ZAO版权声明中没有商业版权概念“没有材料的商业版权”。版权归版权所有。只要它没有被授权使用其他人的作品进行传播,它就侵犯了他人的版权,尽管ZAO没有。通过作品直接收费,但整个平台传播改变的影视剧作品,以吸引用户,然后探索其他商业模式。

ZAO版权声明还指出,水印将在用户生成的作品上加水印以区分它们,但这些并不能保证ZAO不会侵犯。如果用户无法获得授权,则用户将发送修改的视频资料。如果内容构成作品,则侵犯版权所有者的权利,以保护作品的完整性和传播信息的权利。

面部数据需要认真对待

一旦泄漏的风险无法预测

然而,在行业看来,用户的真正风险既不是无效的用户协议,也可以通过诉讼或监督,或不合理的肖像权利安排,也不是版权侵权问题。或转移,一个可能完全不受“生物识别信息”控制的安全问题。

“人脸识别是个人身份识别个性化信息的核心,也是隐私保护的核心。”朱熹说。

对于用户来说,ZAO变脸服务的最大风险是用户面部数据的收集。毕竟,面部信息的细节太丰富了。它是一种“生物信息”。可以说这是非常敏感的个人信息。一旦泄露,它比在上网时产生的数据信息泄漏风险更大。

据中国传媒大学政法学院法律系副主任郑宁介绍,变脸技术主要涉及生物信息的采集,是敏感信息。根据“网络安全法”第41条,网络运营商在收集和使用个人信息,公开收集和使用规则时应遵循合法,正义和必要的原则,并明确说明收集和使用的目的,方式和范围。使用信息。收件人同意。网络运营商不得收集与其提供的服务无关的个人信息,不得违反法律,行政法规和双方协议的规定收集或者使用个人信息,并按照法律,行政法规的规定以及与用户的协议。个人信息。

同时,“民法通则”第111条规定,自然人的个人信息受法律保护。任何需要获取他人个人信息的组织或者个人,应当依法取得并保证信息的安全,不得非法收集,使用,处理,传播他人的个人信息,不得非法买卖。或披露他人的个人信息。

“然后,ZAO的个人信息安全义务包括建立完整合法的隐私政策,明确向用户说明收集和使用个人信息的目的,方式,范围,以及建立健全的个人信息安全保护措施,”郑宁说。

因此,刘耀文也认为:“人们的担忧是合理的。最大的问题可能是安全性,也可能是侵权行为。这种改变面貌的软件应用程序可能会导致用户侵犯名人和用户的权利。信息归平台所有。生物识别信息是最大的风险。由于软件的合同条款规定了合理使用和永久授权,因此无法判断他们将如何处理我们的信息。“

不仅如此,业内专家还表示,这种应用的出现意味着使用AI深层改变技术的门槛大大降低。当相关的伪对比音频和视频被犯罪分子使用时,它将用于国家安全,舆论,公共安全,刑事审判,政府通信等领域带来许多不可预测的风险。

首先,从国家安全的角度来看,当国家领导人和其他关键人物恶意使用高度逼真的虚假视频时,它不仅会导致领导者形象的损害,而且如果伪造的领导者发布的政治观点与国家安全或指示将导致严重后果。虽然在中国没有这种情况,但在美国,经常会出现面对派对攻击和娱乐的变脸视频。例如,在2018年4月,美国娱乐网站Buzzfeed发布了由网友制作的改变面貌的视频。其中,美国前总统奥巴马利用他的声音和他惯常的行动来讲述他从未说过的故事。

其次,从舆论传播的角度来看,如果人工智能深度改变人脸技术制作的虚假视频与社交网络相结合,不仅会使假新闻难以识别,还会导致谣言的传播。例如,来自印度的记者通过使用人工智能变脸技术揭露了印度古吉拉特邦骚乱官员的阴暗和无所作为,制造了大量的道歉视频,这严重影响了当地民意的方向。

最后,人工智能变脸技术也可能对公共安全和刑事审判产生不同程度的负面影响。例如,犯罪分子可以使用图片和视频冒充他人与他人聊天和交易,不仅危及他人的隐私,财产安全,甚至生命安全都可能受到威胁。在司法当局调查和收集证据期间伪造的视频和视频证据也可能干扰司法程序。

“核心风险是个人信息安全问题。一旦面部改变软件被滥用,它将产生负面影响。研究人员应遵循科技伦理,企业合规和风险控制部门应加强对法律风险的审查,政府部门要加强监督,行业组织加强自律,公民积极抱怨和举报。“郑宁说。

资料来源:法制日报

收集报告投诉

讨论了一夜红色爆发导致病毒传播和数据泄漏。

改变面部软件的风险不容忽视

ZAO一夜之间爆发出红色,引起了人工智能变脸软件的普遍关注,但也因为过度收集用户的个人信息而受到广泛质疑。 9月1日,该软件的微信共享链接已经停止,由此产生的隐私和安全纠纷仍在继续。人们对人工智能未来发展方向的讨论正变得越来越激烈。

技术一直是一把双刃剑。如何使技术进步服务于人类社会和经济的发展,是全社会需要思考的重要问题。为此,本报今天发布专题报道,梳理出人工智能发展带来的相关法律问题和科技伦理风险,敬请关注。

●在隐私政策中,ZAO收集的用户隐私信息范围极广,包括人像信息,如肖像和面部识别功能,身份证,军官卡,护照,驾驶执照,社会保险卡,居留许可等身份信息。信息,以及芝麻信贷。个人敏感信息

●对于用户而言,ZAO变脸服务的最大风险是用户面部数据的收集。 ZAO承担的个人信息安全义务包括建立完整合法的隐私政策,收集和使用个人信息的目的,方式和范围,以及建立全面的个人信息安全保护措施。

●ZAO的出现意味着大大减少了使用AI深层更换技术的门槛。当相关的伪对比音频和视频被犯罪分子使用时,将在国家安全,新闻舆论,公共安全,刑事审判,政府通信等领域带来许多不可预测的问题。风险

我们的记者赵莉

8月30日晚,改变面貌的变脸软件ZAO用“只有一张照片,在世界上出演”的口号刷新了屏幕,引发了社交平台的病毒式传播。

9月3日,ZAO用户隐私协议对媒体公开报道和用户曝光不规范,存在数据泄露风险等数据安全风险。北京莫莫科技有限公司工业和信息化部网络安全管理局莫莫科技相关负责人进行了采访。

在采访中,网络安全管理局要求莫莫科技严格按照国家法律法规和有关主管部门的要求组织自查和整改,依法收集和使用用户个人信息,规范协议,并加强网络数据和用户。个人信息安全保护。同时,有必要进一步加强对新技术和新业务的安全评估,采取有效措施,积极防范因使用自身业务平台使用电信网络欺诈所带来的潜在风险。

用户协议存在争议

容易造成隐私泄露

在ZAO开始流行后不到24小时,由于隐私和安全问题,它引起了集体焦虑。

“有手机号码,面部图像和技术综合。犯罪分子可以与您和您的家人交谈。“用户对ZAO披露个人隐私的担忧反映在此用户评论中。

据了解,在隐私政策中,ZAO收集的用户隐私信息范围极广,包括生物识别信息,如肖像和面部识别功能,身份证,军官卡,护照,驾驶执照,社会保险卡,居留证等。和其他身份信息,以及芝麻信用等个人敏感信息。

9月1日,ZAO修改了争议的部分内容,主要表现在四个方面:删除了用户授权ZAO“不可撤销,永久,可转让和可再授权的权利”的权利;删除ZAO可以“全部或部分”修改“用户内容”;删除ZAO可以替换用户语音的规则;删除ZAO拥有的用户内容“版权所有者享有的所有版权产权和相邻权利,由版权法。“

但是,修订后的条款仍有争议。例如,授权对象是ZAO和ZAO用户。在这方面,中国政法大学传播法研究中心副主任朱熹认为,授权对象包括ZAO用户,其范围太大,并没有单独的提示,这很容易混淆相关概念。

ZAO还在用户协议开始时添加了“特别提醒”,即用户授权内容“仅用于向您提供上传/发布短视频,并使用技术在本地修改平台上的短视频以生成新的短视频。”相关内容将严格按照相关法律法规保留在ZAO上,除非ZAO不会以任何其他形式或目的使用上述内容,以改善ZAO提供的服务或再次获得您的同意。

9月1日下午,未经证明的微博帐户“ZAO官方助理”发出消息说我们完全理解每个人对隐私问题的担忧。您提出的问题已经收到,我们将在一个没有经过深思熟虑的地方进行更改。这需要一些时间。

但这还不足以消除用户的担忧。由于修订后的条款没有具体说明收集和使用用户信息的具体情况,例如“为了改善ZAO提供的服务”中的“特别提示”,没有明确列出哪些服务需要改进。

在朱熹的观点中,事件发生后讨论了之前的“隐私披露”。但是,自从引入网络安全法以来,每个人都更倾向于推动安全风险控制。网络安全法不仅在事后泄露,而且还管理此事。该法规还包括检查提供网络服务的平台,以及它们是否能够满足数据安全性和核心隐私方面的相关标准。

除了侵权问题外,还有网友担心,由于在支付方案中已经应用了面部识别,面部信息的泄露会导致账户被盗?

在这方面,支付宝安全中心于8月31日宣布,“无论面貌变化软件多么逼真,都不可能突破面子支付”,面部支付是基于3D人脸识别技术,面部识别之前,通过软件和硬件的组合检测,确定收集的面部是通过照片,视频还是软件模拟生成的,可以有效避免各种面部伪造造成的身份欺诈。

“支付面对面软件滥用威胁的问题是矛和盾的问题。许多面对付费的软件并非100%保证不被利用,但有很多方法可以大大降低风险。 “中国科学院神经科学博士刘耀文告诉《法制日报》记者,例如,视频是逐帧的。目前的人脸识别是深入认识。录制视频时,眼睛与图片不同,图片不闪烁。此外,还可以通过左转和右转的某种行为来确定它是否存在。 “当然,一些面向付费的软件将具有地理和技术安全的优势,但一些不安全的支付不能那么严格。”

此外,早还存在肖像权、着作权等知识产权风险。例如,用户在“换脸”之前没有获得星级授权。法律界人士认为,早《着作权公告》中没有商业着作权的概念,没有“物质的商业着作权”。版权就是版权。只要它没有被授权使用他人的作品来传播,它就侵犯了他人的版权,尽管zao没有。直接通过作品来收费,但整个平台要通过传播改变后的影视剧作品来吸引用户,然后再探索其他的商业模式。

《zao版权声明》还声明,将在用户生成的作品上标注水印以区分它们,但这些并不保证zao不会侵权。如果用户无法获得授权,则用户将传输修改后的视频材料。内容构成作品的,侵犯着作权人保护作品完整性和信息传播权的权利。

需要认真对待面部数据

一旦泄漏风险无法预测

然而,在业内人士看来,落到用户身上的真正风险,既不是可以通过诉讼或监督确认的无效用户协议,也不是不合理的肖像权安排,更不是版权侵权问题。或传输,可能完全无法控制“生物特征信息”的安全问题。

朱熹说:“人脸识别是个人身份个性化信息的核心,也是隐私保护的核心。

对于用户来说,zao变脸服务最大的风险就是收集用户的变脸数据。毕竟,面部信息的细节太丰富了。它是一种“生物信息”。可以说,这是非常敏感的个人信息。一旦被泄露,其风险远远大于上网时产生的数据信息泄露。

据中国传媒大学政法学院法律系副主任郑宁介绍,变脸技术主要涉及生物信息的采集,是敏感信息。根据《网络安全法》第四十一条的规定,网络经营者收集、使用个人信息,公开收集、使用规则,应当遵循合法、公正、必要的原则,并明确表明目的,收集和使用信息的方式和范围。收件人同意。网络运营商不得收集与其提供的服务无关的个人信息,不得违反法律、行政法规和当事人协议的规定收集、使用个人信息,并依照法律、行政法规的规定和与用户的约定办理。个人信息。

同时,《民法通则》第111条规定,自然人的个人信息受法律保护。任何组织和个人需要获取他人个人信息的,应当依法获取和保障信息的安全,不得非法收集、使用、处理、传递他人的个人信息,不得非法买卖、泄露他人的个人信息。他人的个人信息。

“那么,zao的个人信息安全义务包括制定完整合法的隐私政策,明确向用户表明收集和使用个人信息的目的、方式、范围,并制定完善的个人信息安全保护措施,郑宁说。

为此,刘耀文也认为:“人们的担忧是合理的。最大的问题可能是安全,以及侵权。这种变脸的软件应用可能会导致用户侵犯名人以及用户的权利。个人信息归平台所有。生物特征信息是最大的风险。由于软件的合同条款规定了合理使用和永久授权,因此无法判断他们将如何处理我们的信息。”

不仅如此,业内专家还表示,这种应用的出现,意味着人工智能深度变脸技术的使用门槛大大降低。当相关的伪对比音视频被犯罪分子使用时,会给国家安全、舆论、公共安全、刑事审判、政府通信等领域带来许多不可预测的风险。

首先,从国家安全的角度来看,当国家领导人和其他关键人物恶意使用高度逼真的虚假视频时,它不仅会导致领导者形象的损害,而且如果伪造的领导者发布的政治观点与国家安全或指示将导致严重后果。虽然在中国没有这种情况,但在美国,经常会出现面对派对攻击和娱乐的变脸视频。例如,在2018年4月,美国娱乐网站Buzzfeed发布了由网友制作的改变面貌的视频。其中,美国前总统奥巴马利用他的声音和他惯常的行动来讲述他从未说过的故事。

其次,从舆论传播的角度来看,如果人工智能深度改变人脸技术制作的虚假视频与社交网络相结合,不仅会使假新闻难以识别,还会导致谣言的传播。例如,来自印度的记者通过使用人工智能变脸技术揭露了印度古吉拉特邦骚乱官员的阴暗和无所作为,制造了大量的道歉视频,这严重影响了当地民意的方向。

最后,人工智能变脸技术也可能对公共安全和刑事审判产生不同程度的负面影响。例如,犯罪分子可以使用图片和视频冒充他人与他人聊天和交易,不仅危及他人的隐私,财产安全,甚至生命安全都可能受到威胁。在司法当局调查和收集证据期间伪造的视频和视频证据也可能干扰司法程序。

“核心风险是个人信息安全问题。一旦面部改变软件被滥用,它将产生负面影响。研究人员应遵循科技伦理,企业合规和风险控制部门应加强对法律风险的审查,政府部门要加强监督,行业组织加强自律,公民积极抱怨和举报。“郑宁说。

资料来源:法制日报

热门浏览
热门排行榜
热门标签
日期归档