设为首页 | 加入收藏 | 网站导航
热点:
当前位置:首页 > 新闻频道 > 记者调查 > 正文
换脸软件ZAO遭遇滑铁卢 或推动人工智能前瞻性立法进程
时间:2019-09-06 10:01:12    来源:法制日报    

  对话人

  中国传媒大学网络法与知识产权研究中心主任   王四新

  北京师范大学法学院网络与智慧社会法治研究中心主任  刘德良

  中国传媒大学政法学院法律系副主任 郑 宁

  记者:针对AI深度换脸技术风险多发,有关网络安全法律专家认为,必须高度警惕这种技术被恶意使用的风险,尽快开展法律风险评估。

  王四新:我们需要对它进行安全评估,这种安全评估也是有法律依据的,网络安全法、网信办制定的规范性文件都有相应要求。安全评估需要弄清楚的是,实际运作过程中可能会存在哪些风险,针对这些风险,我们可以采取哪些措施。只有这些问题全部落实,才可以正常运转。

  记者:今年6月13日,美国众议院情报委员会召开关于人工智能深度伪造的听证会,公开谈论了深度伪造技术对国家、社会和个人的风险及防范和应对措施。随着AI技术的深度应用,也有不少业内人士提出,我们必须高度警惕这种技术被恶意使用的风险。但对深度伪造的内容不能一棍子打死,很多深度伪造的合成媒体内容具有存在的正当性,只有影响国家安全、公共安全、民主政治的虚假信息才需要加强监管和规制。涉及刑事犯罪和一般网络侵权的深度伪造适用不同的规制。

  王四新:要构建非常完备的内部制度,或者说构建一个比较好的体制和机制,对于这些发展过程中出现的问题,有一些特殊的流程。同时,还要建立有效的反馈机制。

  郑宁:对于深度伪造,要具体问题具体分析。如果不影响国家安全、公共安全、公民个人权利,比如电影特效,就不用太多干预,如果有影响才应当加以监管。具体的法律责任要看违法的严重程度,然后来判断承担民事责任、行政责任还是刑事责任。

  记者:有专家建议,立法部门应紧跟国际人工智能技术最新进展,联合国内专业研究力量,评估这项新技术可能带来的法律风险,以及对国家安全等构成的威胁,加快对类似新兴技术的前瞻性立法研究。

  郑宁:网络安全法第十七条规定,国家推进网络安全社会化服务体系建设,鼓励有关企业、机构开展网络安全认证、检测和风险评估等安全服务。对于新技术,应该开展安全评估,评估可以由社会组织或企业自行开展,政府部门监督检查。

  王四新:网络安全法是一个非常系统非常庞大的系统工程,需要企业全面履行主体责任,真正解决实践中出现的这些问题。

  刘德良:针对这种立法,可能在未来需要跨过一些坎。首先要转变观念,从关注个人信息的泄露转到滥用的方向。我认为障碍就在于观念问题,现在的主流看法都在强调泄露,而不在防止滥用上。

  在观念转变之后,再组织专家商讨、提案,或许情形很复杂,主体也不一样、侵犯的权益也不尽相同,要系统地规范什么叫滥用,滥用有哪些类型,如何从民法、行政法、刑法有效防止滥用。如果没有立法,司法也没有意义。

  记者:在您看来,防止泄露、绝对的保密是否无法做到,未来相关领域的立法重点应该在如何防止这些信息或数据的滥用?

  刘德良:相关法律法规的建立完善要具有可操作性,不能不利于大数据和人工智能产业的发展。大数据、人工智能产业本身就需要数据搜集,现在我们的个人信息已经存在于N个商家和机构中,泄露了也不知道从哪里泄露的,防止的不是泄露,关键在于不能滥用。

  从立法上要让进行身份识别的机构或者平台(比如银行、支付平台、电信公司、保险公司)去承担责任。如果用户的个人信息被盗用、滥用,有两种思路去问责:一是对这些机构、平台进行过错推定,除非能证明履行了核实比对义务,这种义务的标准随着技术、时代的变迁也会不断升级改变,需要司法按照这个标准去判定取证,来确定是否尽到义务,才可以免责,否则就要和假冒者一起承担连带责任;二是更加严苛,承担无过错责任。

  如果法律有这种规定,就会倒逼这些机构、平台认真核查比对,甚至会想方设法开发更新的技术手段,来有效避免身份假冒滥用。如果不这样立法,掌握个人信息的机构、平台就会把风险转嫁给被假冒者,让个人承担风险。(记者 赵丽)

编辑:薛艳真
关键字:
中原经济网版权与免责声明:
  • 1. 本网注明来源为中原经济网—河南经济报、中原经济网的稿件,版权均属于河南经济报社,未经河南经济报社授权,不得转载、摘编使用。
  • 2. 本网注明“来源:XXX(非中原经济网)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。本网转载其他媒体之稿件,意在为公众提供免费服务。如稿件版权单位或个人不想在本网发布,可与本网联系,本网视情况可立即将其撤除。
  • 3. 如涉及作品内容、版权等其它问题,请在30日内同本网联系。邮箱:jingjibao@qq.com
Copyright © 1987-2018 河南经济报社 中原经济网 版权所有 All Rights Reserved. 中原第一权威经济门户
联系邮箱:jingjibao@qq.com 报社办公室电话:0371-53306911
报纸广告热线:0371-53306913 53306918 报纸发行热线:0371-53306915
《河南经济报》国内统一刊号:CN41-0066   邮发代号:35-92
豫ICP备09031906号   技术支持: 河南经济报社网络部  法律顾问:高铁军