因涉及互联网新技术应用安全，多家企业近日被网信部门和公安机关约谈。
3月18日，针对近期未履行安全评估程序的语音社交软件和涉“深度伪造”技术的应用，国家网信办、公安部指导北京、天津、上海、浙江、广东等地方网信部门、公安机关，依法约谈快手、腾讯、阿里、字节跳动等11家企业。要求这些企业认真开展安全评估，完善风险防控机制和措施，并对安全评估中发现的安全隐患及时采取有效整改措施，切实履行企业信息内容安全主体责任。
未经安全评估的语音社交软件和涉“深度伪造”技术存在什么样的隐患？11家企业被约谈传递出什么信号？
专家分析，国家网信办对近来社会反响强烈的新技术、新应用场景进行及时回应，对网络信息内容相关公共安全风险进行及时预警，强调对新上线和重大变更的互联网信息服务进行事前规制。通过个别约谈、依法督促相关企业履行主体责任，在具体场景中明确企业的作为义务，意在提醒更多的市场主体和社会公众正视安全隐患，实现有效事先风险管理。
中国版Clubhouse们未经安全评估
国家网信办通报称，为加强对具有舆论属性或社会动员能力的互联网信息服务和相关新技术新应用的安全管理，开展语音社交软件和涉“深度伪造”技术的互联网新技术新应用安全评估。
因未履行安全评估程序，共有11家企业被约谈，分别是映客、小米、快手、字节跳动、鲸准数服、云账户、喜马拉雅、阿里巴巴、网易云音乐、腾讯、去演等。
据业内人士介绍，语音社交软件主要指即时语音聊天互动App，以近期爆红的Clubhouse为代表。Clubhouse于2020年3月诞生于美国，它的爆红始于“硅谷钢铁侠”埃隆·马斯克等名人的站台，马斯克在2021年2月1日透露将在Clubhouse上进行分享后，他所在的语音房间瞬间涌入5000 人。一时间，Clubhouse成为爆款软件。
很快，国内各大企业争相推出自己的版本。开发出“中国首款Clubhouse”的正是出现在约谈名单中第一位的映客，映客在2020年2月初上线一款名为“对话吧”的产品，12天后就被下架。据《证券日报》报道，“对话吧”从确定要做开始，整个产品从研发、设计到测试，仅用6天时间。匆忙上线的“对话吧”并未获得良好市场评价，有用户反馈称“有卡顿，尽管很像Clubhouse，但产品设计并不流畅”。
各大企业都不想错过这波热潮，国内涌现出几十个类似Clubhouse的产品。在宣布停止服务的一周后，小米旗下的“米聊”便又复活，被外界解读为米聊想做“中国版Clubhouse”。快手的“飞船”开启内测，阿里巴巴旗下的Meetclub在春节前也已开始内测。另有媒体报道，字节跳动正在为中国市场开发一款类似于Clubhouse的产品。而鲸准推出Capital coffee，网易云音乐也增加一个全新对谈互动新模式“侃侃”。而上述这些公司都出现在本次约谈名单中。
图片“复活”后的米聊界面
中国传媒大学人类命运共同体研究院副院长王四新介绍，继美国出现Clubhouse后，中国的互联网服务提供商也在发力语音社交这一领域，但目前尚未出现现象级的应用。他透露，“映客在春节前推出的这款软件（对话吧），因为没有进行安全评估，被网信办要求下架”。映客相关负责人回复《财经》E法时表示，“对话吧”下架的原因是“技术升级调整”。
王四新分析，国家网信办此次约谈，意在提醒企业加强安全评估意识，避免未来更多的应用出现先上线后评估，或者上线后也不进行安全评估的现象。
国家网信办要求被约谈的企业认真开展安全评估，完善风险防控机制和措施，并对安全评估中发现的安全隐患及时采取有效整改措施，切实履行企业信息内容安全主体责任。
王四新告诉《财经》E法，所谓安全评估，主要是确定提供信息服务过程中是否存在信息安全的问题。比如，在硬件安全方面，要确保服务过程中产生的数据不会非法流入第三方。在信息服务过程中，要对整个信息服务流程进行监管，对于借助这种信息服务实施的违法犯罪行为，要做到有效识别、跟踪和管控等，“当然也包括平台履行安全责任的相关制度是否到位，还包括对用户信息安全、用户隐私的保护等”。王四新说。
“深度伪造”技术存在公共风险
通报亦提及涉“深度伪造”技术的应用。北京师范大学网络法治国际中心执行主任吴沈括介绍，“深度伪造”技术主要基于生物特征的复制，指利用人工智能技术将个人的声音、面部表情及身体动作拼接合成虚假内容，常见形式是各种“换脸”类应用，比如近期刷屏的“蚂蚁呀嘿”短视频应用。
去演的官方介绍称，可实现AI视频换脸。
去演可能正是因涉及“深度伪造”技术而被约谈。去演在网站上介绍称，可实现AI视频换脸，它在苹果商店的简介则表示，可实现各种换脸需求，甚至在真人直播中也能实现AI换脸，“仅需一张照片，就可实现Gif表情包、写真、视频等的一键换脸操作，用AI技术让自己成为最闪耀的明星“。
去演在的苹果App Store里的介绍显示，可实现各种形式的换脸操作
吴沈括指出，深度伪造技术存在公共风险。比如，通过合成视频伪造身份，犯罪分子可能利用这项技术实施精准的电信诈骗。近期曝出，在一些视频网站上，有一些人通过合成的图片和音视频假装明星，后期甚至进行直播带货，有人担心可能滋生电信诈骗。此外，吴沈括还指出，不法分子可能利用“深度伪造”技术生产不良信息，“比如通过换脸合成儿童色情信息，制作淫秽内容，会危害网络生态环境”。
中国社科院法学研究所研究员支振锋介绍，“深度伪造”技术还可能损害社会公共秩序。在美国，曾有人利用合成技术伪装成前总统奥巴马，并发表“视频演讲”，“如果有人对视频网络信息进行加工伪造，传递虚假政治信息，可能危害国家安全”。他指出，国家网信办的这次的约谈不是行政处罚，提醒意味更重，“在今天这样的自媒体时代，舆论的传播能带来社会煽动和动员能力，因此要加强对相关信息服务的管理”。
吴沈括表示，这些涉及“深度伪造”技术的应用，在新技术环境下，安全风险存在波及范围广、扩散速度快等特征，特别需要企业谨慎上线新应用、全面评估新风险，及时履行企业信息内容安全的主体责任。
提醒开发者莫忘安全
国家网信办指出，根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》要求，出现相关情形时，互联网信息服务提供者应当自行开展安全评估，对评估结果负责，并向网信部门和公安机关提交报告。网信部门和公安机关根据对安全评估报告的书面审查情况，认为有必要的，应当依据各自职责对互联网信息服务提供者开展现场检查。
需要开展安全评估的情形包括：具有舆论属性或社会动员能力的信息服务上线，或者信息服务增设相关功能；使用新技术新应用，使信息服务的功能属性、技术实现方式、基础资源配置等发生重大变更；用户规模显著增加等。
吴沈括指出，上述信息服务安全评估规定的适用范围具有特定性，是针对那些公众覆盖面广、社会影响力大的互联网信息服务。比如，最近火爆的Clubhouse等新应用，就属于具有舆论属性或社会动员能力的信息服务。“对于这些公共安全风险较高的应用，企业需要履行双重义务，也即自行安全评估和报告监管机关，由此来实现安全风险的双重管理”。吴沈括说。
根据法律法规的要求，新技术新应用上线和有重大更新之前，企业应在事先开展安全评估，并向网信部门和公安机关提交报告。
王四新分析，要求企业履行安全评估的义务，对这些应用产生的安全问题进行前置性的防范，是预防性的措施。据他介绍，这并非首次要求对企业的新技术新应用实行安全评估，此前字节跳动上线多闪、微信增加新功能、小红书经过整改后重新上线时，都经过相应的安全评估。
“这次的通报主要是提醒应用开发者不要忘记安全评估这一基本义务，对于已经开始提供服务的新技术新应用企业也是警醒作用，如果在实践中存在安全问题需要承担相应的法律责任”。王四新表示，企业应当通过安全评估，查找可能存在的风险点和安全隐患，对于可能引发的信息安全问题准备相应预案。
国家网信办、公安部在通报中表示，将继续指导各地网信部门和公安机关加大巡查检查力度，督促属地互联网企业严格遵守相关法律法规，积极主动履行安全管理义务，切实履行企业主体责任，共同维护网络传播秩序，营造良好网络生态。
对于本次被约谈的具体原因，以及是否有相应整改措施，《财经》E法联系映客、腾讯、阿里巴巴、字节跳动、快手等企业，对方皆表示不予置评。
