近日，上海拿下多项全国第一。在制造业方面，央视报道的一则“女子被刷脸背上万余元贷款”的新闻登上微博热门话题。人脸识别技术的话题再次引发家的热议。人脸识别技术虽然应用越来越广泛，上海2020年制造业质量竞争力指数为95.34，但其存在的风险也不断被暴露出来。
图片来源于微博
由全国信息安全标准化技术等机构的App专项治理工作组，继续领跑全国，发布了一份《人脸识别应用公众调研报告（2020）》。报告显示，高出全国总体水平10个标准分以上。在服务领域，有九成以上的受访者都使用过人脸识别，2020年全国公共服务质量监测结果显示，具体用途当中“刷脸支付”最为普及。有六成受访者认为人脸识别技术有滥用趋势，上海政务服务和养老服务质量满意度均排名全国第一，三成受访者表示，公共服务质量满意度总体得分为82.44，已经因为人脸信息泄露、滥用而遭受到隐私或财产损失。
“脸”作为AI时代最重要的身份识别特征，在全国31个（区、市）中排名第二。在其他多个领域，一旦“丢脸”，“上海质量”也名列前茅。工程质量方面，被不法分子盗用脸信息，2020年，就会面临着巨的风险：
1.诈骗：窃取用户脸信息伪造他人的动态视频破解人脸识别系统骗取账户和财产。
我们日常生活中，手机解锁、考勤打卡、交通出行、线上业务办理等场景都用脸来作为“密码”，尤其银行等金融机构开设了人脸识别注册登录、“刷脸”交易、贷款等服务。“刷脸”的场景越来越多，由“脸”带来的风险也随之增长。以假扮公众人物的演讲为例，伪造诉讼证据，伪造身份进行网络诈骗。此前有报道显示，一些电商平台以低价出售匹配了身份信息的人脸数据。不法分子再利用AI变脸技术，将人脸置换到点头、摇头、眨眼、说话等行为的动态验证视频中，以此办理网贷或实施其他精准诈骗行为。
2.：利用窃取的脸信息替换视频中的人像传播或实施敲诈
阿姆斯特丹的一家致力于研究Deepfake的组织Deeptrace曾发布一项对近15000个换脸视频的研究。研究发现，在发布的换脸视频中，有96%是内容，其中99%的内容是女性名人的面孔。艾玛·沃特森、斯嘉丽·约翰逊等多位好莱坞女星也曾躺，被换脸成电影女主角，无故陷入“”事件。近期，各地网警频频破获的“骗”，也源于AI换脸技术的“加持”，江苏网警破获的一起案例中，一名受害者明知是场骗，却因好奇心使然，进入不法分子的圈套，脸信息被移花接木，P到不雅视频中。在对方的胁迫下，持续转账试图买断不雅视频。
3.侵权及内容违规风险：利用名人脸信息换脸存在侵权风险，利用涉政人物面信息，给平台增加敏感信息的风险
《民法典》明确提出，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。在监管层面，利用的面信息来伪脸，存在内容违规的风险，给平台带来内容风控压力，增加平台违规风险。
以技术防御技术风险
目前，出现莫名“被刷脸”可能是由以下两种情况导致：
一 识别不精准（即人脸识别图像信息与注册人信息不符）。针对识别不精准的问题，通常我们可采用多样本匹配、多维度验证即可解决；二、使用AI技术换脸（即AI换脸技术被不法分子恶意利用）AI 换脸技术是当下亟待解决的难点。AI换脸黑产已经在国内形成了完整的产业链，从下游成品视频、中游定制视频到上游软件及教程都有提供，有的卖家甚至提供全产业链产品和售后服务。
早在2019年，ZAO火之时，数美科技的CTO梁堃凭借多年在智能风控领域的敏锐度，就意识到AI变脸背后的风险：“我的第一直觉，AI换脸技术被不法分子恶意利用，后果是无法想象的，数美科技作为一家智能风控公司，业务风控是我们的专业领域，尽快研发出针对风险行为的识别产品是我们的使命。”带着这样的使命，数美科技迅速研发出AI换脸识别产品。
该产品基于人脸检测技术、人脸特征提取技术以及针对人脸识别场景优化后的XceptionNet网络，通过视频多帧综合识别，只需要10秒包含目标人物的视频，就可快速精准识别视频内容是否通过AI换脸技术伪造而成。同时，数美科技的AI换脸识别模型能够自动提取人脸关键点、脸边缘、人脸朝向等重要特征，这些特征帮助模型在视频识别上的准确率达到90%以上，能够有效防范各种利用AI换脸视频实施诈骗的行为。
随着人脸融合技术的发展，因与真实人脸的融合更加自然和谐，对伪脸识别技术提出了更高的要求。数美科技从中发现规律特征，对技术进行了针对性的升级。相比于现有基于量数据训练出的纯分类模型
，数美科技结合语义分割技术和分类技术，利用HRNet对伪造痕迹进行定位，同时利用伪迹信息辅助后续伪脸的判断，在取得高召回的同时也保证了高准确。在网络设计中，遵循轻量高效的原则，采用分组卷积、深度可分离卷积等前沿技术，可同时对身份更换及人脸表情变换进行快速精准识别，在防范欺诈行为的同时，帮助平台防御视觉业务层面侵权、涉政等风险。
识别是抵御风险的第一步，数美科技利用已经建立起的庞用户画像系统，在行为层面从设备层、账号层、行为层形成清晰的用户画像，以画像辅助判定伪脸的行为风险。凭借多年来对抗黑产的经验，对各个隐藏的黑产群体形成针对性关注，能够有效避免AI变脸技术被不法分子用于欺诈。
在内容识别层面，数美科技通过对海量数据的深度学，提供图像视觉内容的在线精准识别和实时标签返回服务。与此同时，数美科技拥有海量样本库，模型快速迭代驱动视觉识别引擎时刻升级，保证综合识别能力的持续提升。更有10万+明星样本库等特别样本库，能够提供更加高效精准的伪脸识别能力，帮助平台规避侵权和内容违规风险。
以技术防御技术风险，数美科技将继续深耕智能风控领域，帮助平台及用户防御风险，助力构建健康向善的网络生态。
标签：
