B118 刘晓春：从滴滴事件谈人脸信息处理技术应用对国家安全的威胁和应对

刘晓春：从滴滴事件谈人脸信息处理技术应用对国家安全的威胁和应对
点击：  作者：刘晓春    来源：昆仑策网【原创】  发布时间:2021-07-13 10:22:05

 







前期，政府对阿里巴巴、美团等互联网巨头企业进行反垄断调查、约谈和处罚。近日，又将“滴滴出行”等25款APP以存在严重违法违规收集使用个人信息问题从应用商店下架，并要求各网站、平台不得为上述25款已在应用商店下架的App提供访问和下载服务。




其实，在利用平台垄断经营、违规收集个人信息的背后，这些头部公司暴露出更可怕的技术和数据霸权。当前，网络、信息技术和数据已成为新型的基础设施和公共产品，并深度介入公共治理和社会监管。掌握技术、数据的企业和组织，与政府一起成为公共治理的有机力量。但是，一些头部公司在形成垄断后，利用优势地位裹挟政府，甚至对政府形成反制。特别是，一些敏感领域的信息技术和数据，如被别有用心者或敌对势力利用，会给国家和公共安全带来较大风险隐患。




随着计算机视觉、人工智能、大数据、机器学习、3D打印等技术飞速发展，对人脸这类生物特征信息的采集、处理、分析以及对人脸的合成、仿造应用得到爆发性增长，由于其广泛的商业前景和巨大的利益蓝海，各类企业、组织蜂拥而上，争抢风口。利之所聚，恶必随之。滥用、冒用、误用、恶意利用、非法使用人脸信息等乱象丛生，隐患重重。人脸作为个体生物特征，不仅涉及到个人权利、隐私，背后还隐藏着许多人类尚未掌握的密码和价值，属于社会基础性资源和国家战略资源，相关数据和技术应用关系着社会稳定、公共安全乃至国家安全、民族安全。因此，国家必须重视，对相关数据采集、存储、交换以及技术、应用，从法律、制度、技术、管理多层面进行顶层设计和统筹规划。




本文试以人脸信息处理相关技术和应用，浅论对国家安全的影响和应对措施。

 

一、当前人脸信息处理涉及的主要技术




1. 人脸识别：基于人的脸部特征信息进行身份识别的一种生物识别技术。用摄像机或摄像头采集含有人脸的图像或视频流，并自动在图像中检测和跟踪人脸，进而对检测到的人脸信息进行处理的一系列相关技术，包括：人脸图像采集及检测、人脸图像预处理、人脸图像特征提取以及匹配与识别。




2. 人脸合成：从人脸数据还原为人脸图像或视频；




3. 人脸融合：将多张人脸图像融合成一张人脸图像，使后者具备多张人脸的特征；




4. 人脸“创造”：依据大数据建模技术“创造”自然界并不存在的“人脸”图像，再通过3D打印等仿造技术进行面具、模型生产；




5. AI换脸：在计算机图形或视频中将甲脸移植到乙身，实现移花接木；




6. 人脸诊断：依据人脸信息进行个体和群体的种族、性别、年龄、性格、情绪、生理、遗传、疾病的分析判定诊断。




以上各种技术的划分不是绝对的，而是你中有我，我中有你，并且相互依赖，相互渗透，相互对抗，相互促进。




二、人脸及人脸数据的独特价值




1. 人脸是个体独有的个人信息。作为生物个体与生俱来的生理特征，人脸具有唯一性、直接识别性，不可更改性，易采集性等特点，是一种非“身”的身份，许多场景下就代表着个体本身。因此人脸与肖像权、隐私权密不可分，是最基础的个人信息。




2. 人脸相关技术应用背后利益巨大。人脸识别认证身份的高效、便捷性，使得其在政务、电子商务、安全防务、金融及教育娱乐等领域推广应用潜力无限。人脸侦测、换脸等技术有巨大的商业利益和社会价值。




3. 人脸蕴含生物密码。人脸具有终身性和唯一性，一旦泄露无可挽回。特定种族有相对固定的人脸模型，背后隐藏着该种族的生物密码。保护好一个种族的人脸数据，就像保护这个种族的基因库一样，是限制敌对方开发针对本种族的生物武器的关键。




4. 人脸数据的衍生价值巨大。依据生物全息理论，人脸背后蕴含着种族、性格、生理、遗传、疾病等信息。相由心生，心由相“识”，基于深度机器学习，人脸诊断在教育、医疗、人力资源管理方面也有广阔前景，可以开发价值巨大的公共产品。




三、当前人脸相关数据技术应用隐患重重




1. 人脸数据采集乱象丛生。一是国内各种企业、组织，无论是否正当、有无必要、能否保护，为追求经济利益和管理便利，广泛通过社交平台、电子商务、娱乐美容等软件采集用户人脸数据，小区、商家、地产销售的门禁、智能摄像头也随时随地抓拍各类人群的人脸数据；二是我国公众对个人信息保护意识薄弱，随意使用面相分析、换脸、换装、试妆、测肤质等娱乐小程序，或者在社交软件内“晒”、“秀”、“萌”，将自己与朋友家人的照片、视频轻易发布到互联网；三是境内外公司利用热销的硬件产品（苹果手机、智能手表、特斯拉汽车、谷歌智能穿戴设备）和流行的软件产品（如脸书、Whatsapp、Zoom）悄无声息地采集用户的人脸、指纹等信息。四是居心叵测的某些国家，堂而皇之采集我国入境游客的面孔、虹膜及指纹数据。




2. 人脸数据传输存储共享保障机制缺失。一是当前关于人脸相关技术产品生产企业资质、产品的安全标准和市场准入标准、数据的存储资质和时限，以及对已获取数据的使用权限等缺少明确规定；二是人脸数据采集、传输、存储基于的网络、芯片、操作系统、数据库等信息环境，我国自主可控不足，信息安全能力水平不高，被攻击窃取的可能性极大；三是一些政府部门在与企业合作中，或多或少存在数据腐败和失误，在数据融合时将相关联的公民隐私信息提供给企业，进而被企业私自留存挪用；四是研发企业和提供应用服务的境内外企业诚信良莠不齐，安全意识不足，能力水平参差，在数据存储和使用中缺乏透明度，难以保证合法、合理、负责任地管理数据。因此，人脸数据存在非监管状态被无序采集、无心泄漏、恶意窃取、过度滥用、非法交易等现象。




3. 人脸相关应用技术存在漏洞和被反制可能。当前，中国在部分人脸信息处理技术中处于领先地位，但无论何种技术，都存在漏洞和被恶意攻击反制的可能。如高仿造人脸面具、照片“活化”技术、人脸动效技术“欺骗”采集识别设备；识别算法干扰程序、AI对抗算法、逃逸攻击以及数据污染可以攻击人脸识别算法程序；AI换脸技术结合声纹识别、步态识别，编造出的视频真假难辨。虽然相关技术也在不断进步，但反制技术也在攻守中快速迭代，没有永远安全且无风险的技术。




四、人脸信息处理技术给国家和公共安全带来的潜在风险




1．危害国家安全的违法犯罪活动有可乘之机。高仿造人脸、人脸合成、人脸融合、人脸“创造”给别有用心者伪造身份、冒用身份、掩护身份提供了便利。比如，危害国家安全人员、逃避边控措施，间谍可以抵近或进入我军事敏感区、要害部门实施偷拍、窃密行为；黑客利用AI算法攻击我要害部门的身份识别系统，进行捣乱破坏。




2. 为反共反华势力造谣煽动攻击抹黑提供便利。随着AI换脸技术的成熟，B站、youtube上出现大量伪造合成的恶搞奥巴马、特朗普的视频。下步，反华反共势力必然将目标对准我国家领导人或有影响力的公众人物，结合图片PS技术，进行造谣、抹黑、丑化、侮辱。鉴于视频形象生动逼真，具有较大的欺骗性。这些伪造公众人物的视频、讲话，或者惑乱人心，或者制造恐慌，或者打击公众信心，或者损害国家形象，制造负面影响。




3. 恐怖活动和对抗我反恐举措风险加大。当前，恐怖活动泛滥，包括美国在内的一些政府实施国家恐怖主义，对别国领导人和重要科学家进行“斩首”行动。据称，某些国家已在秘密研究开发基于人脸识别的AI杀伤性武器。该武器将人脸识别和机器人控制等最新的人工智能技术结合起来，通过雷达、摄像头等获取战场信息，基于体态、人脸识别锁定目标并攻击。另一方面，我国多地利用人脸监测进行反恐活动，目前效果较好。但狗急跳墙，恐怖分子走投无路之下，必然会寻求使用各种反人脸识别技术和工具，逃避侦察打击。




4. 出现系统性风险事故概率上升。当前，各类人脸信息处理技术得到广泛应用，加上政府部门积极倡导，逐渐成为社会基础设施和公共产品。但是，人脸相关技术无不依赖人工智能和机器学习，后者又离不开大规模人脸数据“喂料”、“滴灌”，因此人脸数据作为高敏感的生物数据，是国家的重要战略资源。这些产品、技术、数据大量掌握在企业和社会组织（包括一些境外公司）手中，一旦相关技术在底层出现重大漏洞，相关数据被大规模窃取，反华势力在关键时刻利用科技优势，网络主导优势、信息安全优势对我实施攻击，难保不引发系统性风险灾难。




5. 存在生物武器攻击风险。这次新冠疫情，有科学家怀疑病毒是美国军方实验室针对亚洲人的生化武器。无论情况是否属实，邪念已经生起，极端势力迟早会打开这个潘多拉的魔盒。虽然现在技术上还不明朗，但一个种族、国家的人脸数据被大规模收集、分析、利用，不排除未来敌对国家会制造特定的生物武器攻击他国。




五、应对措施




习近平总书记强调：要统筹发展和安全，防范和化解影响我国现代化进程中的各类风险，筑牢国家安全屏障。因此，在维护国家安全方面必须树立底线思维，居安思危，防微杜渐，下好先手棋，打好主动仗。




1. 完善相关法律法规。建议国家层面尽快完善包括人脸识别在内的人体生物信息数据采集、存储、使用法律法规，划定人脸识别技术使用和人脸数据交换边界，并建立人脸识别技术应用申报备案和审批制度。遵循“必要性”“正当性”“最小化”的数据采集原则和“负责、公平、可追踪、可靠和可控”的系统使用规则，防止因商业利益滥用此技术。




2. 加强数据模型管控。当前，数据和技术深度介入公共治理和监管，掌握技术和数据的企业和组织，与政府一齐成为公共治理的有机力量。但某些头部公司，利用平台垄断、技术垄断、数据垄断，坐大成势，为谋取暴利损害公共利益、社会利益，将风险转移给政府。更有甚至，对抗政府监管，用技术裹挟、反制政府，形成政府之外的另一种力量，极易被敌对势力利用。因此，对于涉人脸的相关数据、技术、模型有必要由政府部门掌控。在存储上，可由公安部门在国家和省级层面建立人脸大数据中心，在物理隔绝的专网内存储人脸数据。算法供应商的模型必须在公安专网的大数据中心内进行训练，实现数据、模型物理上不出专网。




3. 加强涉人脸技术和数据安全工作。当前，中美对抗的核心是科技，科技的前沿是人工智能，人工智能的背后是场景和数据支撑。中国能在人脸识别和自动驾驶等领域技术领先美国，原因就在于我们人口多，应用范围大，领域和场景丰富，数据齐全，能实现技术的快速迭代。要保持这个优势就必须重视敏感领域的技术和数据安全。一是重点突出，以密码技术为核心，形成人脸数据产生、传输、使用、存储全流程全覆盖的安全体系。二是要多管齐下，同时融合运用大数据、人工智能、区块链在提升安全方面的优势。三是独立自主，在敏感领域大力推动信息化自主可控建设。




4. 在要害领域禁止或有限使用人脸相关技术。对于涉及国家安全的关键性部门、部位，谨慎使用人脸、指纹等生物特征验证技术，或者综合多种手段进行身份验证，对于该类技术应用，必须综合多种安全措施进行保护。




5. 加大宣传教育力度。以总体国家安全观为统领，在全社会开展信息化、网络、数据安全、涉生物特征类信息技术的相关知识的科普教育，提高社会、企业和国民对公共安全、国家安全的认识，强化维护国家安全的意识和自觉，形成人人有责、人人履责、人人尽责的良好局面。




（作者系珠海市公安局高级警长；来源：昆仑策网【原创】，