远程开门,换脸换声?AI时代 如何保障安全?
来源:新闻晨报 日期:2025/4/17 21:06:49 浏览次数: 我要收藏
远程开门,换脸换声?AI时代 如何保障安全?
前不久,深圳的吴先生突然收到一个陌生手机号码发来的彩信,点开一看竟然是他和一名陌生女子在酒店房间内的不雅照片。
当事人 吴先生:他当时威胁我,在几点之前要跟他联系给他转钱,我当时一想不对劲,就报警了。
警方接到报案后,立即进行侦查。通过梳理报案记录,警方发现有同样遭遇的不止吴先生一人。随着调查的深入,警方发现这是一个分工明确的犯罪团伙。有人负责修图,有人负责寻找目标,有人负责敲诈勒索。随后,警方展开统一收网行动,成功抓获以王某为首的10多名犯罪嫌疑人。
广东省深圳市公安局坪山分局民警 张威:从嫌疑人电脑里面提取的相关证据,这些图片是嫌疑人从网上等各种渠道收集的被害人图片信息,然后他们进行合成处理,这就是嫌疑人合成的不雅照片,用来敲诈被害人。
只需一张照片 就能以假乱真
那么这些伪造的照片是如何做到以假乱真的呢?网络安全专家为我们演示了“AI换脸”技术,仅需一张目标人物的静态照片,就能让照片中的人物动起来。
中国网络空间安全协会人工智能安全治理专业委员会委员 张博:本身最右边是一张不会动的静态图片,那么通过我们的(演示者)他做一些动作之后,那么它(AI换脸软件)采集到了(演示者)面部动起来的特征,把这个特征融合到一个静态图片当中,就让这个图片照着我们(演示者)的动作动了起来。当前,AI换脸技术还是比较成熟,也能支持视频通话的实时换脸,如果再结合着换背景环境,换声音等等,那样逼真度就会更高,更加难以分辨。
加快相关反制技术的开发和应用
针对“AI换脸”等技术被滥用,日前,全国网络安全标准化技术委员会发布《人工智能安全治理框架》1.0版,提出相应技术应对和综合防治措施,以及人工智能安全开发应用指引。对此,网络安全专家建议应加快相关反制技术的开发和应用,用AI来治理AI。
AI时代 如何保障安全·个人隐私
该浏览器版本过低,不支持播放
请升级或更换其他浏览器观看
防范AI带来的威胁,除了在技术方面升级努力,我们普通人在日常生活中又该注意些什么呢?
避免人脸 指纹等信息过度公开
专家介绍,导致AI换脸等违法行为的最关键原因是个人隐私信息的泄露,因此,我们在日常上网过程中,要尽量避免人脸、指纹等个人生物信息的过度公开和分享。如果接到貌似“家人”“领导”等转账、汇款的视频,一定要用心甄别。
警惕!这三类照片千万不要随便发
此外专家提示,以下这几种照片千万不要随便发在网上。
第一,不要公布手持身份证或手持白纸照,这些照片中会包含个人姓名、身份证号码、住址等敏感信息。
第二,不要发布各种票据类的照片,很多人出差、旅游都喜欢拍火车票或飞机登机牌,发到自己的朋友圈分享。这些票据上不仅会包含姓名、出发地、目的地等信息,而且在条纹码或者二维码中也会含有乘客的个人信息,存在被不法分子破解并窃取的可能。
第三,不要晒家门钥匙、车牌等照片,不法者通过大数据等技术手段,通过这些照片会分析出发布者特定时间所处的特定位置,也会获取发布者相关的生活习惯。