浙江绍兴警方成功侦破“利用生成式人工智能造谣”“AI换脸”等案件——

警惕利用人工智能进行新型犯罪新动向

人工智能技术飞速发展，一些不法分子利用其进行违法犯罪活动，给网络安全带来了严峻挑战。近期，浙江绍兴市公安局破获多起涉人工智能案件。

(资料图)

今年6月，绍兴上虞区警方发现有网民发布了关于上虞工业园区发生火灾的视频，浏览量在短时间内迅速上升。视频中，上虞区一工业园区内火势猛烈，整个园区被浓烟覆盖，现场不时传出爆炸声，场面惊心动魄。

民警核查发现，视频中的建筑、森林大火场景，并非该工业园真实场景，并且疑似源自其它视频。经分析，民警判断该视频是利用人工智能合成技术，将网络上多段不同视频剪辑拼接而成。警方经侦查，认定某网络科技公司员工有较大作案嫌疑，立刻赴该公司所在地抓获包括汤某在内的3名犯罪嫌疑人。

“犯罪嫌疑人首先在网上搜集热门话题，通过生成式人工智能服务自动生成脚本，在网上抓取相关视频片段，然后利用AI软件合成完整视频，配上音乐、字幕。不到一分钟，一段虚假视频便‘新鲜出炉’。”上虞区分局民警沈林丰介绍，为获得流量、博人眼球，自今年5月以来，该团伙不断利用AI技术制作虚假视频、散布谣言，在网上发布未经核实的虚假视频达3000多个。

随着人脸识别技术越来越普及，一些不法分子开始利用“AI换脸”等技术实施盗窃、诈骗等犯罪，引发了公众对于个人信息保护的担忧。

“我的APP好像被黑了！”今年4月13日，绍兴市民朱女士到辖区派出所报案，称有人登录某政务APP，擅自下载了朱女士公司的电子营业执照。接警后，上虞区分局迅速展开侦查，很快确认曾某某有重大作案嫌疑。

经审查，犯罪嫌疑人曾某某利用自己的手机号码注册账号，并通过朱女士的姓名、身份证号等信息进行实名认证，然后通过人脸识别进行绑定，最终成功登录账号进行作案。

“曾某某通过网购店铺引流，利用‘客户’提供的人脸照片，通过专业AI软件制作合成人脸动图，以人脸识别验证方式登录各类APP，非法获取相关信息。”上虞区分局相关负责同志介绍。

“每次交易价格不等，只是觉得这样挣钱比较容易，没想到已经触犯到了法律。”曾某某悔不当初。据了解，曾某某通过此类手段共制作动态人脸1000多个，获利9万多元。目前，曾某某已被采取刑事强制措施，案件正在办理中。

公安部网络安全局相关负责人介绍：“犯罪分子用于实施‘AI换脸’的物料主要为照片，特别是身份证照片，同时结合人员姓名、身份证号来突破人脸识别验证系统。为防范和打击此类新型犯罪，公安机关联合国家重点实验室等单位，开展人脸识别与活体检测技术安全测评，覆盖了境内用户量大、问题隐患突出的各类重点APP，及时发现人脸识别验证系统存在的风险隐患，通报运营主体升级安全保护措施和人脸识别算法。”据介绍，公安机关依托“净网”专项行动，组织专项会战，严打泄露身份证照片等图像信息的犯罪源头，破获多起“AI换脸”案件，抓获相关犯罪嫌疑人，有效遏制了该类犯罪势头。

“不法分子滥用人工智能技术，给社会带来严重危害，也触犯了相关法律。”警方人士介绍，根据法律规定，使用人工智能技术制作散布虚假信息，扰乱社会秩序，可能构成编造、故意传播虚假信息罪；利用人工合成技术破解他人账号、窃取他人个人信息，则可能构成侵犯公民个人信息罪。此外，如果使用人工智能等技术手段来从事欺凌、恐吓、威胁等行为，就可能构成寻衅滋事罪等。

“人工智能技术操作简单、可定制性强、应用场景广泛，降低了链条式犯罪的难度，被黑客等不法分子利用后危害性极大。”绍兴市公安局上虞区分局相关负责人表示，对人工智能技术产生的新应用、新业态，公安机关将坚守价值引领与技术“纠错”并行，保护人工智能技术健康发展的同时，防范打击利用人工智能技术侵犯公民权利、危害公共安全的新型案件，维护风清气正的网络环境，全力保障网络空间安全。

与此同时，办案民警提示，要警惕利用人工智能进行新型犯罪新动向，建议个人要加强信息保护意识，防止信息泄露，不轻易提供人脸、指纹等个人生物信息给他人；管理好自己的“朋友圈”，尽量避免过多暴露隐私；警惕不明平台发来的广告、中奖等链接，不随意点击填写信息，以免上当受骗。

（）

标签：