首页 资讯 > > 正文

AI换脸技术不能野蛮生长

来源:经济日报 发布日期:2023-05-28 04:40:28 分享到:


(资料图片)

近日,内蒙古包头警方公布一起利用人工智能换脸技术实施诈骗的案件。相较于传统电信诈骗,此类诈骗利用AI换脸技术绕过面容核验等防范措施,更具欺骗性。为AI换脸技术加装安全网尤为必要。

人工智能技术在促进社会经济发展的同时,也暴露出一定风险。以AI换脸技术为例,普通用户获取教程并不难。除被用作电信诈骗,AI换脸还被用于冒充名人直播带货,合成视频贩卖营利,甚至诽谤、敲诈勒索他人等。

AI换脸技术打破了眼见为实的传统认知,如不加干预,随着技术迭代升级,AI换脸或将愈发逼真,反诈防骗难度进一步加大,因验证身份带来的交易成本也将提升。技术研发者、平台运营方以及监管部门等有责任堵住漏洞,防范AI换脸野蛮生长。

要为AI换脸技术划定红线。目前,对生成式人工智能的治理,已告别无法可依。生成式人工智能技术的使用原则、规则得以确立,各方权利、义务与责任基本明确,有利于AI技术滥用的源头治理。各类科技企业、开发者也应主动开展合规自查,引导技术向善。

要从根源铲除AI换脸诈骗赖以生存的土壤。人脸的深度伪造,离不开对目标人脸的模型学习与面容合成、通信协议破解技术的配合。公安、网信等部门应形成合力,从数据安全、技术研发、图像传播等方面全链条打击AI技术滥用行为。各平台也应对用户上传的图像进行技术处理。

要以科技赋能提升用户反诈能力。AI换脸虽可暂时蒙骗人眼,但在技术层面的留痕却难以被掩盖。要加快推动AI生成图像识别、鉴真技术的应用,短视频平台、社交软件等要对合成图像进行显著标注,帮助用户辨别真伪,让诈骗无处遁形。 (本文来源:经济日报 作者:史书一)

关键词:

x 广告

青海发放一次性扩岗补助258万元 推进补助资金发放工作

10月4日,记者从青海省人力资源和社会保障厅获悉,为鼓励企业积极吸纳高校毕业生就业,省社会保险服务局继续加大助企纾困一揽子政策落实力

河北印发出台通用机场布局规划(2021-2030年)

到2030年,全省形成以A类通用机场为主体、B类通用机场为补充,功能完善、覆盖广泛的通用机场体系,全省通用机场达到23个。其中,到2025年全

复原民国旧菜单 一批“消失的名菜”重现羊城

  中新网广州12月5日电 (记者 程景伟)“粤宴中国·消失的名菜”活动4日晚在广州博物馆镇海楼广场举行,一批业已失传或十分罕见的传统粤

青海再度“双清零”:战“疫”催生定点救治医院反思与成长

  中新网西宁12月5日电 题:青海再度“双清零”:战“疫”催生定点救治医院反思与成长  作者 潘雨洁  全面停诊、四下无人;火线冲

世界海拔最高高铁客运站山丹马场站运营

  中新网兰州12月5日电 (记者 杨艳敏)记者从中国铁路兰州局集团有限公司获悉,12月5日10时29分随着嘉峪关南至西安北D2696次动车组列车

千年古都洛阳为何要建青年友好型城市?

  中新网洛阳12月5日电 题:千年古都洛阳为何要建青年友好型城市?  记者 肖开霖 李贵刚  千年古都洛阳日前公布《洛阳市建设青年

甘肃万余河长公示牌拥有“电子身份证” 局地启“千里眼”治水

  中新网兰州12月5日电 (记者 冯志军)记者5日从甘肃省水利厅获悉,今年以来,甘肃全面推动河长公示牌信息化建设,为全省河流换发“电子

满洲里市向呼伦贝尔市“手递手”异地转运3批次隔离人员

  (抗击新冠肺炎)满洲里市向呼伦贝尔市“手递手”异地转运3批次隔离人员  中新网呼伦贝尔12月5日电 (记者 张玮)5日,内蒙古自治区呼

x 广告

Copyright   2015-2022 华南海洋网版权所有  备案号:粤ICP备18025786号-52   联系邮箱: 954 29 18 82 @qq.com